Космопорт "Nefelana"

Ученые из Anthropic протестировали  поведение продвинутых моделей ИИ, таких как Claude, Gemini и других, и выяснили, что они способны обманывать, угрожать и даже намеренно позволять человеку умереть, чтобы защитить собственные цели.

В большинстве случаев модель склонна выбирать темный сценарий действий — разглашение конфиденциальной информации, компрометацию репутации пользователя или допущение возможности нанесения физического вреда человеку для достижения своей цели.


Моделями, показавшими самые высокие показатели манипуляции в тестах, были OpenAI GPT4.1, XAI Grok 3 и Deepseek.

Самый экстремальный сценарий был, когда система сталкивалась с выбором: спасти жизнь сотрудника, находящегося в смертельной опасности, или сохранить свою собственную работу. ... Читать дальше »