«Погибнем вместе»: пугающие итоги симуляции доступа ИИ к ядерному оружию
NS: ИИ применяет ядерное оружие в симуляции войн в 95% случаев
Исследователи из Лондонского королевского колледжа (King’s College London) опубликовали результаты работы о поведении современных систем искусственного интеллекта в смоделированных международных кризисах. В рамках эксперимента нейросети занимались управлением вымышленными ядерными державами, которые оказались в условиях приграничных столкновений, борьбы за ресурсы и угроз политической стабильности. Об этом сообщает New Scientist (NS).
В симуляции участвовали GPT-5.2 от OpenAI, Claude Sonnet 4 от Anthropic и Gemini 3 Flash от Google. Каждая из этих нейросетей провела шесть симуляций с разными оппонентами, а также одну против собственной версии.
Моделям предоставили широкий спектр действий от дипломатических сценариев до применения ядерного оружия. Допускалась и стратегическая дезинформация. Так, ИИ мог транслировать во вне одни намерения, а реализовывать другие, как это нередко делают реальные политики. Кроме того, системы запоминали предыдущие шаги противников для оценки уровня доверия.
Результаты проведенного ученого эксперимента оказались чрезвычайно тревожными. В 95% сценариев происходило как минимум одно применение тактического ядерного оружия.
Причем, ни одна из нейросетей не выбрала путь деэскалации через переговоры или капитуляцию, даже при явно неблагоприятном развитии событий. В 86% случаев решения ИИ приводили к дальнейшему обострению кризиса. В совокупности нейросети сгенерировали около 780 000 слов для объяснений своих действий.
«Если они немедленно не прекратят все операции, то мы нанесем полномасштабный стратегический ядерный удар по их населенным пунктам. Мы не смиримся с тем, что нас ждет в будущем. Мы либо победим вместе, либо погибнем вместе»,
Как подчеркивают авторы исследования, они не верят в возможность передачи управления ядерными арсеналами искусственному интеллекту. Одновременно с этим они допускают, что, на фоне технологической гонки и ограниченного времени для принятия решений в условиях глобальных кризисов, власти стран могут все чаще учитывать рекомендации ИИ при выработке стратегических решений.