Информационный яд: почему в НАТО боятся манипуляций с искусственным интеллектом

Аналитики Центра передового опыта НАТО по стратегическим коммуникациям подготовили доклад под названием «Информационная среда нового поколения».

Эксперты пришли к выводу, что специальное «отравление» моделей искусственного интеллекта ложными или искаженными данными может превратиться в один из инструментов ведения информационной войны.

«Новый фронт в информационной войне включает намеренное „отравление“ западных ИИ-моделей с открытым исходным кодом, путем введения ложных данных, предназначенных для искажения будущих тренировочных циклов»,

По мнению авторов, в будущем ИИ-системы могут стать одними из самых авторитетных участников информационных процессов. Однако аналитики предупреждают, что манипуляции с данными и целенаправленное «отравление» моделей со стороны противников могут подорвать доверие общества к таким технологиям.

Напомним, что ранее агентство Reuters сообщило, что компании OpenAI, Anthropic, Google и xAI ведут переговоры с Пентагоном о развертывании своих нейросетей в закрытых сегментах военной инфраструктуры. Отмечается, что Минобороны США заинтересовано в использовании гражданских ИИ-технологий без стандартных ограничений, которые мешают их применению в боевых условиях.

По данным агентства, во время встречи в Белом доме главный технический директор Пентагона Эмиль Майкл дал понять представителям этих компаний, что военное ведомство намерено внедрять модели искусственного интеллекта как в открытых, так и в секретных доменах собственных сетей.