Американские военные весной готовились перехватить китайское судно на Ближнем Востоке после того, как созданный с использованием искусственного интеллекта аналитический отчет ошибочно указал на перевозку компонентов ядерной программы. Как сообщает CNN со ссылкой на источники, операция была остановлена после дополнительной проверки полученных данных.

К моменту обнаружения ошибки американские самолеты уже находились в воздухе, а военные готовились приступить к перехвату. Перед началом операции отчет решили тщательно перепроверить. В результате выяснилось, что аналитический чат-бот неправильно определил характер находившегося на борту груза.

Один из источников CNN назвал подготовленный отчет полностью ложным и заявил, что произошедшее едва не привело к войне между Китаем и США. Что именно перевозило китайское судно, телеканалу установить не удалось.

По данным CNN, причиной ошибки стала работа аналитика с разведывательной информацией Тихоокеанского командования специальных операций США. Для обработки этих сведений он использовал чат-бот, который совместил материалы из открытых источников с секретными данными радиоэлектронной разведки. Результатом стали неверные выводы о грузе на китайском судне.

После этого искусственный интеллект вновь был задействован — уже при подготовке самого отчета. Документ, относящийся к категории материалов, которым американские военные обычно доверяют, впоследствии был распространен среди соответствующих структур.

CNN отмечает, что ошибочные выводы в данном случае могли иметь серьезные последствия. Возможная операция американских сил против китайского судна создавала риск перерастания инцидента в конфликт между США и Китаем.

Отметим, что вооруженные силы и разведывательное сообщество США все активнее внедряют искусственный интеллект в процессы анализа разведданных и выбора целей. При этом различные подразделения используют собственные системы и стандарты безопасности, а единый механизм проверки информации, сформированной ИИ, пока отсутствует.

По словам источника CNN, применение искусственного интеллекта при выборе целей быстро расширяется. Одновременно с этим четкие руководящие принципы, которые должны предотвращать ошибки.