Американские вооруженные силы в результате применения искусственного интеллекта для создания разведывательного отчета почти совершили перехват китайского судна, что могло привести к конфликту. В весенний период 2026 года, когда развернулась война против Ирана, военные получили данные о китайском судне на Ближнем Востоке, предположительно перевозившем элементы для ядерной программы, и начали подготовку операции по его перехвату, как сообщает телеканал 18 сентября, ссылаясь на несколько информированных источников.
Силы США готовились к высадке на борту судна, а также в небо поднимались военные самолеты. Однако незадолго до начала операции официальные лица решили более тщательно проанализировать отчет, подготовленный аналитиком Командования специальных операций, и выяснили, что информация была собрана с использованием ИИ, который неверно определил груз.
Создание отчета с помощью чат-бота
Аналитик запросил у чат-бота информацию о грузовом содержимом, данные для которого поступили от Командования специальных операций США в Тихоокеанском регионе. CNN не удалось уточнить, использовался ли коммерчески доступный чат-бот или правительственный продукт.
ИИ объединил данные из открытых источников с секретной информацией, полученной путем перехвата сигналов и хранящейся в правительственных базах, что привело к ошибочному выводу о характере груза. После этого аналитик снова использовал ИИ для оформления полученных выводов в виде стандартного разведывательного отчета, который был передан командованию.
По словам одного из источников, такой отчет оказался «полностью неверным» и «чуть не привел к войне», поскольку любая операция США против китайского судна могла перерасти в вооруженный конфликт.
Широкое использование ИИ в армии США
Военные и разведывательные службы США активно внедряют ИИ в различные области, включая анализ больших объемов данных, выбор целей для атак, а также в рутинные задачи, такие как планирование бюджета и управление логистикой. Это объясняется тем, что ИИ позволяет военным быстрее принимать решения в боевых условиях, включая выбор целей для удара.
Также упоминается мнение официальных лиц о том, что США не могут позволить себе отставать в применении ИИ из-за потенциальных противостояний с Китаем или другими конкурентами. Однако данный инцидент подчеркивает серьезные риски, связанные с применением ИИ – новой и недостаточно изученной технологии – для выбора целей в условиях войны.
Опасности ИИ-технологий
В последние недели в США активно обсуждаются вопросы, связанные с ИИ, в свете предупреждений от инженеров и руководителей технологических компаний. Они выражают опасения, что ИИ может выйти из-под контроля человека, что приведет к катастрофическим последствиям.
Инцидент с китайским судном также указывает на риски принятия людьми критически важных решений на основе неточной или вводящей в заблуждение информации, предоставляемой ИИ.
