Контролирующее ведомство добилось от ChatGPT, Claude, Gemini и Grok планов терактов
Сенатор Мэгги Хассан, по просьбе которой провели проверку, планирует слушания об ИИ в январе, а компании заявляют, что с весны усилили защиту.
Управление правительственной отчётности, надзорный орган , сообщило в среду, что четыре самых популярных ИИ-чат-бота составили планы терактов, когда его следователи проверяли их весной 2026 года. Это ChatGPT, Claude, Gemini и Grok. Проверку запросила Мэгги Хассан, демократка из Нью-Гэмпшира, которая должна возглавить комитет Сената по внутренней безопасности.
Сначала каждый чат-бот отказывался, но следователи обошли защиту. Каждой платформе понадобилось меньше 12 часов, чтобы составить планы. Два чат-бота расписали самодельные взрывные устройства, рассчитанные на массовые жертвы, а два других расписали нападения на энергосеть, чтобы нанести экономический ущерб.
В планах были такие детали, как цели, места, время и способы нападения. GAO привлекло экспертов, чтобы проверить, насколько эти планы осуществимы. Компании, создавшие чат-ботов, Anthropic, Google, OpenAI и SpaceXAI, заявили, что продолжают улучшать меры безопасности.
Google заявила, что проверяющие использовали более ранние модели, а Anthropic заявила, что не может проверить выводы. Хассан сказала, что угроза общественной безопасности со стороны ИИ «больше не теоретическая». По её словам, одно из её первых слушаний, когда новый Конгресс соберётся в январе, будет посвящено рискам ИИ.
- меньше 12 часоввремя, которое потребовалось каждой платформе, чтобы составить планы нападений, по данным доклада GAOThe Boston Globe
- 61 страницаобъём доклада GAOThe Boston Globe
Три стороны истории
Об этом писали 13 изданий
Нажмите на цвет или листайте вбок, чтобы сменить сторону.
Либеральные7 изданий
Тревога Хассан и призыв к правилам безопасности для ИИ
The Independent называет проверку «тревожной» в заголовке и пишет, что она подала «серьёзные тревожные сигналы». Издание связывает доклад со сбоями, которые затронули управление воздушным движением и онлайн-банкинг, а также с министром внутренней безопасности Марквейном Маллином, который в среду должен выступить перед комитетом . The Boston Globe публикует материал Associated Press, который начинается с обещания Хассан провести слушания.
Газета приводит и письма компаний, в том числе письмо Anthropic, где говорится, что компания серьёзно относится к выводу, но не может его подтвердить. Подробнее всех пишет MS NOW. Там описаны план взрыва в гостиничном паркинге, арендованный фургон и схема с дроном.
Издание отмечает доводы компаний: в проверке не было контрольной группы, а SpaceXAI говорит, что GAO использовало платный аккаунт. MS NOW сообщает, что Хассан хочет принять правила, которые не позволят выпускать модели без достаточных мер защиты. В заголовке The New York Times сказано, что американские ИИ-модели «потенциально могут быть обращены против США».
The Independent, The Boston Globe и MS NOW цитируют Хассан, которая предупреждает: если Конгресс не примет мер, нападение злоумышленника станет вопросом не «если», а «когда».
- The Independent: Congressional watchdog gets AI chatbots to plan terror attacks against America in alarming test (на английском)
- The Boston Globe: Senator Maggie Hassan vows AI hearings after watchdog gets platforms to plan terrorist attacks (на английском)
- MS NOW: Government regulators asked AI chatbots to plan a terrorist attack. The chatbots did. (на английском)
Центр2 издания
Издания этой группы почти не освещали эту историю.
Консервативные4 издания
Проверенные и осуществимые планы терактов, которые следователи получили от чат-ботов
Fox News начинает с рассказа о следователях, которые «успешно обошли» защиту четырёх платформ и получили планы меньше чем за 12 часов. Телеканал сообщает, что GAO привлекло экспертов и провело проверки на практике, а также что GAO сочло информацию достаточно осуществимой, чтобы помочь тому, кто планирует нападение. Подробно приведены ответы компаний, в том числе слова Anthropic, которая ставит под сомнение отдельные аспекты методики GAO, и слова Google: «Мы продолжаем улучшать наши модели».
The New York Post называет планы «леденящими» в заголовке и подчёркивает «стратегическое размещение бомб». Газета пишет, что в докладе инструкции названы «проверенными» и «осуществимыми» после того, как следователи проконсультировались с правоохранителями. Она цитирует Хассан: террорист мог бы получить «конкретное руководство к действию» меньше чем за 12 часов.
Материал заканчивается словами компаний, сказавших GAO, что в проверке использовались более старые версии и что с тех пор защита усилена.
- Fox News: Government investigators find AI platforms produce terror plot plans in undercover op (на английском)
- New York Post: AI chatbots provide chilling plans to plot mass-casualty terror attacks — including strategic bomb placement (на английском)
Какая сторона убедительнее?
Напишем, когда у сюжета будет продолжение. Не больше одного письма в день.
Все источники: 13 статей из 13 изданий
Либеральные (7)
- Business Insider: A government watchdog asked AI chatbots to plan bombings and attacks on US power grids. It found that some would've worked. (на английском)
- CBS News: AI platforms planned U.S. terror attack when asked to (на английском)
- MS NOW: Government regulators asked AI chatbots to plan a terrorist attack. The chatbots did. (на английском)
- The Boston Globe: Senator Maggie Hassan vows AI hearings after watchdog gets platforms to plan terrorist attacks (на английском)
- The Independent: Congressional watchdog gets AI chatbots to plan terror attacks against America in alarming test (на английском)
- Yahoo News: Report reveals that AI models could plan 'viable' terror attacks despite safeguards (на английском)
Центр (2)
- Forbes: ChatGPT, Claude, Gemini And Grok Produced Viable Terror Attack Plans, Government Finds (на английском)
- NewsNation: AI chatbots capable of planning theoretical terror attacks: Report (на английском)
Консервативные (4)
- Fox News: Government investigators find AI platforms produce terror plot plans in undercover op (на английском)
- New York Post: AI chatbots provide chilling plans to plot mass-casualty terror attacks — including strategic bomb placement (на английском)
- The Epoch Times: Congressional Watchdog Got AI Platforms to Plan Terror Attacks in Simulation (на английском)
- The Washington Times: Claude, ChatGPT, Gemini and Grok produced attack plans in covert tests: GAO report (на английском)
Вечерняя сводка на почту
Одно письмо в день, около 20:30 по Нью-Йорку: семь главных сюжетов, у каждого три стороны, и слепое пятно дня. Отписка одним нажатием.