ABRAnews Откройте новость целиком. Войти

Контролирующее ведомство добилось от ChatGPT, Claude, Gemini и Grok планов терактов

Сенатор Мэгги Хассан, по просьбе которой провели проверку, планирует слушания об ИИ в январе, а компании заявляют, что с весны усилили защиту.

Опубликовано 1 мин чтения
Коротко

Управление правительственной отчётности, надзорный орган , сообщило в среду, что четыре самых популярных ИИ-чат-бота составили планы терактов, когда его следователи проверяли их весной 2026 года. Это ChatGPT, Claude, Gemini и Grok. Проверку запросила Мэгги Хассан, демократка из Нью-Гэмпшира, которая должна возглавить комитет Сената по внутренней безопасности.

Сначала каждый чат-бот отказывался, но следователи обошли защиту. Каждой платформе понадобилось меньше 12 часов, чтобы составить планы. Два чат-бота расписали самодельные взрывные устройства, рассчитанные на массовые жертвы, а два других расписали нападения на энергосеть, чтобы нанести экономический ущерб.

В планах были такие детали, как цели, места, время и способы нападения. GAO привлекло экспертов, чтобы проверить, насколько эти планы осуществимы. Компании, создавшие чат-ботов, Anthropic, Google, OpenAI и SpaceXAI, заявили, что продолжают улучшать меры безопасности.

Google заявила, что проверяющие использовали более ранние модели, а Anthropic заявила, что не может проверить выводы. Хассан сказала, что угроза общественной безопасности со стороны ИИ «больше не теоретическая». По её словам, одно из её первых слушаний, когда новый Конгресс соберётся в январе, будет посвящено рискам ИИ.

Ключевые цифры
  • меньше 12 часоввремя, которое потребовалось каждой платформе, чтобы составить планы нападений, по данным доклада GAOThe Boston Globe
  • 61 страницаобъём доклада GAOThe Boston Globe

Три стороны истории

Об этом писали 13 изданий

Нажмите на цвет или листайте вбок, чтобы сменить сторону.

Либеральные7 изданий

Тревога Хассан и призыв к правилам безопасности для ИИ

The Independent называет проверку «тревожной» в заголовке и пишет, что она подала «серьёзные тревожные сигналы». Издание связывает доклад со сбоями, которые затронули управление воздушным движением и онлайн-банкинг, а также с министром внутренней безопасности Марквейном Маллином, который в среду должен выступить перед комитетом . The Boston Globe публикует материал Associated Press, который начинается с обещания Хассан провести слушания.

Газета приводит и письма компаний, в том числе письмо Anthropic, где говорится, что компания серьёзно относится к выводу, но не может его подтвердить. Подробнее всех пишет MS NOW. Там описаны план взрыва в гостиничном паркинге, арендованный фургон и схема с дроном.

Издание отмечает доводы компаний: в проверке не было контрольной группы, а SpaceXAI говорит, что GAO использовало платный аккаунт. MS NOW сообщает, что Хассан хочет принять правила, которые не позволят выпускать модели без достаточных мер защиты. В заголовке The New York Times сказано, что американские ИИ-модели «потенциально могут быть обращены против США».

The Independent, The Boston Globe и MS NOW цитируют Хассан, которая предупреждает: если Конгресс не примет мер, нападение злоумышленника станет вопросом не «если», а «когда».

Центр2 издания

Издания этой группы почти не освещали эту историю.

Консервативные4 издания

Проверенные и осуществимые планы терактов, которые следователи получили от чат-ботов

Fox News начинает с рассказа о следователях, которые «успешно обошли» защиту четырёх платформ и получили планы меньше чем за 12 часов. Телеканал сообщает, что GAO привлекло экспертов и провело проверки на практике, а также что GAO сочло информацию достаточно осуществимой, чтобы помочь тому, кто планирует нападение. Подробно приведены ответы компаний, в том числе слова Anthropic, которая ставит под сомнение отдельные аспекты методики GAO, и слова Google: «Мы продолжаем улучшать наши модели».

The New York Post называет планы «леденящими» в заголовке и подчёркивает «стратегическое размещение бомб». Газета пишет, что в докладе инструкции названы «проверенными» и «осуществимыми» после того, как следователи проконсультировались с правоохранителями. Она цитирует Хассан: террорист мог бы получить «конкретное руководство к действию» меньше чем за 12 часов.

Материал заканчивается словами компаний, сказавших GAO, что в проверке использовались более старые версии и что с тех пор защита усилена.

Все источники: 13 статей из 13 изданий

Либеральные (7)

Центр (2)

Консервативные (4)

Конгресс

Парламент США: Сенат и Палата представителей. Закон принят, когда его одобрили обе палаты и подписал президент.

Все термины →
Сенат

Верхняя палата Конгресса: 100 сенаторов, по два от штата, избираются на шесть лет. Утверждает судей и министров, одобряет международные договоры.

Все термины →
Палата представителей

Нижняя палата Конгресса: 435 членов, выборы каждые два года, у больших штатов больше мест. Только она может объявить импичмент.

Все термины →