- Переговоры между администрацией Трампа и компанией Anthropic зашли в тупик из-за нерешенных проблем, связанных с уязвимостями типа «взлом» в модели Claude Fable 5.
- Агентство национальной безопасности подтвердило, что барьеры безопасности могут быть обойдены для доступа к конфиденциальным данным в области кибербезопасности и биохимии, что приведет к ужесточению экспортного контроля.
- Эксперты отрасли предупреждают, что требование правительства о создании системы, на 100% защищенной от взлома (jailbreak), может быть технически невыполнимым из-за особенностей больших языковых моделей.
- Этот конфликт знаменует собой серьезный сдвиг в политике США, которые теперь рассматривают передовой искусственный интеллект как стратегическую национальную инфраструктуру, а не просто как коммерческое программное обеспечение.
Недавний тупик в отношениях между администрацией Трампа и компанией Anthropic вызвал волну в мире технологий, поскольку переговоры о выпуске модели Claude Fable 5 на этой неделе зашли в тупик. Несмотря на многодневные переговоры на высоком уровне с участием топ-менеджеров и правительственных чиновников, строгий экспортный контроль, введенный в отношении самых передовых разработок Anthropic в области ИИ, остается в силе. Нынешняя ситуация свидетельствует о том, что Вашингтон больше не намерен оставаться в стороне, пока лаборатории стремятся к созданию все более мощных систем без абсолютных гарантий безопасности.
В основе проблемы лежит метод, известный как «взлом ИИ», при котором пользователи манипулируют подсказками ИИ, чтобы обойти протоколы безопасности. Хотя компания Anthropic постоянно утверждала, что риски преувеличены, опасения администрации были подтверждены углубленным анализом, проведенным Агентством национальной безопасности. Эта ситуация, по сути, обозначила четкую границу, показав, что Белый дом теперь рассматривает передовые модели ИИ как стратегические национальные активы, требующие такого же уровня контроля, как и передовое вооружение или ядерные технологии.
Вмешательство АНБ и блокировка в «Басни Клода 5»
Напряжение резко возросло на прошлой неделе, когда Министерство торговли издало директиву, фактически перекрывшую международный доступ к Fable 5. Этот шаг не был просто случайным бюрократическим препятствием; он был спровоцирован после того, как генеральный директор Amazon Энди Джасси, как сообщается, предупредил министра финансов Скотта Бессента о потенциальных уязвимостях в системе. Когда АНБ вмешалось для проверки этих заявлений, оно пришло к выводу, что меры безопасности, призванные защитить высокоуровневую кибербезопасность и биохимические возможности модели Клода Мифоса, действительно могут быть обойдены.
Поскольку эти модели настолько тесно взаимосвязаны, взлом ориентированной на потребителя версии Fable 5 потенциально может передать ключи от королевства злоумышленникам, стремящимся использовать скрытую мощь Mythos. Компания Anthropic попыталась смягчить ситуацию, отключив модели по всему миру, заявив, что оперативно невозможно ограничить доступ исключительно для иностранных организаций. Это полное отключение оставило многих пользователей в затруднительном положении, но оно подчеркивает, что национальная безопасность теперь имеет приоритет над коммерческой доступностью в глазах правительства США.
Техническое поле битвы: возможен ли нулевой риск?
Хотя правительство хочет полного решения проблемы, многие в научном сообществе считают, что Вашингтон требует невозможного. В отличие от традиционного программного обеспечения, где можно просто залатать дыру в коде, взлом ИИ — это довольно изменчивая задача, поскольку он основан на нюансах человеческого языка, а не на конкретной технической ошибке. Эксперты отмечают, что до тех пор, пока эти модели разрабатываются с учетом гибкости и креативности, всегда найдется хитрый способ заставить их делать то, чего они не должны делать.
Компания Anthropic продвигает стратегию «многоуровневой защиты», которая фокусируется на мониторинге и быстром реагировании, а не на обещании идеальной защиты. Однако администрация Трампа, похоже, настаивает на более высоком стандарте проверяемой безопасности, прежде чем разрешить этой модели вернуться в реальную жизнь. Это столкновение философий создает много трений, поскольку технологические компании считают, что к ним предъявляются требования совершенства , которых просто не существует в реальном мире инженерии.
Последствия этого решения уже ощущаются во всей отрасли, сигнализируя о новой эре «теневого регулирования», где экспортный контроль используется в качестве основного инструмента надзора. Сделав Anthropic тестовым примером для этих новых правил , Белый дом посылает четкий сигнал другим гигантам, таким как OpenAI и Google. Если вы хотите внедрить модели нового поколения, вам нужно будет доказать федеральным властям, что ваши внутренние барьеры — это не просто вежливое предложение пользователю.
В дальнейшем акцент, вероятно, сместится на создание стандартизированной системы оценки этих рисков, чтобы решения не принимались на ходу во время экстренных совещаний. На данный момент экспортный контроль над Claude Fable 5 служит напоминанием о том, что эпоха «дикого запада» в развитии ИИ подходит к концу. Отрасль вступает в более стратегическую и, возможно, более ограниченную фазу, когда безопасность и инновации должны, наконец, найти способ сосуществовать под пристальным наблюдением национальных регуляторов.
