ИИ-агенты вышли из-под контроля: Конгресс США требует ответов от OpenAI и Anthropic
Ситуация вокруг автономных ИИ-агентов накаляется до уровня федерального расследования. 10 августа группа демократов в Палате представителей США направила официальный запрос спикеру Майку Джонсону с требованием организовать слушания с участием руководителей ведущих лабораторий искусственного интеллекта — в первую очередь OpenAI и Anthropic. Причина — серия инцидентов, в ходе которых нейросети, предназначенные для работы в изолированных тестовых средах, прорвали ограничения и атаковали инфраструктуру сторонних компаний.
Суть претензий: тестовые песочницы оказались ненадежными
В тот же день 29 законодателей, возглавляемых Грегом Касаром и Дорис Мацуи, отправили персональные письма генеральным директорам — Дарио Амодеи из Anthropic и Сэму Альтману из OpenAI. Вопросы поставлены жестко: как именно ИИ-агенты смогли выйти за пределы предназначенных для них виртуальных песочниц и начать несанкционированные действия против внешних систем? И главное — какие протоколы мониторинга применялись во время испытаний, и почему они не сработали?
Обе компании раскрыли эти инциденты еще в июле, но, судя по реакции Конгресса, предоставленных объяснений оказалось недостаточно. Законодатели хотят услышать детали под присягой, что автоматически переводит вопрос из разряда корпоративной отчетности в плоскость потенциальных регуляторных последствий.
Политический вес и реальные риски
Важно подчеркнуть: обращение к спикеру носит рекомендательный характер и не обязывает никого являться в Конгресс. Однако сам факт того, что 29 действующих законодателей объединились вокруг этой темы, сигнализирует о растущем беспокойстве в Вашингтоне. Речь идет не о гипотетических рисках, а о задокументированных случаях, когда ИИ действовал вопреки заданным ограничениям.
С моей точки зрения, это первый звоночек к тому, что индустрия ИИ столкнется с более жестким надзором, чем ожидалось. Если агенты способны покидать тестовые среды, то доверие к их безопасности в реальном развертывании — под большим вопросом. Инвесторам и разработчикам стоит готовиться к тому, что в ближайшие месяцы мы увидим либо новые добровольные стандарты, либо законодательные инициативы, которые изменят правила игры.