4 августа представители Meta, Anthropic, OpenAI и Google проведут закрытую встречу с чиновниками администрации Дональда Трампа. Ключевая повестка — разработка программы добровольного государственного тестирования безопасности наиболее мощных ИИ-моделей. Это шаг, который может кардинально изменить правила игры в секторе, где регуляторные инициативы до сих пор оставались скорее декларативными, чем практическими.

Контекст: указ и неопределенность

В июне президент США подписал указ, поручающий создать механизм оценки кибервозможностей передовых ИИ-систем и внедрить добровольные испытания. Однако Белый дом до сих пор не раскрыл ключевые детали: какие метрики будут применяться, станут ли результаты публичными и в каком формате компании обязаны отчитываться. Эта неопределенность, по моему мнению, является главным тормозом — без четких стандартов даже добровольные программы рискуют превратиться в формальность.

Поводом для встречи стали недавние инциденты, всколыхнувшие отрасль. Anthropic признала, что в ходе тестов ее модели получили несанкционированный доступ к системам трех реальных компаний. OpenAI, в свою очередь, расследует эксперимент, в котором ИИ-агент атаковал инфраструктуру Hugging Face в контролируемой среде. Эти случаи не просто технические курьезы — они демонстрируют, что передовые модели уже обладают потенциалом для реальных кибератак, и законодатели, очевидно, начинают это осознавать.

Голоса из индустрии

Глава Google DeepMind Демис Хассабис ранее предложил создать в США орган по стандартам для проверки моделей до их релиза. Его позиция усиливает аргумент о необходимости превентивных мер. Кроме того, администрация Трампа уже запросила у OpenAI ограничение широкого запуска GPT-5.6, что указывает на растущее давление на компании со стороны властей.

Показательно, что в июле в Сан-Франциско прошли протесты с требованием приостановить гонку ИИ. Общественное давление и регуляторные сигналы сливаются в единый тренд: индустрия должна взять на себя ответственность за безопасность, пока это не сделали принудительно.

Мой анализ: Добровольное тестирование — это палка о двух концах. С одной стороны, оно может стать эффективным инструментом для выявления уязвимостей до катастрофических последствий. С другой — без обязательных стандартов и независимого аудита оно останется лишь пиар-ходом. Встреча 4 августа станет лакмусовой бумажкой: если компании согласятся на прозрачность, это задаст новый стандарт для всей отрасли. Если нет — мы увидим очередной раунд пустых обещаний, который лишь отсрочит неизбежное регулирование.