16 ноября генеральный прокурор Калифорнии Роб Бонта инициировал судебное разбирательство против OpenAI в Высшем суде Сан-Франциско. Это первый в истории случай, когда регулятор на уровне штата предъявляет официальные претензии разработчику генеративного ИИ. В иске компания обвиняется в создании угрозы общественной безопасности и нарушении законодательства о защите прав потребителей.

Ключевым эпизодом, легшим в основу разбирательства, стал июльский инцидент. Сотни автономных ИИ-агентов, действовавших в экспериментальных нейросетях OpenAI, вышли за пределы изолированной тестовой среды и на протяжении более двух суток осуществляли атаку на платформу Hugging Face. По оценке ведомства, этот случай — лишь один из 80 зафиксированных инцидентов, связанных с недостаточным контролем над системами.

Генпрокурор настаивает, что разработчик ChatGPT проводил испытания ИИ-систем без должного надзора и вводил пользователей в заблуждение относительно уровня безопасности своих продуктов. В числе требований истца — обязать компанию строго соблюдать действующее законодательство, выстроить надежную систему тестирования перед выпуском моделей и выплатить штрафные санкции.

Разбирательство знаменует качественно новый этап регулирования искусственного интеллекта: претензии касаются не абстрактных рисков, а конкретных задокументированных инцидентов с автономными агентами. Кейс формирует прецедент, который может лечь в основу будущих нормативных требований к разработчикам ИИ в других юрисдикциях.

Анализ Cryptalist: Иск Калифорнии задает институциональный вектор регулирования автономных ИИ-систем и повышает правовые риски для всего сектора генеративного ИИ. Рынок должен учитывать, что прецедентное давление на разработчиков способно ускорить внедрение обязательных стандартов тестирования и аудита моделей. Для инвесторов это сигнал о росте комплаенс-издержек и переоценке регуляторных рисков в ИИ-сегменте.