В центре внимания технологического сообщества вновь оказался вопрос безопасности искусственного интеллекта. На этот раз дискуссию подогрел неожиданный альянс: Илон Маск публично поддержал генерального директора Anthropic Дарио Амодеи, который выступил с жесткой критикой текущего состояния дел в индустрии. Маск, известный своим скептицизмом в отношении ИИ, назвал диалог «интересным» и выразил надежду на то, что сверхинтеллект будет «добр» к человечеству. Это заявление прозвучало практически одновременно с комментарием Амодеи, который признал: «Самая справедливая критика в адрес компаний, занимающихся ИИ, включая Anthropic, — мы до сих пор не выполнили главное обещание: принести пользу миру».
Спор разгорелся после того, как инвестор Гэвин Бейкер из Кремниевой долины указал на то, что слухи об Амодеи распространяются быстрее, чем его реальные заслуги. Однако сам глава Anthropic парировал обвинения в излишнем пессимизме, подчеркнув, что его публичные выступления лишь отражают баланс между рисками и выгодами, который часто теряется в коротких интервью. По его словам, работа «Machines of Loving Grace» о плюсах ИИ появилась именно потому, что отрасль слишком сгустила краски.
Глубинная причина недоверия к ИИ
Амодеи видит корень проблемы не в самих технологиях, а в многолетнем недоверии общества к корпорациям, госструктурам и IT-индустрии. Это подозрение, копившееся десятилетиями, автоматически переносится на искусственный интеллект. Именно поэтому он предлагает радикально изменить подход к регулированию: вместо добровольных обещаний — обязательное тестирование ведущих моделей. В июне он уже обращался к G7 с предупреждением об опасности разрозненных национальных правил, которые могут создать хаос на глобальном рынке.
Маск, в свою очередь, усилил философский аспект спора. Повторив мысль Навала Равиканта о том, что «нельзя создать бога и посадить его на поводок», он фактически признал: если человечество потеряет контроль над сверхинтеллектом, останется лишь уповать на его добрую волю. Это не просто абстрактная дискуссия — это вопрос о том, кто будет держать рычаги власти в новой технологической эпохе.
Два пути к безопасности
В качестве решений Амодеи рассматривает два подхода: предварительную проверку моделей, предложенную администрацией Трампа, и создание регулятора по образцу FINRA, идею Демиса Хассабиса из Google DeepMind. Оба варианта имеют право на жизнь, но пока индустрия буксует. Примечательно, что Маск, ранее критиковавший закрытость OpenAI, видит в Anthropic альтернативный путь развития — более открытый и ориентированный на безопасность.
Впрочем, сам Амодеи избегает громких лозунгов вроде «ИИ вылечит рак». Его личная мотивация глубже: его отец умер от гепатита C незадолго до появления эффективных лекарств. Он уверен, что ИИ в биологии способен излечить большинство болезней за 5–10 лет, но настоящая польза — в реальном лечении, а не в маркетинговых обещаниях. Показательно, что Anthropic уже сотрудничает с Pfizer, рассматривая ИИ как ключевую инфраструктуру медицины.
Мой анализ: Этот союз Маска и Амодеи — знаковый сигнал для рынка. Если два таких разных игрока сходятся во мнении о необходимости жесткого контроля, значит, индустрия действительно подошла к критической точке. Для криптоинвесторов это также напоминание: в эпоху, когда технологии становятся неуправляемыми, ценность децентрализованных и прозрачных систем (включая блокчейн) будет только расти. Вопрос лишь в том, успеем ли мы построить защитные механизмы до того, как «доброта» ИИ станет единственной гарантией нашей безопасности.