Маск вступает в дискуссию о рисках ИИ: поддержка Амодеи и философский подтекст
Генеральный директор Tesla и SpaceX Илон Маск неожиданно присоединился к развернувшейся в индустрии дискуссии о безопасности искусственного интеллекта, поддержав главу Anthropic Дарио Амодеи. Маск опубликовал сообщение, в котором выразил надежду на «доброжелательность» ИИ по отношению к людям, фактически солидаризировавшись с недавними предупреждениями Амодеи о потенциальных угрозах.
Поводом для обсуждения стал комментарий Маска «Интересный диалог» под постом Амодеи, где тот защищал свои прогнозы от обвинений в излишнем пессимизме. Инвестор Гэвин Бейкер из Кремниевой долины запустил дискуссию, отметив, что слухи об Амодеи быстро распространяются, поскольку совпадают с его публичными заявлениями.
Зачем Амодеи подчеркивает риски ИИ
Амодеи парировал критику, заявив, что его эссе «Machines of Loving Grace» о преимуществах ИИ появилось именно потому, что отрасль слишком сгущает краски. Он подчеркнул, что два его главных эссе делят внимание между рисками и выгодами поровну, а короткие интервью часто выглядят мрачно из-за кликбейт-формата.
Глубинная причина, по его словам, — недоверие общества к корпорациям и IT-индустрии, которое копилось десятилетиями и теперь переносится на искусственный интеллект. Это недоверие сказывается и на регулировании: Амодеи в июне предложил обязательное тестирование ведущих моделей вместо добровольных обещаний и предупреждал G7 об опасности разрозненных национальных правил.
«Самая справедливая критика в адрес компаний, занимающихся ИИ, включая Anthropic — мы до сих пор не выполнили главное обещание: принести пользу миру», — заявил Амодеи.
Маск вступает в спор о добрых намерениях ИИ
Маск назвал диалог интересным и обратил внимание на сложность спора. Помимо регулирования, обсуждаются философские вопросы. Навал Равикант сформулировал их так: «нельзя создать бога и посадить его на поводок». Маск почти дословно повторил эту мысль: «Надеюсь, ИИ будет к нам добр». В его сдержанном признании звучит предупреждение: если люди потеряют контроль над суперинтеллектом, останется лишь уповать на добрую волю собственного творения.
Маск уже ранее поддерживал Anthropic, критикуя закрытость OpenAI и отмечая, что Амодеи выбрал иной путь. Примечательно, что Амодеи также поспорил с привычным для Кремниевой долины взглядом: по его словам, регулирование не всегда ведет к концентрации власти. Закон Калифорнии SB 53 о безопасности ИИ, который поддерживает Anthropic, освобождает от требований компании с выручкой ниже $500 млн.
Амодеи назвал два подхода, которые считает правильными: первый предложила администрация Трампа — проверять продвинутые модели до выхода; второй выдвинул глава Google DeepMind Демис Хассабис — создать регулятора по образцу FINRA.
Вернувшись к своему самому громкому обещанию, Амодеи заявил, что ИИ в биологии может вылечить большинство болезней человека за 5–50 лет. В Anthropic и Pfizer уже считают ИИ в медицине ключевой инфраструктурой. Он связал эту цель с личной историей: его отец умер от гепатита C незадолго до появления действенных лекарств. При этом Амодеи избегает громких лозунгов вроде «ИИ вылечит рак» — по его мнению, помогает само лечение, а не слоганы.
Мой анализ: Эта дискуссия показательна: даже такие разные фигуры, как Маск и Амодеи, сходятся в главном — контроль над ИИ остается ключевой проблемой десятилетия. Для криптоиндустрии, где технологии ИИ все активнее интегрируются в DeFi и аналитику, это сигнал: регулирование неизбежно, и проектам стоит заранее думать о безопасности и прозрачности, а не только о скорости внедрения.