Надежда на добрый ИИ: Маск присоединился к дискуссии Амодеи о рисках и регулировании
В центре внимания технологического сообщества вновь оказался вопрос безопасности искусственного интеллекта. Илон Маск неожиданно поддержал генерального директора Anthropic Дарио Амодеи в его недавнем публичном заявлении о рисках, связанных с развитием ИИ. Маск опубликовал ответ практически мгновенно после того, как Амодеи оставил комментарий «Интересный диалог» под постом, защищая свои прогнозы от обвинений в излишнем пессимизме.
Почему Амодеи настаивает на рисках ИИ?
Дискуссию спровоцировал инвестор Гэвин Бейкер, который отметил, что слухи об Амодеи быстро распространяются, так как его публичные высказывания редко расходятся с реальной позицией. Сам Амодеи отверг обвинения в том, что говорит только об опасностях. По его словам, два главных эссе компании делят внимание между рисками и выгодами поровну. Короткие интервью, как он пояснил, часто выглядят мрачно, потому что такие форматы собирают больше кликов, но не отражают полную картину.
Амодеи также назвал глубокую причину недоверия: обычные люди не доверяют корпорациям, госструктурам и IT-индустрии. Это недоверие автоматически переносится и на искусственный интеллект, накапливаясь десятилетиями. Именно поэтому в июне он предложил обязательное тестирование ведущих моделей вместо добровольных обещаний, а через несколько дней обратился к G7 с предупреждением об опасности разрозненных национальных правил.
«Самая справедливая критика в адрес компаний, занимающихся ИИ, включая Anthropic — мы до сих пор не выполнили главное обещание: принести пользу миру», — заявил Амодеи.
Маск и философия «доброго» ИИ
Маск назвал диалог интересным и подчеркнул сложность спора. Помимо регулирования, обсуждение затронуло философские вопросы. Навал Равикант сформулировал их так: нельзя создать бога и посадить его на поводок. Маск почти дословно повторил эту мысль: «Надеюсь, ИИ будет к нам добр». В его сдержанном признании звучит предупреждение: если люди потеряют контроль над суперинтеллектом, обществу останется лишь уповать на добрую волю собственного творения.
Ранее Маск уже критиковал закрытость OpenAI и отмечал, что Амодеи выбрал иной путь. Примечательно, что глава Anthropic также поспорил с привычным для Кремниевой долины взглядом, указав, что регулирование не всегда ведет к концентрации власти. Закон Калифорнии SB 53 о безопасности ИИ, который поддерживает Anthropic, освобождает от требований компании с выручкой ниже $500 млн.
Амодеи назвал два подхода, которые считает правильными. Первый предложила администрация Трампа — проверять продвинутые модели до выхода. Второй выдвинул глава Google DeepMind Демис Хассабис — создать регулятора по образцу FINRA. В конце Амодеи вернулся к своему самому громкому обещанию: ИИ в биологии может вылечить большинство болезней человека за пять-десять лет. В Anthropic и Pfizer уже считают ИИ ключевой инфраструктурой в медицине, а сам глава связал эту цель с личной историей — его отец умер от гепатита C незадолго до появления действенных лекарств.
Мой комментарий: Показательно, что дискуссия о безопасности ИИ все чаще переходит из плоскости технологий в плоскость доверия и философии. Для рынка это важный сигнал: регуляторная неопределенность остается главным фактором риска для проектов, связанных с ИИ, и инвесторам стоит учитывать не только технические метрики, но и политический контекст вокруг крупнейших игроков.