Маск вступает в дискуссию о будущем ИИ: надежда на добрую волю или просчитанный риск?
Волна дебатов о безопасности искусственного интеллекта вновь накрыла Кремниевую долину, и на этот раз в эпицентре оказались два самых громких голоса индустрии. Илон Маск неожиданно поддержал позицию генерального директора Anthropic Дарио Амодеи, который в последнее время подвергается критике за излишний пессимизм в оценках развития ИИ. Моя экспертиза в области технологических трендов подсказывает, что этот альянс может сигнализировать о серьезном сдвиге в восприятии рисков.
Защита от обвинений в алармизме
Амодеи пришлось оправдываться перед инвесторами и коллегами, которые считают его прогнозы слишком мрачными. Он парирует, что его позиция далеко не однобока: в его эссе «Machines of Loving Grace» речь идет не только об угрозах, но и о колоссальных выгодах. Проблема в том, что короткие интервью и выступления вырывают из контекста, создавая ложное впечатление катастрофизма. Глубинная причина недоверия, по его словам, кроется в многолетнем скепсисе общества к технологическим корпорациям и государственным институтам, который автоматически проецируется на ИИ.
Это недоверие напрямую влияет на регуляторную повестку. Амодеи уже предлагал обязательное тестирование передовых моделей вместо добровольных обещаний, а также предупреждал G7 об опасности фрагментации национальных правил. Он признает справедливость критики в адрес своей отрасли: «Мы до сих пор не выполнили главное обещание — принести пользу миру».
Философский подтекст спора
Маск, комментируя тред Амодеи, назвал диалог «интересным» и фактически поддержал ключевой тезис инвестора Навала Равиканта: нельзя создать бога и посадить его на поводок. Ответ Маска был лаконичным и емким: «Надеюсь, ИИ будет к нам добр». В этом сдержанном признании сквозит тревога: если человечество потеряет контроль над сверхинтеллектом, единственной надеждой останется лишь добрая воля машины.
Показательно, что Маск уже не в первый раз встает на сторону Anthropic. Он неоднократно критиковал закрытость OpenAI, отмечая, что Амодеи выбрал иной путь. При этом сам Амодеи спорит с традиционным для Кремниевой долины мнением, что регулирование всегда ведет к концентрации власти. Например, калифорнийский законопроект SB 53, который поддерживает Anthropic, наоборот, освобождает небольшие компании с выручкой ниже $500 млн от излишних требований.
В качестве альтернатив Амодеи рассматривает два подхода: проверку моделей до их релиза, предложенную администрацией Трампа, и создание регулятора по образцу FINRA, идею Демиса Хассабиса из Google DeepMind. В конце концов, он возвращается к своей самой амбициозной цели — ИИ в биологии, который может вылечить большинство болезней за 5-10 лет. Для него это не пустой лозунг, а личная история: его отец умер от гепатита C, когда лекарств еще не существовало.
Мой анализ: Тот факт, что такие фигуры, как Маск и Амодеи, открыто обсуждают «добрую волю» ИИ, говорит о зрелости дискуссии. Рынок пока не до конца осознает, что регуляторные риски могут стать главным фактором, влияющим на стоимость AI-компаний. Инвесторам стоит внимательнее следить за этими дебатами — они определят не только этические нормы, но и экономику всей отрасли на десятилетия вперед.