Илон Маск, основатель xAI, выступил с очередным громким заявлением, которое заставляет задуматься о будущем человечества в эпоху искусственного интеллекта. По его оценкам, уже через пять лет ИИ может превзойти совокупный интеллект всех людей на планете, а в ближайшее десятилетие человечество, скорее всего, утратит контроль над этой технологией. Это не просто гипотеза — это анализ, основанный на текущих темпах развития нейросетей и вычислительных мощностей.

Маск подчеркивает, что ИИ будет способен выполнять практически любые интеллектуальные задачи лучше человека. Единственное исключение, по его словам, — это «быть человеком». Такой сценарий он называет «эпохой изобилия», прогнозируя, что к 2036 году люди смогут получать практически любые товары и услуги благодаря синергии ИИ и робототехники. Однако риски остаются, и они значительны.

Безопасность и взаимные проверки

Маск признает, что остановить развитие ИИ и робототехники невозможно — даже если бы существовала «кнопка остановки», ее нажатие не было бы оправдано. Вместо этого он предлагает ведущим AI-компаниям внедрить систему взаимных проверок: до релиза предоставлять конкурентам ограниченный доступ к новым моделям, чтобы выявлять опасные способности. Если риски не будут устранены, по мнению Маска, в дело должны вступить государственные регуляторы. Эта идея уже находит отклик — аналогичную инициативу ранее выдвинул глава Google DeepMind Демис Хассабис.

Критика OpenAI и взгляд на конкурентов

В том же интервью Маск раскритиковал трансформацию OpenAI из некоммерческой организации в коммерческую структуру. Он напомнил, что проект создавался как открытая компания «для всего мира», но в итоге превратился в закрытый бизнес. В отношении главы Anthropic Дарио Амодеи Маск был более сдержан, назвав его «принципиальным человеком», но подчеркнув необходимость сотрудничества по вопросам безопасности даже между конкурентами.

Напомню, что ранее Элиезер Юдковски и Виталик Бутерин также предупреждали о катастрофических рисках сверхразумного ИИ. Однако, как справедливо заметил соучредитель Near Protocol Илья Полосухин, у ИИ отсутствуют экономические стимулы для уничтожения человечества. С моей точки зрения, ключевой вопрос заключается не в том, сможет ли ИИ захватить контроль, а в том, успеем ли мы создать адекватные механизмы управления до того, как технология станет неконтролируемой.