Соучредитель Ethereum Виталик Бутерин выразил обеспокоенность тем, что бесконтрольное развитие ИИ может превзойти человеческие возможности, потенциально превратив его в следующий «высший вид» планеты.

Бутерин углубился в фундаментальные различия между ИИ и другими человеческими изобретениями, подчеркнув уникальную и потенциально опасную природу быстро развивающихся возможностей ИИ.

Бутерин предупреждает, что ИИ превзойдет человечество

В своем блоге от 27 ноября Бутерин утверждает, что ИИ, будучи новой формой интеллекта, фундаментально отличается от предыдущих изобретений человечества, таких как социальные сети или печатный станок. Его способность быстро увеличивать свой интеллект представляет собой значительный потенциал для превосходства человеческих когнитивных способностей.

В дополнение к срочности своего сообщения соучредитель Ethereum подчеркивает, что этот прогресс может привести к сценариям, в которых сверхразумный ИИ будет рассматривать человечество как угрозу своему выживанию, что потенциально может положить конец человеческому существованию.

В поддержку своей позиции Бутерин сослался на опрос, проведенный в августе 2022 года с участием более 4270 исследователей машинного обучения. По оценкам этого исследования, вероятность того, что ИИ приведет к вымиранию человечества, составляет 5–10%.

Бутерин также задается вопросом, удовлетворит ли нас мир с высокоинтеллектуальными ИИ, заявляя о потенциальной нестабильности результатов, когда мы становимся «домашними животными».

Риск ИИ №2: станет ли мир со сверхразумными ИИ миром, в котором мы будем чувствовать себя удовлетворенными, живя в нем? О нестабильности результатов, кроме того, что мы — домашние животные, и о неспособности научной фантастики представить реалистичные альтернативы. pic.Twitter.com/o9z8s6QAej

– Vitalik.ETH (@VitalikButerin) 27 ноября 2023 г.

Кроме того, он подчеркивает опасность того, что ИИ способствуют тоталитаризму, используя технологии наблюдения, которые авторитарные правительства уже использовали для подавления оппозиции.

Бутерин выступает за интерфейсы «мозг-компьютер»

Бутерин также подчеркивает, что, хотя эти заявления являются крайними, у людей есть способы установить контроль и обеспечить выгодное направление развития ИИ. Он выступает за интеграцию интерфейсов «мозг-компьютер» (BCI) для смягчения опасностей.

Эти интерфейсы, которые устанавливают путь связи между электрической активностью мозга и внешними устройствами, такими как компьютеры, могут значительно сократить цикл связи между людьми и машинами. Что еще более важно, BCI может гарантировать, что люди сохранят значимое влияние на ИИ, снижая риск того, что ИИ будет действовать способами, не соответствующими человеческим ценностям.

Видение Бутерина выходит за рамки просто технологических мер. Он призывает к «активному человеческому намерению» в направлении развития ИИ на благо человечества. Этот подход контрастирует с достижениями искусственного интеллекта, ориентированными исключительно на получение прибыли, которые не всегда могут соответствовать наиболее желательным результатам для человеческого общества.

Мы самая яркая звезда. Продолжающийся человеческий прогресс может принести много пользы, как к звездам, так и за их пределами. Но на пути есть большие развилки, и нам нужно выбирать осторожно. Ускоряйтесь, но ускоряйтесь осторожно и хорошо. pic.twitter.com/vxPlJWFVGq

– Vitalik.eth (@VitalikButerin) 27 ноября 2023 г.

Завершая свои размышления, Бутерин сохраняет оптимизм, заявляя, что люди являются самой яркой звездой во Вселенной, разработав технологии, которые расширяли человеческий потенциал на тысячи лет, и надеются продолжить этот путь в будущем. Он представлял будущее, в котором человеческие изобретения, такие как космические путешествия и геоинженерия, сохранят красоту земной жизни на миллиарды лет.

Источник