По словам соучредителя Ethereum Виталика Бутерина, сверхпродвинутый искусственный интеллект, если его не остановить, имеет «серьезный шанс» превзойти людей и стать следующим «высшим видом» планеты.
Но это сводится к тому, как люди потенциально могут вмешиваться в разработки ИИ, сказал он.
Новый пост-монстр: мой собственный взгляд на недавние дебаты вокруг технооптимизма, рисков ИИ и способов избежать крайней централизации в 21 веке. https://t.co/6lN2fLBUUL pic.Twitter.com/h5aIyFNCoh
– Vitalik.ETH (@VitalikButerin) 27 ноября 2023 г.
В сообщении в блоге от 27 ноября Бутерин, которого некоторые считают идейным лидером в сфере криптовалют, заявил, что ИИ «фундаментально отличается» от других недавних изобретений, таких как социальные сети, контрацепция, самолеты, оружие, колесо и печатный станок — поскольку ИИ может создать новый тип «разума», который может обернуться против человеческих интересов, добавив:
«ИИ — это [...] новый тип разума, который быстро набирает интеллект, и у него есть серьезный шанс обогнать умственные способности человека и стать новым высшим видом на планете».
Бутерин утверждал, что в отличие от изменения климата, искусственной пандемии или ядерной войны, сверхразумный ИИ потенциально может положить конец человечеству и не оставить никого в живых, особенно если он в конечном итоге будет рассматривать людей как угрозу своему собственному выживанию.
«Один из способов, которыми ошибочный ИИ может сделать мир хуже, — это (почти) худший из возможных способов: он может буквально привести к вымиранию человечества».
«Даже Марс может быть небезопасным», — добавил Бутерин.
Бутерин процитировал опрос, проведенный в августе 2022 года более чем 4270 исследователями машинного обучения, которые оценили вероятность того, что ИИ убьет человечество, составляет 5–10%.
Однако, хотя Бутерин подчеркнул, что заявления такого рода являются «крайними», у людей также есть способы одержать победу.
Мозговые интерфейсы и технооптимизм
Бутерин предложил интегрировать интерфейсы «мозг-компьютер» (BCI), чтобы предоставить людям больший контроль над мощными формами вычислений и познания на основе искусственного интеллекта.
BCI — это путь связи между электрической активностью мозга и внешним устройством, например компьютером или роботизированной конечностью.
По словам Бутерина, это позволит сократить цикл двусторонней связи между человеком и машиной с секунд до миллисекунд и, что более важно, гарантировать, что люди сохранят некоторую степень «значимой свободы действий» в мире.
Бутерин предположил, что этот маршрут будет «более безопасным», поскольку люди смогут участвовать в каждом решении, принимаемом машиной ИИ.
«Мы [можем] уменьшить стимул перекладывать ответственность за планирование высокого уровня на сам ИИ и тем самым уменьшить вероятность того, что ИИ самостоятельно сделает что-то, совершенно не соответствующее ценностям человечества».
Соучредитель Ethereum также предположил «активное человеческое намерение» направить ИИ в направлении, которое принесет пользу человечеству, поскольку максимизация прибыли не всегда ведет человека по наиболее желательному пути.
Люди глубоко добры. pic.twitter.com/AbOfd75IJ4
– Vitalik.eth (@VitalikButerin) 27 ноября 2023 г.
Бутерин пришел к выводу, что «мы, люди, являемся самой яркой звездой» во Вселенной, поскольку мы разработали технологии, позволяющие расширить человеческий потенциал на тысячи лет и, надеюсь, на многие годы вперед:
«Через два миллиарда лет, если Земля или какая-либо часть Вселенной все еще будет нести красоту земной жизни, именно человеческие изобретения, такие как космические путешествия и геоинженерия, сделают это возможным».
Журнал: Реальные примеры использования ИИ в криптографии, № 1: Лучшие деньги для ИИ — это криптография
Источник
