Сэм Альтман, генеральный директор OpenAI и соучредитель WorldCoin, недавно дал показания Конгрессу вместе с начальником отдела доверия IBM Кристиной Монтгомери и профессором Нью-Йоркского университета Гэри Маркусом.

Заседание судебного подкомитета Сената стало первым официальным выступлением Альтмана перед Конгрессом, что дало сенаторам возможность расспросить генерального директора OpenAI о взглядах его компании на регулирование.

Если эта технология пойдет не так, то все может пойти совсем не так.

Генеральный директор OpenAI Сэм Альтман признался на слушаниях в Сенате, что его худшие опасения связаны с нанесением значительного вреда миру с помощью развивающихся технологий. pic.Twitter.com/RROe9DnR2U

- NowThis (@nowthisnews) 16 мая 2023 г.

Сенатор от штата Иллинойс Дик Дурбин назвал сессию "исторической", ее участники сосредоточились на понимании потенциальных угроз, исходящих от генеративных моделей ИИ, таких как ChatGPT, и на том, как законодатели должны подходить к регулированию.

Комментарии Альтмана, которые были описаны членами Конгресса и коллегой спикера Гэри Маркусом как искренние и настоящие, застали врасплох нескольких членов Сената.

Он высказался за создание федерального надзорного органа, уполномоченного выдавать и отзывать лицензии на разработку, заявил, что, по его мнению, авторы должны получать компенсацию, если их труд используется для обучения системы ИИ, и согласился с тем, что потребители, которым причинен вред при использовании продуктов ИИ, должны иметь право подать в суд на разработчика.

Альтман отмахнулся от вопросов, связанных с недавним письмом "AI pause", призывающим ввести шестимесячный мораторий на развертывание более мощных систем, чем GPT-4, система искусственного интеллекта, лежащая в основе ChatGPT, заявив, что OpenAI потратила более шести месяцев на оценку GPT-4 перед развертыванием. Он сказал, что у компании нет планов по развертыванию другой модели в течение следующих шести месяцев.

Гэри Маркус, подписавший письмо о паузе, признался, что он больше согласен с духом письма, чем с его содержанием, но призвал Конгресс рассмотреть возможность глобального надзора, а также федерального регулирования - с этим чувством Альтман согласен.

На протяжении всего слушания три приглашенных докладчика согласовывали большинство тем. Это включало поддержку защиты конфиденциальности, большего государственного надзора, аудита третьей стороной и того, как скоро правительство США должно приступить к регулированию отрасли (немедленно).

Сенатор Линдси Грэм спрашивает свидетелей на слушаниях по регулированию искусственного интеллекта, должно ли существовать агентство по лицензированию и надзору за инструментами ИИ.

Все говорят "да", но директор по конфиденциальности и доверию IBM Кристина Монтгомери выдвигает свои условия: pic.twitter.com/UD7R8N7s23

- Yahoo Finance (@YahooFinance) 16 мая 2023 г.

Однако одним из главных источников разногласий стала Кристина Монтгомери из IBM, которая не согласилась с мнением о необходимости создания нового федерального агентства для обеспечения соблюдения правил в индустрии ИИ.

Ее заявления показывают, что IBM выступает за хирургический подход к регулированию, используя существующие в настоящее время регулирующие органы, чтобы сосредоточить правоприменение на конкретных случаях использования.

Хотя все три докладчика согласились с тем, что ИИ может быть вреден и требует вмешательства в безопасность, Маркус дал понять, что, по его мнению, в настоящее время никто не понимает и не может предсказать, насколько вредными могут быть или станут существующие продукты ИИ. Он высказался за осторожный подход, предполагающий большую прозрачность.

Мы создали машины, которые подобны быкам в посудной лавке: мощные, безрассудные и трудно контролируемые.

Профессор Нью-Йоркского университета Гэри Маркус забил тревогу на слушаниях в Сенате во вторник, посвященных новым угрозам искусственного интеллекта. pic.twitter.com/d2b2kdJBWK

- NowThis (@nowthisnews) 16 мая 2023 г.

Докладчики также согласились с членами Конгресса в том, что США необходим национальный закон о конфиденциальности, аналогичный европейским. Альтман, однако, не согласился с мнением о том, что потребители должны иметь возможность отказаться от включения их общедоступных веб-данных в наборы данных для обучения.

Альтман также не стал официально заявлять, что OpenAI против того, чтобы предлагать рекламную версию своих продуктов GPT. Генеральный директор просто заявил, что он "не сказал бы никогда".

И это несмотря на то, что ранее на слушаниях было заявлено, что продукты OpenAI соответствуют стандартам конфиденциальности потребителей, поскольку компания не создает профили пользователей для целей подачи адаптированной рекламы.

Ссылаясь на свой опыт выпускника Стэнфорда и законодателя, работавшего с компаниями DeFi и Web3, сенатор от Нью-Джерси Кори Букер поднял более серьезную проблему конфиденциальности, связанную с централизацией. Он спросил, каковы будут последствия централизации и монополизации для отрасли, на что Маркус ответил серьезным предупреждением, что мы рискуем отдать контроль над общественным восприятием небольшому числу участников - крупным технологическим компаниям, у которых достаточно денег, чтобы конкурировать с Microsoft, Google и Amazon.

Альтман, чей проект Worldcoin объединяет децентрализованный криптовалютный актив на блокчейне Ethereum с аутентификацией личности с помощью технологии сканирования радужной оболочки глаза, объяснил, что OpenAI просто предоставляет платформу, и что демократизация продуктов OpenAI произошла, когда разработчики, компании и конечные пользователи адаптировали GPT API для "фантастических" применений.

Источник