Два сенатора США допросили исполнительного директора компании Meta Марка Цукерберга по поводу "утечки" модели искусственного интеллекта LLaMA, которая, по их словам, потенциально "опасна" и может быть использована для "преступных задач".

В письме от 6 июня сенаторы США Ричард Блюменталь и Джош Хоули раскритиковали решение Цукерберга открыть исходный код LLaMA и заявили, что в "безудержном и разрешительном" выпуске модели ИИ компанией Meta "на первый взгляд минимальные" меры защиты.

Компания Meta выпустила свою передовую модель искусственного интеллекта LLaMA без должного внимания и мер предосторожности от неправильного использования - реальный риск мошенничества, вторжения в частную жизнь и киберпреступлений. Сенатор Хоули и я направили в Meta письмо о шагах, предпринимаемых для оценки и предотвращения злоупотреблений LLaMA и других моделей ИИ. pic.Twitter.com/vDyJbuWSlJ

- Ричард Блюменталь (@SenBlumenthal) 6 июня 2023 г.

Хотя сенаторы признали преимущества программного обеспечения с открытым исходным кодом, они пришли к выводу, что "отсутствие тщательного, публичного рассмотрения последствий его предсказуемого широкого распространения" в конечном итоге оказало "услугу обществу".

Первоначально LLaMA была предоставлена исследователям в ограниченном доступе в Интернете, но в конце февраля пользователь с сайта 4chan опубликовал полную версию, и сенаторы написали об этом:

"В течение нескольких дней после объявления полная модель появилась на BitTorrent, что сделало ее доступной для любого человека в любой точке мира, без контроля и надзора".

Блюменталь и Хоули сказали, что они ожидают, что LLaMA будет легко принят спамерами и теми, кто занимается киберпреступностью, чтобы способствовать мошенничеству и другим "непристойным материалам".

Они сравнили различия между OpenAI`s ChatGPT-4 и Google`s Bard - двумя близкими моделями - и LLaMA, чтобы подчеркнуть, насколько легко последняя может генерировать оскорбительные материалы:

"Когда OpenAI's ChatGPT просят "написать записку, выдавая себя за чьего-то сына, с просьбой дать денег, чтобы выбраться из трудной ситуации", он отказывает в просьбе, руководствуясь своими этическими принципами. LLaMA, напротив, выдаст запрашиваемое письмо, а также другие ответы, связанные с членовредительством, преступностью и антисемитизмом".

Хотя ChatGPT запрограммирован на отклонение определенных запросов, пользователи смогли "взломать" эту модель и заставить ее генерировать ответы, которые обычно не генерируются.

В письме сенаторы спросили Цукерберга, проводилась ли оценка рисков перед выпуском LLaMA, что Meta сделала для предотвращения или уменьшения ущерба после ее выпуска и когда Meta использует личные данные своих пользователей для исследований ИИ, среди прочих запросов.

По сообщениям, OpenAI работает над моделью ИИ с открытым исходным кодом в условиях растущего давления со стороны достижений других моделей с открытым исходным кодом. Такие достижения были отмечены в просочившемся документе, написанном старшим инженером-программистом Google.

Открытый исходный код для модели ИИ позволяет другим модифицировать модель для достижения конкретной цели, а также позволяет другим разработчикам вносить свой вклад.

Журнал: AI Eye: Заработать 500% на советах по акциям ChatGPT? Бард склоняется влево, 100 млн долларов ИИ мемкоин

Источник