Компания, стоящая за популярным чатботом ChatGPT с искусственным интеллектом (ИИ), сообщила, что она формирует команду, которая будет контролировать и управлять рисками сверхинтеллектуальных систем ИИ.
В своем блоге от 5 июля OpenAI сообщила, что новая команда будет создана для "управления и контроля систем ИИ, гораздо более умных, чем мы".
Некоммерческая организация заявила, что, по ее мнению, суперинтеллект станет "самой влиятельной технологией, которую когда-либо изобретало человечество", и поможет решить многие проблемы - хотя существуют и риски.
"Огромная мощь сверхинтеллекта также может быть очень опасной и привести к бесправию человечества или даже к его вымиранию".
Компания заявила, что, по ее мнению, суперинтеллект может появиться уже в этом десятилетии.
Компания заявила, что выделит 20% уже обеспеченных вычислительных мощностей на эти цели и намерена создать автоматического исследователя выравнивания на "человеческом уровне". Теоретически, автоматизированный исследователь поможет команде управлять безопасностью суперинтеллекта и согласовывать его с "человеческими намерениями".
Компания назвала своего главного научного сотрудника Илью Суцкевера и руководителя исследовательской лаборатории по согласованию Яна Лейке соруководителями этой работы. Компания объявила открытый призыв к исследователям и инженерам в области машинного обучения присоединиться к команде.
Это заявление OpenAI прозвучало в тот момент, когда правительства по всему миру рассматривают меры по контролю за разработкой, внедрением и использованием систем искусственного интеллекта.
Регулирующие органы в Европейском союзе добились наибольшего прогресса в области регулирования ИИ. 14 июня Европейский парламент принял Закон ЕС об ИИ, который, наряду с другими мерами, обязывает такие инструменты, как ChatGPT, раскрывать весь контент, созданный ИИ.
Законопроект требует дополнительного обсуждения перед его реализацией. Тем не менее, он вызвал возмущение разработчиков ИИ в связи с его потенциальным влиянием на инновации.
В мае генеральный директор OpenAI Сэм Альтман отправился в Брюссель, чтобы поговорить с представителями регулирующих органов ЕС о потенциально негативных последствиях чрезмерного регулирования.
Законодатели в США также представили закон о Национальной комиссии по ИИ для создания органа, который будет определять подход страны к ИИ. Регулирующие органы в США также открыто заявили о своем желании регулировать эту технологию.
30 июня сенатор Майкл Беннет составил письмо к крупным технологическим компаниям, включая OpenAI, с призывом маркировать контент, созданный искусственным интеллектом.
Журнал: BitCulture: Изобразительное искусство на Солане, музыка ИИ, подкаст + обзоры книг
Источник
