Компания OpenAI, обладающая мощным искусственным интеллектом, незаметно сняла с производства свое программное обеспечение для обнаружения ИИ, сославшись на низкий уровень точности.
ИИ-классификатор, разработанный OpenAI, был впервые запущен 31 января и призван помочь пользователям, например, преподавателям и профессорам, отличать написанный человеком текст от текста, сгенерированного искусственным интеллектом.
Однако, как следует из первоначальной записи в блоге, в которой сообщалось о запуске инструмента, с 20 июля ИИ-классификатор был закрыт:
"По состоянию на 20 июля 2023 года классификатор ИИ больше не доступен из-за низкого уровня точности".
Ссылка на инструмент больше не функционирует, а в примечании приводится лишь простая аргументация причин его закрытия. Однако компания пояснила, что она ищет новые, более эффективные способы идентификации контента, созданного искусственным интеллектом.
"Мы работаем над учетом отзывов и в настоящее время изучаем более эффективные методы подтверждения подлинности текста, а также взяли на себя обязательство разработать и внедрить механизмы, позволяющие пользователям понять, является ли аудио- или визуальный контент сгенерированным искусственным интеллектом", - говорится в примечании.
С самого начала OpenAI дала понять, что инструмент обнаружения подвержен ошибкам и не может считаться "полностью надежным".
Компания заявила, что недостатки ее инструмента обнаружения ИИ заключаются в том, что он "очень неточно" проверяет текст объемом менее 1000 символов и может "уверенно" помечать текст, написанный человеком, как сгенерированный ИИ.
Классификатор стал последним из продуктов OpenAI, попавшим под пристальное внимание.
18 июля ученые из Стэнфорда и Калифорнийского университета в Беркли опубликовали результаты исследования, которое показало, что флагманский продукт OpenAI - ChatGPT - с возрастом становится значительно хуже.
Мы оценили поведение #ChatGPT с течением времени и обнаружили существенные различия в его ответах на *одинаковые вопросы* между июньской версией GPT4 и GPT3.5 и мартовской. Новые версии стали хуже справляться с некоторыми заданиями. с Линьцзяо Ченом @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.Twitter.com/FEiqrUVbg6
- Джеймс Цзоу (@james_y_zou) 19 июля 2023 г.
Исследователи обнаружили, что за последние несколько месяцев способность ChatGPT-4 точно определять простые числа упала с 97,6% до всего лишь 2,4%. Кроме того, и в ChatGPT-3.5, и в ChatGPT-4 наблюдалось значительное снижение способности генерировать новые строки кода.
AI Eye: ИИ, обученные на ИИ-контенте, выходят на MAD, является ли Threads лидером по потерям для ИИ-данных?
Источник