Компания OpenAI представила возможность тонкой настройки для GPT-3.5 Turbo, позволяющую разработчикам искусственного интеллекта (ИИ) повысить производительность при выполнении конкретных задач с использованием специальных данных. Однако разработчики высказали как критику, так и восторг по поводу этой разработки.

В OpenAI пояснили, что в процессе тонкой настройки разработчики могут настраивать возможности GPT-3.5 Turbo в соответствии со своими требованиями. Например, разработчик может настроить GPT-3.5 Turbo на создание специализированного кода или на квалифицированное обобщение юридических документов на немецком языке, используя набор данных, полученных в результате хозяйственной деятельности клиента.

Теперь вы можете осуществлять тонкую настройку GPT-3.5-Turbo!

Однако, похоже, что вывод значительно дороже (в 8 раз).

Полагаю, что тех, кто имеет возможность развернуть собственные модели, это не заинтересует. https://t.co/p2LbSq4D2H

- Mark Tenenholtz (@marktenenholtz) 22 августа 2023 г.

Недавний анонс вызвал осторожную реакцию разработчиков. В комментарии, приписываемом пользователю X под ником Joshua Segeren, говорится, что, хотя введение тонкой настройки GPT-3.5 Turbo интригует, оно не является всеобъемлющим исправлением. По его наблюдениям, улучшение подсказок, использование векторных баз данных для семантического поиска или переход на GPT-4 часто дают лучшие результаты, чем пользовательское обучение. Кроме того, необходимо учитывать такие факторы, как затраты на настройку и текущее обслуживание.

Стоимость базовых моделей GPT-3.5 Turbo составляет 0,0004 долл. на 1000 лексем (фундаментальных единиц, обрабатываемых обширными языковыми моделями). Однако уточненные версии в результате тонкой настройки имеют более высокую стоимость - 0,012 долл. на 1000 входных лексем и 0,016 долл. на 1000 выходных лексем. Кроме того, взимается плата за первоначальное обучение, привязанная к объему данных.

Эта особенность имеет большое значение для предприятий и разработчиков, стремящихся построить персонализированное взаимодействие с пользователем. Например, организации могут точно настроить модель, чтобы она гармонировала с голосом их бренда, обеспечивая чатботу индивидуальность и тон, дополняющие фирменный стиль.

Для обеспечения ответственного использования механизма тонкой настройки учебные данные, используемые для тонкой настройки, проходят проверку через API модерации и систему модерации на базе GPT-4. Это делается для того, чтобы сохранить атрибуты безопасности модели по умолчанию на протяжении всей процедуры тонкой настройки.

Система стремится выявить и исключить потенциально опасные обучающие данные, тем самым обеспечивая соответствие уточненных результатов установленным OpenAI нормам безопасности. Это также означает, что OpenAI имеет определенный уровень контроля над данными, которые пользователи вводят в свои модели.

Журнал: AI Eye: Apple разрабатывает карманный ИИ, глубокая фальшивая музыкальная сделка, гипнотизирующий GPT-4

Источник