Эксперт IBM по блокчейну и искусственному интеллекту считает, что ChatGPT представляет собой несколько "ключевых рисков" для корпоративного использования

Вице-президент IBM и директор по технологиям подразделения IBM Automation Джерри Куомо недавно опубликовал в своем блоге статью, в которой, по его мнению, излагаются некоторые риски, связанные с использованием ChatGPT в корпоративных системах.

Как отмечается в блоге, существует несколько основных областей риска, которые предприятия должны учитывать при работе с ChatGPT. В конечном итоге, однако, Куомо приходит к выводу, что в ChatGPT безопасны только нечувствительные данные:

"Как только ваши данные попадают в ChatGPT, - пишет Куомо, - вы не контролируете и не знаете, как они используются".

Как отмечается в сообщении, подобная непреднамеренная утечка данных может привести к тому, что в случае попадания в учебные данные ChatGPT данных о партнерах, клиентах или заказчиках в открытый доступ юридическая ответственность может быть возложена на компанию.

Куомо также ссылается на риски для интеллектуальной собственности и возможность того, что утечка информации может привести к нарушению соглашений об использовании открытых исходных текстов.

Как сообщается в блоге IBM:

"Если в ChatGPT вводится конфиденциальная информация о третьих лицах или внутренней информации компании, она становится частью модели данных чатбота и может быть передана другим лицам, задающим соответствующие вопросы".

Cointelegraph обратился в OpenAI за комментарием по поводу приведенного выше заявления. По электронной почте мы получили следующий ответ от посредника по связям с общественностью: "данные не будут передаваться другим лицам, задающим соответствующие вопросы".

Представитель компании также сослался на существующую документацию по функциям конфиденциальности ChatGPT, в том числе на запись в блоге, в которой подробно описана возможность отключения истории чатов для веб-пользователей.

По данным OpenAI, в API ChatGPT по умолчанию отключен обмен данными.

Политика в отношении API совершенно ясна - смущает только политика в отношении разговоров, которые мы ведем с помощью веб-интерфейса ChatGPT и приложений для iOS/Android

- Саймон Уиллисон (@simonw) 15 августа 2023 г.

Критики, однако, отмечают, что разговоры в веб-версии сохраняются по умолчанию. При этом пользователи должны отказаться как от сохранения своих бесед, что удобно для продолжения разговора, так и от использования своих данных для обучения модели. В настоящее время отсутствует возможность сохранения бесед без согласия на обмен данными.