CHATGPT, большая языковая модель, которая может общаться с пользователями, является одной из новаторских моделей OpenAI. Хотя в этой технологии есть многочисленные преимущества, некоторые беспокоятся о том, что ее необходимо регулировать таким образом, чтобы обеспечить конфиденциальность, нейтралитет и децентрализованные знания. Децентрализованная автономная организация (DAO) может быть решением этих вопросов.
Во -первых, конфиденциальность является серьезной проблемой, когда дело доходит до использования CHATGPT. Чтобы улучшить свои ответы, модель собирает данные от пользователей, но эти данные могут содержать конфиденциальную информацию, которую отдельные лица могут не хотеть разглашать центральный авторитет. Например, если пользователь раскрывает, чтобы Chatgpt их финансовой или истории болезни, эта информация может храниться и использовать так, как он не ожидал и не разрешал. Если информация получена несанкционированными сторонами, это может привести к нарушениям конфиденциальности или даже краже личных данных.
Кроме того, CHATGPT может быть использован для незаконных действий, таких как фишинговые мошенничества или атаки социальной инженерии. Подражая человеческому обсуждению, CHATGPT мог бы обмануть пользователей раскрывать частную информацию или предпринимать действия, которые они не будут делать. Крайне важно, чтобы Openai Institute четкие политики и процедуры для управления и хранения пользовательских данных для ослабления этих проблем с конфиденциальностью. DAO может убедиться, что данные, собранные CHATGPT, хранятся децентрализованным образом, где пользователи имеют больше контроля над своими данными и где к ним можно получить только авторизованные организации.
Во -вторых, растет забота о политической предвзятости в моделях искусственного интеллекта, и CHATGPT не является исключением. Некоторые опасаются, что когда эти модели развиваются дальше, они могут непреднамеренно усилить существующие социальные предубеждения или, возможно, представить новые. AI Chatbot также может использоваться для распространения пропаганды или ложной информации. Это может привести к несправедливым или несправедливым результатам, которые оказывают негативное влияние как на людей, так и на сообщества. Предвзятые ответы могут быть результатом модели, отражая предрассудки разработчиков или учебных данных.
DAO может гарантировать, что CHATGPT обучается объективным данным и что ответы, которые он производит, тщательно изучают широкий спектр людей, такие как представители различных компаний, академические учреждения и общественные организации, которые могут определить и исправлять любые предвзятости. Это сведет к минимуму возможность предвзятости путем обеспечения того, чтобы решения на CHATGPT были приняты с участием разнообразия перспектив.
DAO также может создать систему сдержек и противовесов, чтобы убедиться, что CHATGPT не укрепляет уже существующие предрассудки в обществе или представить любые новые. Например, DAO может создать процедуру для аудита ответов ChatGPT, чтобы убедиться, что они беспристрастные и справедливые. Это может повлечь за собой несвященные специалисты, изучить комментарии CHATGPTS и указать на любые случаи предрассудков.
Ярмарка справедливо. https://t.co/7ndef6mop1 pic.Twitter.com/5kamexivay
- Тед Круз (@tedcruz) 4 февраля 2023 г.
Наконец, еще одна проблема с Chatgpt - централизация знаний. Модель имеет доступ к множеству информации, которая во многих отношениях выгодно. Это может привести к монополии на знания, поскольку знания сосредоточены в руках небольшого числа людей или организаций. Аналогичным образом, существует риск того, что совместное использование знаний только для человека станет нормой, оставив людей полностью зависимыми от машин для коллективных знаний.
Например, программист, стоящий перед проблемой кодирования Тем не менее, как пролиферируют языковые модели AI, такие как CHATGPT, программисты становятся все более распространенными, чтобы запрашивать запрос, а затем получать ответ без необходимости общения с другими людьми. Это может привести к тому, что пользователи взаимодействуют меньше и разделяют меньше знаний в Интернете - например, на таких веб -сайтах, как переполнение стека - и консолидация знаний в языковых моделях ИИ. Это может значительно подорвать человеческое агентство и контролировать производство и распределение знаний - что делает его менее доступным для нас в будущем.
Я в топ -2% пользователей на Stackoverflow. Мой контент там просмотрели более 1,7 млн. Человек. И это маловероятно, что я когда -нибудь снова что -нибудь там напишет.
- Питер Никси (@peternixey) 26 марта 2023 г.
Что может быть гораздо большей проблемой, чем кажется. Потому что это может быть канарейка в шахте наших коллективных знаний.
A… pic.twitter.com/ynzvftwyfu
Нет простых ответов на сложную проблему централизации знаний. Это, однако, подчеркивает необходимость более децентрализованной стратегии для производства знаний и передачи. DAO, который предлагает основу для более демократического и открытого обмена информацией, может помочь в этой ситуации. Используя технологию блокчейна и интеллектуальные контракты, DAO может позволить людям и организациям работать вместе и внести свой вклад в общий объем знаний, одновременно имея больший контроль над тем, как доступны эти знания.
В конечном счете, DAO может предложить основу для контроля и управления операциями CHATGPT, гарантируя децентрализованное хранение пользовательских данных, ответы, которые изучаются на предвзятости, а также более демократический и открытый обмен информацией. Использование DAO может быть жизнеспособным решением для этих проблем, что позволяет повысить ответственность, прозрачность и контроль над использованием моделей CATGPT и других языковых языков ИИ. Поскольку технология ИИ продолжает продвигаться, крайне важно, чтобы мы приоритет этическим соображениям и предприняли упреждающие шаги для решения потенциальных проблем, прежде чем они станут проблемой.
