Проекты, основанные на искусственном интеллекте (ИИ), быстро становятся неотъемлемой частью современной технологической парадигмы, помогающей в процессах принятия решений в различных секторах, от финансов до здравоохранения. Однако, несмотря на значительный прогресс, системы ИИ не без их недостатков. Одним из наиболее важных проблем, с которыми сталкивается AI сегодня, является предвзятость данных, что относится к наличию системных ошибок в данном наборе информации, ведущей к искаженным результатам при обучении моделей обучения машинного обучения.
Как системы ИИ в значительной степени полагаются на данные; Качество входных данных имеет первостепенное значение, поскольку любой тип искаженной информации может привести к предрассудкам в системе. Это может еще больше увековечить дискриминацию и неравенство в обществе. Следовательно, обеспечение целостности и объективности данных имеет важное значение.
Например, в недавней статье рассматривается, как сгенерированные AI изображения, в частности, созданные из наборов данных, в которых преобладают источники под влиянием американцев, могут искажать и гомогенизировать культурный контекст выражений лица. Он приводит несколько примеров солдат или воинов из различных исторических периодов, все с той же улыбкой в американском стиле.
Более того, проникающая предвзятость не только не может отражать разнообразие и нюансы человеческого выражения, но и рискует стирать жизненно важные культурные истории и значения, что потенциально влияет на глобальное психическое здоровье, благополучие и богатство человеческого опыта. Для смягчения такой пристрастия важно включить различные и репрезентативные наборы данных в процессы обучения искусственного интеллекта.
Несколько факторов способствуют смещенным данным в системах искусственного интеллекта. Во -первых, сам процесс сбора может быть ошибочным, причем образцы не являются репрезентативными для целевой популяции. Это может привести к недопредставлению или чрезмерной представленности определенных групп. Во -вторых, исторические предубеждения могут проникнуть в учебные данные, которые могут увековечить существующие социальные предрассудки. Например, системы ИИ, обученные предвзятым историческим данным, могут продолжать укреплять гендерные или расовые стереотипы.
Наконец, человеческие предубеждения могут непреднамеренно вводить в процессе маркировки данных, поскольку лейблеры могут сознавать бессознательные предрассудки. Выбор функций или переменных, используемых в моделях ИИ, может привести к смещенным результатам, поскольку некоторые функции могут быть более коррелированы с определенными группами, вызывая несправедливое лечение. Чтобы смягчить эти проблемы, исследователи и практики должны знать о потенциальных источниках искаженной объективности и активно работать над их устранением.
Может ли блокчейн сделать возможным непредвзятый AI?
Хотя технология блокчейна может помочь в определенных аспектах поддержания нейтральных систем искусственного интеллекта, она ни в коем случае не является панацеей для устранения смещений. Системы ИИ, такие как модели машинного обучения, могут разработать определенные дискриминационные тенденции на основе данных, на которые они обучены. Кроме того, если учебные данные содержит различные предварительные предложения, система, скорее всего, изучит и воспроизводит их в своих выходах.
Тем не менее, технология блокчейна может способствовать решению уникальных предубеждений ИИ уникальными способами. Например, это может помочь обеспечить происхождение данных и прозрачность. Децентрализованные системы могут отслеживать происхождение данных, используемых для обучения систем ИИ, обеспечивая прозрачность в процессе сбора и агрегации информации. Это может помочь заинтересованным сторонам определить потенциальные источники предвзятости и решить их.
Недавно: Зачем присоединиться к игровой гильдии блокчейна? Веселье, прибыль и создавать лучшие игры
Аналогичным образом, блокчейны могут облегчить безопасное и эффективное обмен данными между несколькими сторонами, что позволяет разработать более разнообразные и репрезентативные наборы данных.
Кроме того, путем децентрализации процесса обучения, блокчейн может позволить нескольким сторонам вносить свою собственную информацию и опыт, что может помочь смягчить влияние любой предвзятой перспективы.
Поддержание объективного нейтралитета требует тщательного внимания к различным этапам разработки ИИ, включая сбор данных, обучение и оценку модели. Кроме того, постоянный мониторинг и обновление систем ИИ имеют решающее значение для решения потенциальных предрассудков, которые могут возникнуть с течением времени.
Чтобы получить более глубокое понимание того, может ли Blockchain Tech сделать системы искусственного интеллекта полностью нейтральными, Cointelegraph обратился к Бену Герцелю, основателю и генеральному директору SingularityNet - проекту, сочетающемуся с искусственным интеллектом и блокчейном.
По его мнению, концепция «полной объективности» не очень полезна в контексте конечных интеллектуальных систем, анализирующих конечные наборы данных.
«Что могут предложить системы блокчейна и Web3, так это не полная объективность или отсутствие предвзятости, а скорее прозрачность, чтобы пользователи могли четко видеть, какое предвзято В своего рода предвзятость он предпочитает и прозрачно видит, какой предвзятость это отражает », - сказал он.
Он также заявил, что в области исследований ИИ «предвзятость» не является грязным словом. Вместо этого это просто указывает на ориентацию системы ИИ, ищущая определенные шаблоны в данных. Тем не менее, Герцель признал, что непрозрачные перекосы, налагаемые централизованными организациями на пользователей, которые не знают о них - но они руководствуются и под влиянием - это то, о чем люди должны быть осторожны. Он сказал:
«Самые популярные алгоритмы ИИ, такие как CHATGPT, плохие с точки зрения прозрачности и раскрытия их собственных предубеждений. Таким образом, часть того, что необходимо для правильной решения проблемы AI-смещения,-это децентрализованные сети с участием и открытые модели, а не просто открытые Источник, но открытые матрицы, которые обучены, адаптированные модели с открытым контентом ».
Аналогичным образом, Дэн Петерсон, главный операционный директор Tenet-ориентированная на AI-сеть блокчейнов-сказал Cointelegraph, что трудно количественно оценить нейтралитет и что некоторые показатели ИИ не могут быть беспристрастными, потому что нет количественной линии, когда набор данных теряет нейтралитет. По его мнению, это в конечном итоге сводится к точке зрения того, где инженер рисует линию, и эта линия может варьироваться от человека к человеку.
«Концепция того, что что -то действительно« непредвзято »исторически было сложной задачей. Хотя абсолютная истина в любом наборе данных, прикрепленных к генеративным системам искусственного интеллекта, может быть трудно определить, мы можем использовать инструменты, сделанные более легко Доступно для нас благодаря использованию технологии блокчейна и Web3 », - сказал он.
Петерсон заявил, что методы, построенные вокруг распределенных систем, проверки и даже социальной проверки, могут помочь нам разработать системы ИИ, которые поставляются как «Абсолютная истина». «Тем не менее, это еще не является решением с ключом; эти развивающиеся технологии помогают нам перемещать иглу вперед со скоростью разрыва шеи, поскольку мы продолжаем строить системы завтрашнего дня»,-сказал он.
Глядя на будущее, управляемое ИИ
Масштабируемость остается значительной проблемой для технологии блокчейна. По мере увеличения количества пользователей и транзакций это может ограничить способность решений блокчейна обрабатывать огромные объемы данных, сгенерированных и обработанных системами ИИ. Более того, даже принятие и интеграция решений на основе блокчейна в существующие AIS создает серьезные проблемы.
Недавно: Crypto в Европе: экономист разбивает слюду и будущее стаблекана
Во -первых, не хватает понимания и опыта как в технологиях ИИ, так и в блокчейне, что может препятствовать разработке и развертыванию решений, которые эффективно объединяют обе парадигмы. Во -вторых, убедительные заинтересованные стороны в преимуществах платформ блокчейна, особенно когда речь идет о обеспечении непредвзятой передачи данных искусственного интеллекта, может быть сложной задачей, по крайней мере, в начале.
Несмотря на эти проблемы, Blockchain Tech обладает огромным потенциалом, когда дело доходит до выравнивания быстро развивающейся ландшафта ИИ. Используя ключевые особенности блокчейна, такие как децентрализация, прозрачность и неизменность, можно уменьшить смещения в сборе данных, управлении и маркировке, что в конечном итоге приводит к более справедливым системам ИИ. Поэтому будет интересно посмотреть, как будущее продолжает выходить с этого момента.
Источник
