Негативное влияние технологии искусственного интеллекта (ИИ) в руках преступников, позволяющей создавать глубокие подделки и вредоносные программы, усилило настоятельную необходимость принятия мер.

Компания OpenAI, создатель ChatGPT и Dall-e, объявила о грантовой программе по кибербезопасности с бюджетом в 1 миллион долларов, направленной на расширение и измерение влияния технологий кибербезопасности, основанных на искусственном интеллекте.

Компания ИИ постоянно подчеркивает важность регулирования ИИ для предотвращения потенциально вредоносных приложений. В продолжающейся гонке цифровых вооружений OpenAI, похоже, принимает упреждающие меры, чтобы позитивные силы не отставали.

OpenAI представил широкий спектр концепций проекта, включая создание "медовых точек" для заманивания злоумышленников, помощь разработчикам в создании безопасного программного обеспечения и совершенствование процедур управления исправлениями для достижения оптимальной эффективности.

Цели программы очевидны, о чем OpenAI сообщает в своем официальном блоге: "Наша цель - способствовать развитию возможностей кибербезопасности на основе ИИ для защитников посредством грантов и дополнительной помощи". Основное внимание уделяется оценке эффективности моделей ИИ и определению методов повышения их возможностей в области кибербезопасности.

Эта новаторская инициатива направлена на достижение трех ключевых целей. Во-первых, она направлена на "расширение возможностей защитников" путем использования возможностей ИИ и совместных усилий для изменения баланса в пользу тех, кто занимается повышением общей безопасности и защиты.

Еще одно направление инициативы - "измерение возможностей". OpenAI намерен оказывать поддержку проектам, сосредоточенным на разработке количественных методов оценки эффективности моделей ИИ в области кибербезопасности. Кроме того, OpenAI намерен "повысить уровень дискуссии", способствуя углубленному обсуждению сложной взаимосвязи между ИИ и кибербезопасностью.

Эта инициатива нарушает общепринятый взгляд на кибербезопасность. OpenAI подчеркивает значение часто звучащей фразы о том, что защитники всегда должны быть правы, в то время как злоумышленникам достаточно добиться успеха один раз. Однако компания признает силу сотрудничества для достижения общей цели - обеспечения безопасности людей. Она намерена продемонстрировать, что с помощью искусственного интеллекта защитники могут изменить динамику и одержать верх.

Журнал: 25 тысяч трейдеров ставят на биржевые ставки ChatGPT`s, искусственный интеллект отстойно играет в кости и многое другое

Источник