Негативное влияние технологии искусственного интеллекта (ИИ) в руках преступников, позволяющей создавать глубокие подделки и вредоносные программы, усилило настоятельную необходимость принятия мер.
Компания OpenAI, создатель ChatGPT и Dall-e, объявила о грантовой программе по кибербезопасности с бюджетом в 1 миллион долларов, направленной на расширение и измерение влияния технологий кибербезопасности, основанных на искусственном интеллекте.
Компания ИИ постоянно подчеркивает важность регулирования ИИ для предотвращения потенциально вредоносных приложений. В продолжающейся гонке цифровых вооружений OpenAI, похоже, принимает упреждающие меры, чтобы позитивные силы не отставали.
OpenAI представил широкий спектр концепций проекта, включая создание "медовых точек" для заманивания злоумышленников, помощь разработчикам в создании безопасного программного обеспечения и совершенствование процедур управления исправлениями для достижения оптимальной эффективности.
Цели программы очевидны, о чем OpenAI сообщает в своем официальном блоге: "Наша цель - способствовать развитию возможностей кибербезопасности на основе ИИ для защитников посредством грантов и дополнительной помощи". Основное внимание уделяется оценке эффективности моделей ИИ и определению методов повышения их возможностей в области кибербезопасности.
Эта новаторская инициатива направлена на достижение трех ключевых целей. Во-первых, она направлена на "расширение возможностей защитников" путем использования возможностей ИИ и совместных усилий для изменения баланса в пользу тех, кто занимается повышением общей безопасности и защиты.
Еще одно направление инициативы - "измерение возможностей". OpenAI намерен оказывать поддержку проектам, сосредоточенным на разработке количественных методов оценки эффективности моделей ИИ в области кибербезопасности. Кроме того, OpenAI намерен "повысить уровень дискуссии", способствуя углубленному обсуждению сложной взаимосвязи между ИИ и кибербезопасностью.
Эта инициатива нарушает общепринятый взгляд на кибербезопасность. OpenAI подчеркивает значение часто звучащей фразы о том, что защитники всегда должны быть правы, в то время как злоумышленникам достаточно добиться успеха один раз. Однако компания признает силу сотрудничества для достижения общей цели - обеспечения безопасности людей. Она намерена продемонстрировать, что с помощью искусственного интеллекта защитники могут изменить динамику и одержать верх.
Журнал: 25 тысяч трейдеров ставят на биржевые ставки ChatGPT`s, искусственный интеллект отстойно играет в кости и многое другое
Источник