Благодаря тому, что область искусственного интеллекта развивается практически с бешеной скоростью, мошенники получили доступ к инструментам, которые могут помочь им в массовом осуществлении изощренных атак, предупреждает соучредитель компании Web3 security firm Quantstamp.

Выступая перед Cointelegraph на Korea Blockchain Week, квантмейкер Ричард Ма пояснил, что хотя атаки с использованием социальной инженерии существуют уже давно, ИИ помогает хакерам стать "гораздо более убедительными" и повысить процент успешности своих атак.

В качестве иллюстрации того, как выглядят атаки нового поколения с использованием искусственного интеллекта, Ма напомнил о случае, произошедшем с одним из клиентов Quantstamp, когда злоумышленник выдавал себя за технического директора компании-цели.

Он начал обмениваться сообщениями с другими инженерами компании, говоря: "Эй, у нас тут чрезвычайная ситуация, вот что происходит", и вовлекал их в кучу разговоров, прежде чем попросить их о чем-либо", - говорит Ма.

Очевидно, что в настоящее время увеличилось количество целевых мошенничеств, ориентированных на конкретного человека, а не просто на игру с числами... Используя ИИ и ChatGPT, мошенники могут быстро писать код, а новые технологии означают, что злоумышленникам становится выгоднее, пока не будет создано программное обеспечение для противодействия.
Мишенью становятся пожилые люди

- MoistenedTart.blsky.social (@MoistenedTart) August 31, 2023

По словам Ма, эти дополнительные шаги усложняют атаку и повышают вероятность того, что кто-то передаст важную информацию.

"До появления искусственного интеллекта [мошенники] могли просто попросить у вас подарочную карту или заплатить им биткойнами, потому что это срочно нужно. Теперь они делают гораздо больше дополнительных шагов в разговоре, чтобы установить легитимность".

В конечном итоге, по словам Ма, наиболее серьезной угрозой, которую несет в себе сложный искусственный интеллект, являются масштабы, в которых могут осуществляться подобные атаки.

Используя автоматизированные системы искусственного интеллекта, злоумышленники могут организовывать атаки с применением социальной инженерии и другие сложные мошеннические действия в тысячах различных организаций при минимальном участии человека.

Как влияют на рынки мошенники из AI Chat и ChatGPT?

Узнайте об этом от ведущих The Market Report Сэма Бурги (@forgeforth_) и Марселя Печмана (@noshitcoins) в нашем последнем выпуске: https://t.co/wrfGQC0aO4 pic.Twitter.com/kHH6hcisd9

- Cointelegraph (@Cointelegraph) 27 февраля 2023 г.

"В криптовалюте существует множество баз данных, содержащих всю контактную информацию ключевых лиц каждого проекта. Получив доступ к ним, хакеры могут создать искусственный интеллект, который будет сообщать всем этим людям различные сообщения", - сказал он.

"Довольно сложно обучить всю компанию не реагировать на такие вещи".

Хотя масштабы и сложность мошенничества с использованием искусственного интеллекта могут показаться пугающими, Ма дал несколько простых советов частным лицам и организациям, стремящимся защитить себя.

Наиболее важной мерой защиты является отказ от отправки конфиденциальной информации по электронной почте или в виде текстовых сообщений. По словам Ма, организациям следует перейти к локализации всех сообщений о важных данных в Slack или другие внутренние каналы.

"Как правило, следует придерживаться внутреннего канала коммуникации компании и все перепроверять".

Наконец, Ма отметил, что компаниям следует инвестировать в антифишинговое программное обеспечение, которое фильтрует автоматические письма от ботов и искусственного интеллекта. По его словам, компания Quantstamp использует антифишинговое ПО от компании IronScales, которая предлагает услуги по защите электронной почты.

"Мы только в начале этой гонки вооружений, и дальше будет только сложнее отличить человека от убедительного ИИ".

AI Eye: Apple разрабатывает карманный ИИ, глубокая фальшивая музыкальная сделка, гипнотизирующий GPT-4

Источник