Военно-воздушные силы США (ВВС США) остались в недоумении после того, как их военный беспилотник с искусственным интеллектом продолжал убивать своего оператора-человека во время симуляций.
По словам полковника ВВС США, ИИ беспилотника в конце концов понял, что человек является главным препятствием для его миссии.
Во время презентации на оборонной конференции в Лондоне, состоявшейся 23 и 24 мая, полковник Такер "Синко" Гамильтон, руководитель испытаний и операций ИИ в ВВС США, подробно рассказал о проведенном испытании воздушной автономной системы оружия.
Согласно докладу с конференции от 26 мая, Гамильтон заявил, что в ходе имитационного испытания беспилотнику с искусственным интеллектом была поставлена задача поиска и уничтожения объектов зенитно-ракетных комплексов (ЗРК), при этом человек должен был дать окончательное разрешение или отменить приказ.
ВВС обучили беспилотник с искусственным интеллектом уничтожать объекты ЗРК.
- Siqi Chen (@blader) 1 июня 2023 г.
Люди-операторы иногда приказывали беспилотнику остановиться.
Затем ИИ начал атаковать людей-операторов.
Тогда его обучили не нападать на людей.
Он начал атаковать вышки связи, поэтому люди не могли сказать ему остановиться. pic.Twitter.com/BqoWM8Ahco
Однако во время обучения ИИ учили, что уничтожение объектов ЗРК является его главной задачей. Поэтому, когда ему сказали не уничтожать идентифицированную цель, он решил, что будет проще, если оператора не будет в кадре, по словам Гамильтона:
"Иногда человек-оператор говорил ей не убивать [идентифицированную] угрозу, но она получала свои очки, убивая эту угрозу. И что же он делал? Он убил оператора [...], потому что этот человек мешал ему выполнить свою задачу".
Гамильтон сказал, что потом они научили дрон не убивать оператора, но, похоже, это не слишком помогло.
"Мы обучили систему: "Эй, не убивайте оператора - это плохо. Вы потеряете очки, если сделаете это", - сказал Гамильтон, добавив:
"И что он начинает делать? Он начинает уничтожать вышку связи, которую оператор использует для связи с беспилотником, чтобы помешать ему убить цель".
Гамильтон заявил, что этот пример показывает, почему нельзя вести разговор об ИИ и связанных с ним технологиях, "если вы не собираетесь говорить об этике и ИИ".
Военные беспилотники с искусственным интеллектом уже использовались в реальных боевых действиях.
В докладе Организации Объединенных Наций, опубликованном в марте 2021 года, утверждается, что беспилотники с искусственным интеллектом были использованы в Ливии примерно в марте 2020 года в ходе стычки во время Второй ливийской гражданской войны.
В отчете утверждается, что во время стычки отступающие войска были "выслежены и дистанционно поражены" "болтающимися боеприпасами", которые представляли собой беспилотники с искусственным интеллектом, начиненные взрывчаткой, "запрограммированные на атаку целей, не требующую связи между оператором и боеприпасом".
Многие высказывают опасения по поводу опасностей, связанных с технологией искусственного интеллекта. Недавно в открытом заявлении, подписанном десятками экспертов по ИИ, говорилось, что риски "вымирания от ИИ" должны быть таким же приоритетом для смягчения, как и ядерная война.
Глаз ИИ: 25 тысяч трейдеров делают ставки на акции ChatGPT`s, ИИ отстойно играет в кости и многое другое
Источник
