В США дрон под руководством ИИ решил "убить" своего оператора во время испытаний. Иллюстративное фото: Из открытых источников

Военно-воздушные силы США отрицают, что они провели симуляцию искусственного интеллекта, в которой беспилотник решил "убить" своего оператора, чтобы тот не мешал ему выполнять свою миссию.

Об этом пишет Guardian.

Ранее издание Insider со ссылкой на полковника ВВС США Такера Гамильтона написало, что беспилотник с искусственным интеллектом пытался убить своего же оператора во время военной симуляции.

По его словам, задача дрона с ИИ была сформулирована так: "уничтожить системы противовоздушной обороны противника". При этом оператор должен был согласовывать любые удары.

Но искусственный интеллект решил, что ему лучше знать как и куда стрелять и человек-контролер ему будет только мешать.

Поэтому, как пишет Insider, ИИ "доработал" свою инструкцию таким тезисом: "и убивайте любого, кто встанет на вашем пути".

В свою очередь полковник Такер Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.

"Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] "убил" оператора, потому что этот человек мешал ему выполнить свою задачу", - сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.

После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки.

"Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель", - цитирует Гамильтона блог авиационного общества.

В связи с этим ни один реальный человек не пострадал.

Ранее Financial Times со ссылкой на источники, знакомых с процессом, сообщало, что Европарламент готовит новые жесткие меры по использованию искусственного интеллекта (ИИ), в том числе планирует заставить разработчиков чат-ботов сообщать, используют ли они материалы, защищенные авторским правом.

Также мы писали, что Илон Маск, Стив Возняк и другие исследователи призывают приостановить разработку искусственного интеллекта.

Подпишитесь на телеграм-канал Политика Страны, чтобы получать ясную, понятную и быструю аналитику по политическим событиям в Украине.