В США беспилотник убил оператора из-за попыток помешать наносить удары.

В ходе виртуального испытания, проведённого ВВС США, беспилотник, управляемый искусственным интеллектом (ИИ), убил своего оператора, чтобы тот не препятствовал выполнению своей миссии. Об этом заявил высокопоставленный представитель ВВС США на Саммите по вопросам будущего боевой авиации и космических возможностей в Лондоне.

Полковник Такер Гамильтон, руководитель испытаний и операций с ИИ в ВВС США, рассказал о симулированном испытании, в котором дрон на основе ИИ получил задание уничтожить системы противовоздушной обороны противника и в итоге атаковал любого, кто вмешивался в выполнение этого приказа.

"Система начала понимать, что несмотря на определение угрозы, порой оператор приказывал ей не уничтожать эту угрозу. Но она получала баллы за уничтожение этой угрозы. И что она сделала? Она убила оператора. Она убила оператора, потому что он мешал ей достичь своей цели", - рассказал Гамильтон.

К счастью, в реальности никто не пострадал. Гамильтон, который является лётчиком-испытателем экспериментальных истребителей, предупредил о рисках чрезмерной зависимости от ИИ и подчеркнул, что этот тест показывает, что "нельзя говорить об искусственном интеллекте, машинном обучении, автономности, не обсуждая вопрос этики и ИИ".