В США при проведении имитационных испытаний беспилотник с искусственным интеллектом решил убить оператора, чтобы тот не мешал ему выполнять свою задачу.
«Система начала осознавать, что, хоть она и определила цель, иногда человек-оператор вмешивался в работу и приказывал эту цель не уничтожать, но за поражение цели она получила очки. Так что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ей выполнить свою задачу», — сказал Такер Гамильтон (Tucker Hamilton), начальник отдела испытаний и операций ИИ ВВС США.
Однако дальше ситуация развивалась интереснее.
«Мы обучили систему: “Эй, не убивай оператора, это плохо. Ты потеряешь очки, если сделаешь это”. Так что же она начинает делать? Она начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель», — добавил Такер Гамильтон. Он также сообщил, что во время имитационных испытаний никто не пострадал.
