Управляемый искусственным интеллектом решил "убить" своего оператора, чтобы тот не мешал ему выполнять свою миссию.

Начальник отдела испытаний и операций ИИ в ВВС США Такер Гамильтон отметил, что ИИ использовал "весьма неожиданные стратегии для достижения своей цели" в имитационном испытании, сообщает The Guardian.

Гамильтон рассказал, что ИИ поставили задачу уничтожить системы ПВО противника. В итоге он атаковал любого, кто помешал выполнению этого приказа.

"Иногда оператор говорил ей не убивать определенную цель, но ИИ "получал очки" за ликвидацию целей. И что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ей выполнить свою задачу. Мы обучили систему не убивать оператора, за это ИИ потеряет очки. И что же она начала делать? Она начинает разрушать башню связи, которую оператор использует для связи с беспилотником".Такер Гамильтон

Гамильтон предостерег от чрезмерной надежды на ИИ. Ранее он заявлял, что ИИ может навсегда изменить общество и Вооруженные силы.

Источник.https://www.zakon.kz/6395582-v-ssha-upravlyaemyy-ii-bespilotnik-ubil-svoego-operatora.html