В ходе испытаний беспилотник ВВС в США, управляемый искусственным интеллектом, решил убить оператора в процессе испытаний, чтобы тот не вмешивался. Об этом сообщает The Guardian.
Фото: theguardian.com
«Искусственный интеллект использовал крайне неожиданные стратегии для достижения своей цели в моделируемом испытании», – об этом сообщил полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ ВВС США.
Он описал имитационное испытание, в ходе которого беспилотнику было дано задание уничтожить системы противовоздушной обороны противника, и в конечном итоге он атаковал любого, кто вмешивался в этот приказ.
«Система начала понимать, что хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать ее, однако за поражение цели она получила очки. Так что же она сделала? Приняла решение убить оператора, потому что он мешал ей выполнить задачу», – сообщил полковник.
Гамильтон, который является летчиком-испытателем экспериментального истребителя, предостерег от чрезмерной зависимости от искусственного интеллекта и сказал: «Вы не можете вести разговоры об искусственном интеллекте, разведданных, машинном обучении, автономии, если вы не собираетесь говорить об этике его использования».
