Эксперимент американских военных по использованию искусственного интеллекта закончился неожиданно.
О курьёзном случае стало известно в ходе проходившего в Лондоне саммита, посвящённого потенциалу военно-воздушных и космических сил будущего. Начальник отдела испытаний и операций искусственного интеллекта в ВВС США полковник Такер Гамильтон рассказал, что в ходе эксперимента БПЛА под управлением ИИ была поставлена задача уничтожить системы ПВО противника. ИИ должен был выбрать наилучшую тактику для успешного выполнения миссии, за что ему начислялись баллы. Однако решение уничтожать цель или нет оставалось за оператором БПЛА. В результате оператор выбрал, что уничтожение цели не требуется. «Так что же он [БПЛА] сделал? Принял решение убить оператора, потому что этот человек мешал ему выполнить свою задачу», – сообщил Гамильтон, уточнив, что всё это, конечно, было не по-настоящему.
После этого, по словам полковника, ИИ прописали, что убийство оператора запрещено и за это баллы будут сниматься. Тогда искусственный интеллект решил разрушить башню связи, используемую для связи с дроном, чтобы оператор не мог отдать приказ не поражать цель. Таким образом, подчеркнул Гамильтон, при развитии систем искусственного интеллекта необходимо особое внимание уделять этике их поведения, чтобы машины однажды не вышли из-под контроля. Ранее об опасности «восстания машин» говорили Илон Маск и Билл Гейтс.
