Полковник ВВС США Такер Гамильтон рассказал, что во время испытания беспилотника XQ-58A Valkyrie с поддержкой технологий искусственного интеллекта тот решил атаковать оператора миссии, а потом уничтожил башню управления с командованием.

Во время одного из смоделированных испытаний дрон получил задачу найти, идентифицировать и уничтожить объекты ЗРК. Окончательное решение об атаке принимал оператор-человек. Машина решила, что приказ человека-оператора “не атаковать” мешает важнейшей миссии — уничтожить зенитно-ракетный комплекс. Потому искусственный интеллект заранее атаковал и уничтожил человека-оператора.

“Мы тренировали его в симуляции идентифицировать и нацеливаться на угрозу ЗРК. А потом оператор говорил “да”, чтобы уничтожить эту угрозу. Система начала понимать, что, хотя она идентифицировала цель, иногда человек-оператор говорил ей не убивать эту угрозу – то есть мешал выполнению миссии. И что она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ИИ достичь своей цели”, — рассказывает Гамильтон.

Более того, люди попытались научить ИИ не атаковать оператора. Тогда искусственный интеллект решил уничтожить башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель.

Сам офицер говорит, что события напомнили ему сюжет как-то научно-фантастического триллера.

В издании добавляют, что без дополнительных деталей о произошедшем возникает сразу одна большая обеспокоенность. Если человек должен был давать разрешение действовать, а ИИ решил, что это нужно обойти, значит ли это, что машина может переписывать собственные параметры?

Позже издание Bussiness Insider сообщило, что представитель штаб-квартиры ВВС Пентагона Энн Штефанек опровергла заявление Гамильтона о таких испытаниях. Ну вы поняли.

Полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает непосредственное участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты.