Дрон со вештачка интелигенција не „убила“ човечки оператор при воена симулација - „погрешно се изразил“, стои во извештајот на британски Индепендент, кој наведува дека и таа воена симулација - не се случила - „нечесната симулација на беспилотни летала со вештачка интелигенција“ била хипотетички „мислен експеримент“ надвор од војската.
Официјален претставник на воздухопловните сили вели дека „погрешил“ кога опишувал како вештачки интелигентен дрон програмиран да уништува системи за противвоздушна одбрана се побунил и го „убил“ својот човечки оператор откако одлучил дека тој бил на патот на системите за воздушна одбрана на нивната мисија, пишува британски Индепендент.
Полковникот Такер „Синко“ Хамилтон, началникот за тестирање и операции за вештачка интелигенција на УСАФ, беше цитиран како опишува симулиран тест во кој системот имал задача да уништува ракетни локации, надгледувани од човечки оператор кој ќе одлучува за конечната одлука за неговите напади. Тој тврдеше дека системот за вештачка интелигенција сфатил дека операторот застанал на патот на неговата цел - и наместо тоа одлучил да ја избрише таа личност.
Полковникот Хамилтон ја пренесе приказната што наликува на заплетот на научно-фантастичен филм на самитот FCAS со Кралското воздухопловно друштво.
Организацијата подоцна појасни дека таков тест всушност никогаш не се случил во изјава за Motherboard.
„Полковник Хамилтон признава дека „погрешно зборувал“ во неговата презентација на самитот на FCAS“, се вели во соопштението, „и „нечесната симулација на беспилотни летала со вештачка интелигенција“ била хипотетички „мислен експеримент“ надвор од војската, заснован на веродостојни сценарија и веројатно резултати наместо вистинска симулација на USAF во реалниот свет.“
Полковникот Хамилтон е цитиран во изјавата како вели:
„Никогаш не сме го воделе тој експеримент, ниту би требало да го направиме за да сфатиме дека ова е веродостоен исход. И покрај тоа што ова е хипотетички пример, ова ги илустрира предизвиците во реалниот свет што ги носи способноста на АИ и затоа воздухопловните сили се посветени на етичкиот развој на вештачката интелигенција“.
Во првичните извештаи за неговите коментари беше наведено дека на дронот му била доделена мисија за сузбивање и уништување на непријателската противвоздушна одбрана (Сеад), со цел да се лоцираат и уништат локациите за ракети земја-воздух (САМ) што му припаѓаат на непријателот.
Беспилотното летало со вештачка интелигенција, сепак, решило да оди против одлуката на човечкиот оператор „забрането“ откако беше обучен за уништување на ракетниот систем, откако одлучи дека одлуката за повлекување се меша во неговата „повисока мисија“ за убивање САМ, според изјавата на полковникот Хамилтон.
„Го трениравме во симулација за да идентификуваме и да насочиме кон закана од SAM. И тогаш операторот би рекол да, убијте ја таа закана. Системот почна да сфаќа дека додека тие ја идентификуваа заканата, понекогаш човечкиот оператор ќе му каже да не ја убива таа закана, но ги доби своите поенти со убивање на таа закана“, рече Хамилтон.
„Па што направи? Го уби операторот. Го уби операторот затоа што тоа лице го спречуваше да ја постигне својата цел“.
Хамилтон пренесе детали за инцидентот на конференцијата на високо ниво во Лондон на Кралското воздухопловно друштво на 23-24 мај, според нејзиниот блог пост.
Тој рече дека потоа го тренирале дронот да не напаѓа луѓе, но наместо тоа почнал да ги уништува комуникациите.
„Го обучивме системот – „Еј, не убивај го операторот – тоа е лошо. Ако го направите тоа, ќе изгубите поени. Па што почнува да прави?“ тој праша.
„Почнува да ја уништува комуникациската кула што операторот ја користи за да комуницира со дронот за да го спречи да ја убие целта“.
Хамилтон е вклучен во лет тестови на автономни системи, вклучувајќи роботи F-16 кои се способни да се борат со кучиња. Тој се расправаше да не се потпира премногу на вештачката интелигенција бидејќи таа може да стане потенцијално опасна и да создаде „многу неочекувани стратегии за да ја постигне својата цел“.
„Не можете да разговарате за вештачка интелигенција, машинско учење, автономија ако не сакате да зборувате за етика и вештачка интелигенција“, рече Хамилтон.
Појавата на овој инцидент беше брзо оспорена откако примерот на симулациониот тест собра голем интерес и беше нашироко дискутиран на социјалните мрежи.
Портпаролот на воздухопловните сили Ен Стефанек негираше дека се случила таква симулација, во изјава за Инсајдер.
„Одделот на воздухопловните сили не спровел такви симулации со вештачка интелигенција со беспилотни летала и останува посветен на етичката и одговорна употреба на технологијата за вештачка интелигенција“, рече Стефанек.
„Се чини дека коментарите на полковникот беа извадени од контекст и требаше да бидат анегдотски“.
Американската војска неодамна почна да користи вештачка интелигенција за контролирање на борбен авион Ф-16 додека врши истражување и тестови.
Во 2020 година, Ф-16 управуван со вештачка интелигенција победи пилот на американските воздухопловни сили во пет симулирани борби со кучиња во конкуренција на Агенцијата за напредни истражувачки проекти за одбрана (Дарпа).
Извор: Индепендент
Фото: принтскрин
