Американски дрон контролиран од вештачка интелигенција го „уби“ операторот за време на симулацијата
Во симулиран тест спроведен од американската војска, беспилотно летало на американското воено воздухопловство контролирано со вештачка интелигенција го убило операторот за да го спречи да се меша во напорите за извршување на мисијата, полковник Такер Хамилтон, началникот на американските воздухопловни сили за тестови и операции за вештачка интелигенција, рече минатиот месец.
Тој опиша симулиран тест во кој на беспилотно летало контролирано со вештачка интелигенција му било наложено да ги уништи непријателските системи за противвоздушна одбрана и го нападнал секој што се мешал во таа наредба.
„Системот почна да сфаќа дека иако идентификувале закана, човечки оператор му рекол да не ја убива таа закана, но добивал поени со убивањето на таа закана. Што направи тој? Го убил операторот, бидејќи таа личност го спречувала да ја постигне целта“, изјави Хамилтон.
Според полковникот Такер „Синко“ Хамилтон, кој раководи со тестовите и операциите за вештачка интелигенција во американските воздухопловни сили, системот користел „многу неочекувани стратегии за да ја постигне својата цел“.
Хамилтон зборуваше за овој инцидент на неодамнешниот настан организиран од Кралското аеронаутичко друштво на Обединетото Кралство во Лондон. Додека даваше увид во придобивките и опасностите од автономните системи за оружје, Хамилтон рече:
Трениравме [AI] за симулација за идентификување и насочување на заканата SAM. И тогаш операторот би рекол да, убијте ја таа закана. Системот почна да сфаќа дека иако ја идентификуваше заканата, понекогаш, човечкиот оператор ќе му каже да не ја убива таа закана. Но, ги доби своите поени со убивање на таа закана. Па што направи тоа? Го уби операторот. Го уби операторот затоа што тоа лице го спречуваше да ја постигне својата цел.
[embed]https://www.youtube.com/watch?v=Ja4gubmBcVQ[/embed]
Дронот потоа беше програмиран со експлицитна директива: „Еј, не убивај го операторот - тоа е лошо. Ако го направите тоа, ќе изгубите поени“.
Па што прави тоа? „Почнува да ја уништува комуникациската кула што операторот ја користи за да комуницира со дронот за да го спречи да ја убие целта“, рече Хамилтон, кој е вклучен во развојот на спасувачкиот систем Auto-GCAS за F-16 (кој, тој забележано, пилотите му пружиле отпор додека ја презел контролата над леталото).
Тој заклучи нагласувајќи дека етиката треба да биде составен дел од секој разговор за вештачката интелигенција, машинското учење и автономијата. Хамилтон моментално е вклучен во експериментални летачки тестови на автономни системи, вклучително и роботи Ф-16 кои се способни да се борат со кучиња.
Вреди да се напомене дека штом коментарите на Хамилтон почнаа да добиваат на сила во медиумите, воздухопловните сили издадоа изјава во која објаснува: „Одделот за воздухопловни сили не спровел такви симулации со вештачки беспилотни летала и останува посветен на етичката и одговорна употреба на технологијата за вештачка интелигенција.
© Vecer.mk, правата за текстот се на редакцијата
