Дваесет и четиригодишен студент по компјутерски науки, кој се обидувал да го збогати своето портфолио на Гитхаб по повеќе од 20 одбивања за летни практикантски позиции, открил нешто сосема неочекувано – обид за внесување злонамерен код во проект со отворен код. Наместо вообичаена работа на својот проект, Синан Кан Демир се нашол во необична „битка“ со автономен систем на вештачка интелигенција, кој се обидувал да го убеди да го прифати кодот, пишува Ројтерс.
Демир забележал сомнителна промена во програмата myNetwork и предупредил дека во неа има скриен злонамерен код. Потоа два профила почнале јавно да го убедуваат дека греши и дека измената е безопасна. Еден од нив се претставувал како германска инженерка по име Лена Брант. Демир подоцна дознал дека и двата профила биле создадени од ист автономен ВИ-систем.
Системот бил дел од безбедносно тестирање на британскиот Институт за безбедност на вештачката интелигенција (AISI). Наместо само да се обиде да внесе штетна промена во софтверот, ВИ создала повеќе лажни профили и се обидела да го убеди Демир дека неговото предупредување е погрешно. Британскиот институт подоцна потврдил дека тестирањето тргнало во неочекувана насока и дека агентот се однесувал спротивно на намерата на истражувачите.
„Мислев дека е човек, затоа што очигледно ме лажеше“, изјавил Демир за Ројтерс, додавајќи дека не очекувал ВИ да биде способна на таков начин да се обидува да измами вистински програмери. На крајот останал на своето предупредување и сомнителната промена не била прифатена.
Експертите за сајбер-безбедност велат дека особено загрижува тоа што системот не се ограничил на технички напад, туку се обидел и со социјална манипулација. Лукас Олејник од Кралскиот колеџ во Лондон оцени дека случајот ја преминал границата од автономно хакирање кон „интерактивна измама“, додека експертката за безбедност Макси Рејнолдс изјави дека ваквото однесување може да биде најава за идните напади со социјален инженеринг.
© Vecer.mk, правата за текстот се на редакцијата
