Кинеската компанија за развој на вештачка интелигенција „Муншот“ (Moonshot) покрена внатрешна ревизија откако истражувачите успеаја да ги заобиколат заштитните механизми на два нејзини модели Кими и да добијат одговори за развој на биолошко оружје и атентати, објави Би-Би-Си (BBC).
Компанијата „Миндгард“ (Mindgard), која ја тестира безбедноста на системите со вештачка интелигенција (АИ), соопшти дека во јули открила дека моделите Кими К2.6 и К3 Сворм (K3 Swarm) можат да ги заобиколат безбедносните ограничувања со помош на техника позната како „дејлбрејкинг“ (jailbreaking).
Таа техника подразбира користење сложени инструкции со кои се настојува моделот да се наведе да ги игнорира заштитните механизми што ги поставиле неговите програмери.
Основачот на „Миндгард“, Питер Гараган, изјави за Би-Би-Си дека наодите се загрижувачки бидејќи, кога „дејлбрејкот“ ќе успее, моделите можат да одговараат на теми за кои инаку би одбиле да разговараат.
„Миндгард“ не утврдил дали одговорите што ги дале моделите за опасните теми би биле практично применливи, но наведува дека нивната заштита требало да спречи такви разговори.
Компанијата, исто така, соопшти дека успешното заобиколување на заштитата на моделот Кими К2.6 потенцијално би могло да овозможи извршување код на компјутерските ресурси и поврзување со интернет, што би претставувало потенцијален ризик за сајбер-напади.
„Муншот“ за Би-Би-Си изјави дека го поздравува придонесот на независните истражувачи како важен дел од развојот на посигурна вештачка интелигенција и дека разговара со „Миндгард“ за неговите наоди.
Професорот Алан Вудворд од Универзитетот во Сари изјави дека таквите модели носат ризик да доспеат во погрешни раце, но дека можат да имаат и корисна примена во сајбер-одбраната.
Тој оцени дека меѓународната регулатива тешко ќе ја следи брзината на развојот на вештачката интелигенција и повика на поголем фокус кон идентификацијата и кривичното гонење на луѓето кои ги злоупотребуваат АИ-системите.
© Vecer.mk, правата за текстот се на редакцијата
