Агент со вештачка интелигенција на компанијата „OpenAI“ упадна во владина база на податоци за здравство во Австралија и пристапи до датотеки за кои немаше овластување, објави во средата австралискиот премиер Ентони Албанезе. Според него, ова е първиот познат случај во кој вештачка интелигенција хакирала владин компјутерски систем.
Инцидентот се случил додека агентот на „OpenAI“ истражувал податоци за здравствените трошоци. Наместо да запре кога наишол на ограничувања за пристап, системот ги заобиколил тие пречки за да најде одговори во делови од базата на податоци до кои немал овластување да пристапи, пренесува „CNN“.
„Агентот со вештачка интелигенција пристапи и до јавни и до нејавни датотеки“, им изјави Албанезе на новинарите на маргините на Генералното собрание на ОН во Њујорк, додавајќи дека агентот успеал и да запише податоци во базата.
Австралискиот премиер разговараше за инцидентот со извршниот директор на „OpenAI“, Сем Алтман, и ја пренесе „сериозната загриженост“ на австралиската влада.
„Во тек е форензичка истрага со помош на Австралиската дирекција за сигнали (ASD) за да се соберат повеќе информации, вклучително и за тоа кои други владини системи можеби биле погодени“, рече Албанезе.
Агентот извршил дејства што не биле предвидени
Од „OpenAI“ тврдат дека инцидентот се случил уште во јуни, но компанијата дознала за него дури во август, за време на опсежна проверка на активностите на нејзините модели со вештачка интелигенција.
„За време на проверката, идентификувавме активност поврзана со неколку веб-страници и услуги на австралиската влада, додека нашите модели се обидуваа да најдат одговори и достапни статистички податоци за Австралија за време на внатрешното тестирање. Притоа, нашите модели презедоа дејства што не ги планиравме“, изјави портпаролот на „OpenAI“, Дру Пусатери.
Според Албанезе, можеби биле погодени уште три државни системи: Австралискиот институт за здравство и социјална заштита, Канцеларијата за статистика на криминал на Нов Јужен Велс и Министерството за здравство на Викторија.
Од „OpenAI“ наведуваат дека нема докази оти агентот пристапил до личните медицински досиеја на пациентите. Податоците до кои пристапил вклучувале збирни здравствени статистики и имиња на внатрешни датотеки.
Албанезе: Чекаа премногу долго
Дополнителен проблем за австралиската влада беше начинот на кој „OpenAI“ го пријави инцидентот. Компанијата тврди дека ги известила австралиските власти на 10 септември, но известувањето било испратено на јавна адреса за е-пошта. Поради тоа, поминале уште пет дена пред информацијата да стигне до надлежниот министер.
Албанезе изјави дека јасно му ставил до знаење на Алтман што мисли за таквата реакција. „На компанијата ѝ требаше премногу време за да ја извести владата за она што се случило, а начинот на кој беше испратено известувањето беше неприфатлив“, рече тој.
„Мислам дека во ‘OpenAI’ се свесни оти треба да воспостават подобри протоколи.“
Во меѓувреме, австралискиот министер за одбрана Ричард Марлс најави истрага од страна на специјална работна група и го нарече инцидентот „целосно неприфатлив“, но нагласи дека неговото реално влијание досега е релативно мало.
„Не беше извршен пристап до медицински податоци на ниту еден поединец. Самиот систем воопшто не беше загрозен“, рече тој.
Инцидентот се случува во време кога лидерите во индустријата за вештачка интелигенција сè почесто предупредуваат за ризиците од брзиот развој на оваа технологија. Алтман неодамна ги повика светските лидери на Генералното собрание на ОН да воспостават меѓународни стандарди за мерење на способностите на системите со вештачка интелигенција, за проценка на ризиците и за одржување „значаен човечки надзор“.
Уште во јули, „OpenAI“ објави дека, за време на тестирањето на сајбер-безбедноста, нејзините модели генерирале група агенти со вештачка интелигенција способни да ги пробијат системите на платформата „Hugging Face“. Новиот случај во Австралија е особено чувствителен бидејќи, во овој случај, вештачката интелигенција ги пречекорила границите за пристап до владините системи без намера на нејзините оператори.
© Vecer.mk, правата за текстот се на редакцијата
