Шефот на Обединетите нации за човекови права, Фолкер Турк, предупреди дека вештачката интелигенција би можела да стане толку моќна што ќе го загрози целото човештво и најави дека од водечките технолошки компании ќе побара итно намалување на ризиците.
„Ја споделувам загриженоста на инсајдерите од самата индустрија дека напредната вештачка интелигенција би можела да претставува егзистенцијален ризик за човештвото“, изјави Турк пред Советот за човекови права на ОН во Женева, во говорот во пресрет на почетокот на неговиот втор мандат.
„Денес и од ова место повикувам на општ напор за да се воспостават цврсти гаранции околу безбедноста на вештачката интелигенција, пред да биде премногу доцна“, порача високиот комесар на ОН.
На што мисли кога ги споменува „инсајдерите од индустријата“?
Предупредувањето на Турк директно се потпира на претходните истапувања на водечките светски научници, инженери и челници на технолошките компании. Клучна пресвртница во таа дебата беше заедницката изјава на Центарот за безбедност на вештачката интелигенција (CAIS), која ја потпишаа стотици водечки стручњаци, вклучувајќи ги Сем Алтман од „OpenAI“, Демис Хасабис од „Google DeepMind“ и Дарио Амодеи од „Anthropic“. Во таа изјава тие порачаа дека ублажувањето на ризикот од изумирање поради ВЕ (AI) мора да биде глобален приоритет, рамо до рамо со ризиците како што се пандемиите и нуклеарната војна.
Слично предупредуваа и пионерите на модерното машинско учење, често нарекувани „кумови на вештачката интелигенција“, Џефри Хинтон и Јошуа Бенџио. Хинтон, по заминувањето од „Google“, јавно истакнуваше дека напредните системи набрзо би можеле да станат поинтелигентни од луѓето и да развијат цели кои не се во согласност со човечките интереси.
Регулацијата касни зад развојот
Обединетите нации и меѓународните тела веќе подолго време расправаат за тоа како да се постават глобални стандарди пред технологијата да излезе од контрола. Европската Унија донесе сопствен Закон за вештачка интелигенција (AI Act) со цел ограничување на ризичните примени, како што се масовниот биометриски надзор и манипулативните алгоритми, но глобално усогласена рамка сè уште нема.
Покрај сценариото за губење контрола над општата вештачка интелигенција (која сè уште не постои, но се очекува во следните 10-ина години), Обединетите нации и групите за човекови права редовно предупредуваат и на многу понепосредни закани: масовно ширење на уверливи дезинформации, автоматизирано кршење на приватноста, алгоритамска дискриминација и развој на автономно оружје кое без човечки надзор може да одлучува за животот и смртта.
© Vecer.mk, правата за текстот се на редакцијата
