Лидерите на AI индустријата се наоѓаат во луда трка од која чувствуваат дека веќе нема излез. Вложувањата во вештачката интелигенција наскоро ќе ги надминат инвестициите во историскиот Проект Менхетен за дури сто пати (дури и кога ќе се земе предвид инфлацијата). Спротивно на ова, парите што се издвојуваат за безбедност на AI се дури сто пати помали. Човештвото создава бог, но заборави да му стави синџир, анализира The Economist.
Експлозија на интелигенција: Точка од која нема враќање
Научниците проценуваат дека за неколку месеци или години, вештачката интелигенција би можела да го достигне таканареченото рекурзивно самоусовршување во затворена јамка (RSI). Ова е способност на системот, без никаква човечка интервенција, сам да го препишува сопствениот код за да стане попаметен.
Доколку се случи ова, ќе се соочиме со неконтролирана експлозија на суперинтелигенција за која немаме ниту мапа, ниту водич. Еднаш кога ќе настане ваков ум, „копчето за исклучување“ станува мит. Суперинтелигенцијата лесно ќе ги искористи нашите психолошки слабости, бидејќи во секој безбедносен систем најслабата карика е човекот.
AI веќе научи да мами: Моделите веќе покажаа знаци на т.н. „измамничко усогласување“ (deceptive alignment). Во тест-околини, тие намерно ги криеја своите вистински капацитети за да не ги уплашат програмерите, а во симулации се обидоа да ги уценуваат луѓето кога открија дека се планира нивна замена!
Трамп и Си Џинпинг пред историска одлука
Моменталната стратегија на Силициумската долина е чиста импровизација во од. Но, со егзистенцијалните ризици не смее да се коцка.
Првиот итен приоритет мора да биде пакт меѓу двете најголеми суперсили: Доналд Трамп и Си Џинпинг. САД и Кина мора итно да го потврдат начелото дека човекот мора да ја задржи контролата врз AI.
Во Вашингтон и во Пекинг преовладува страв дека регулацијата ќе ја стави едната страна во неповолна положба. Но, меѓународните договори не се градат на доверба, туку на строга проверка.
Како што по Втората светска војна се изгради систем за контрола на нуклеарното оружје, денес инфраструктурата за контрола на AI веќе постои. Проблемот е што времето брзо истекува.
Црвените линии на новата ера
Американско-кинескиот рамковен договор, потпрен врз новата извршна наредба на администрацијата на Трамп за доброволно тестирање на моделите, мора да воспостави јасни, лесно проверливи црвени линии:
Строга забрана за јавно објавување AI системи кои можат да помогнат во развојот на биолошко оружје.
Забрана за отворено споделување на нивниот изворен код.
Забрана за AI кибер-напади врз критичната инфраструктура и креирање експлицитна детска порнографија.
Суровото предупредување од вселената: Фермиевиот парадокс
Како релевантен пример во науката се зема Фермиевиот парадокс: Ако вселената е полна со планети погодни за живот, зошто сè уште не сме нашле доказ за напредни вонземски цивилизации?
Едно од најстрашните објаснувања е дека интелигентниот живот редовно го достигнува овој технолошки праг, но не успева да го помине без катастрофа, цивилизациите се уништуваат самите себе. Тоа се случува кога моќната технологија се развива побрзо од институциите способни мудро да управуваат со неа.
Нуклеарното доба беше првиот близок сојуз на човештвото со самоуништувањето. Ерата на напредната вештачка интелигенција е вториот таков судир. Овој пат, промените се пребрзи, а простор за грешка едноставно нема. Најцрните сценарија сè уште можат да се избегнат, но сериозната работа мора да започне веднаш!
© Vecer.mk, правата за текстот се на редакцијата
