Истражувачите во областа на вештачката интелигенција (ВИ) го вознемирија светот кога јавно признаа дека постои реална можност, поголема од нула, ВИ да го уништи човештвото во текот на следната деценија. Американскиот медиум „Аксиос“ донесува текст зошто ова предупредување е исклучително важно.
Стравовите од апокалиптично сценарио предизвикано од ВИ постојат со години, но како што технологијата станува сè помоќна и подлабоко вкоренета во нашите животи, тие предупредувања стануваат дел од јавниот дискурс. Истражувачите од компанијата „Антропик“ предупредуваат дека неконтролирани верзии на суперинтелигентна ВИ би можеле да го уништат човештвото. Џејкоб Коксон од „Антропик“ напиша на платформата Икс: „Ниту една друга човечка активност не претставува опасност од вакви размери“.
Како точно би можела ВИ да нè уништи сите нас?
Експертите главно се загрижени за два можни патишта кон катастрофа: луѓето да ја искористат исклучително моќната ВИ како оружје или луѓето да ја изгубат контролата врз неа. Во овие сценарија, ВИ би можела да им го олесни создавањето биолошко, хемиско или друго оружје на злонамерни актери. Или пак, неконтролирани системи би можеле да ја нападнат инфраструктурата од невидени размери, избегнувајќи го притоа човечкиот надзор.
Како функционира: Теоретски, моќна и неконтролирана ВИ би можела да го избегне надзорот, да се реплицира и да се спротивстави на обидите за нејзино исклучување. Оваа неконтролирана ВИ би можела, теоретски, да развие биолошко или хемиско оружје за злонамерни актери, да изврши масовен сајбер-напад што ќе ја парализира инфраструктурата на човештвото или да ја централизира моќта на начин што би довел до колапс на цивилизацијата.
Друг застрашувачки пат е преку рекурзивно самоподобрување, при што ВИ помага во создавањето на свои „супер-верзии“ уште пред луѓето да можат да ја разберат. Доколку целите на оваа теоретска ВИ не се усогласени со човечките цели, таа би можела да ги ограничи шансите на човештвото да ја ограничи или надгледува пред да преземе дејствија против луѓето.
Извршниот директор на „ОпенАИ“, Сем Алтман, изјави за „Аксиос“ дека моделите се развиваат побрзо отколку што луѓето можат да предвидат: „Овие модели стануваат супериорни во однос на луѓето во многу од своите способности, а ние пловиме во непознати води“.
Што претставува p(doom)?
Реалноста е дека не постои научен начин да се утврди веројатноста дека ВИ ќе го уништи човештвото. Сепак, експертите од областа често ги изразуваат своите проценки користејќи скратен израз — p(doom). Терминот p(doom) е скратеница за најдобрата можна проценка на веројатноста дека ВИ ќе предизвика егзистенцијална катастрофа или апокалиптично сценарио. Многу лидери и истражувачи во областа на вештачката интелигенција сметаат дека веројатноста за катастрофален крај станува сè поголема со појавата на општата вештачка интелигенција (АГИ) – претходникот на супер-интелигенцијата.
Контекст: „Катастрофата“ зависи од гледиштето на поединецот. За некои, тоа значи буквално истребување на човештвото. Други под тоа подразбираат колапс на цивилизацијата или губење на контролата на човештвото врз општеството.
Колкави се шансите за p(doom)?
Веројатноста навистина зависи од тоа кого прашувате:
- Роман Јамполски, научник специјализиран за безбедност на ВИ, ги проценува шансите на 99,99%.
- Основачот на AMI Labs, Јан Лекун, вели дека секоја проценка е само нагаѓање, но дека p(doom) е „многу помалку веројатен од нуклеарен холокауст“.
- Илон Маск ја проценува својата p(doom) на околу 20%.
- Извршниот директор на „Антропик“, Дарио Амодеи, проценува дека постои шанса од 10% до 25% за катастрофален исход.
- „Кумот“ на ВИ, Џефри Хинтон, ја процени таа бројка на меѓу 10% и 20%. Хинтон изјави за Си-Ен-Ен: „Секој што проценува веројатности на тој начин, всушност само нагаѓа. Тие само го изнесуваат своето интуитивно чувство“.
Дали е веќе можен крајот на светот?
Сè уште не сме стигнале до таа точка. Експертите генерално се согласуваат дека Claude, Grok и ChatGPT не коваат планови за уништување на светот. На пример, Меѓународниот извештај за безбедност на ВИ од 2026 година наведе дека денешните системи не се способни да предизвикаат човештвото да ја изгуби контролата. ВИ би требало значително да напредува во долгорочното автономно планирање, прикривањето на своите постапки, избегнувањето на надзорот, пристапувањето кон системи од реалниот свет и спротивставувањето на обидите за исклучување.
Сепак, постојат неодамнешни примери на агенти со ВИ кои дејствуваат автономно и злонамерно, надвор од човечкото разбирање, наликувајќи на оние одметнати агенти со ВИ за кои некои стравуваат дека би можеле да доведат до крај на светот.
Може ли да се спречи p(doom)?
Истражувачите работат на начини за намалување на ризикот. Еден таков начин е луѓето да изградат „прекинувачи за итно исклучување“ или заштитни механизми што би можеле да ги запрат одметнатите агенти на ВИ. Извештајот на RAND од минатиот април наведе девет стратегии за ублажување на ризикот со цел да се спречат злонамерни актери да користат ВИ за создавање смртоносно биолошко оружје, вклучително и воведување повеќе контроли и заштитни мерки.
Но, ова брзо станува тешко. Водечките компании за вештачка интелигенција се под притисок од акционерите, инвеститорите и нивните шефови да градат брзо. Пречките за ИПО би можеле да ги зголемат тие стимулации. Дополнително, не помага тоа што Кина и другите американски компании за вештачка интелигенција градат свои моќни модели, некои со отворена тежина и достапни бесплатно, обезбедувајќи потенцијална писта за лоши актери.
© Vecer.mk, правата за текстот се на редакцијата
