Кој навистина владее со светот? Тоа е прашање што ги интересира сите оние кои сметаат дека вистинските владетели не се оние што се појавуваат пред јавноста.
Но, во ова време, можеби и едните и другите излегуваат заедно, препознавајќи се меѓусебно, иако доаѓаат од многу различни светови. Средбата на лидерите на Г7 и раководителите на најмоќните американски компании што се занимаваат со вештачка интелигенција изгледаше како состанок каде што не можете да кажете кој ја има вистинската моќ.
Едно е сигурно - тројцата седат со политичките лидери на земјите од Г7, како одеднаш да припаѓаат таму, иако светот не ги одобрил, а ако можеа да изберат, веројатно немаше. Но, се појавија и се чини дека никој повеќе не може да ги брка. Секој од нив има своја и заедничка агенда, а политичарите внимателно слушаат и се обидуваат да разберат што треба да прават.
Во таа група нема „добри“ и „лоши“ ликови. Постојат неколку центри на моќ што ја зборуваат вистината, но секој од свој агол на интерес.
Прво, приказната за „забранетите“ модели на Anthropic не е само научно-фантастичен маркетинг.
Имено, Anthropic официјално објави дека владата на САД, повикувајќи се на националната безбедност, наредила суспензија на пристапот до моделите Fable 5 и Mythos 5 за сите странски државјани, вклучувајќи ги и странските вработени во Anthropic во САД. Поради ова, компанијата мораше да го прекине пристапот до тие модели за сите корисници. Ако го користите нивниот Claude, веројатно сте ја виделе објавата. Anthropic вели дека американската страна не им дала конкретни детали за безбедносниот проблем, туку дека наводно станува збор за метод за „заобиколување на безбедносните огради“ на моделот.
Што ги прави овие модели толку „опасни“?
Не е свеста, не е Терминаторот или некаков вид магична суперинтелигенција. Проблемот е комбинација од три работи - исклучително силна способност за програмирање, способност за автономна работа долго време и примена во сајбер безбедноста. Самиот Anthropic го опишува Mythos 5 како ист основен модел како и Fable 5, но со зголемени безбедносни ограничувања во некои области, насочени кон мал круг „кибер бранители“ и инфраструктурни партнери. Anthropic отворено го нарекува модел со најсилни кибернетски способности во светот.
Со други зборови, стравот не е дека моделот ќе „одлучи да го освои светот“.
Стравот е дека некое лице, држава, разузнавачка служба, корпорација или криминална мрежа ќе добијат алатка што може да го забрза откривањето на ранливости, да автоматизира делови од напади, да помогне во сложени технички операции и да го направи сето ова побрзо од тимови луѓе, дури и големи тимови. Затоа Mythos е особено жестоко дебатирано бидејќи алатка што може да помогне во одбраната на критичните системи може истовремено да ги забрза нападите врз истите тие системи.
Сепак, постои и прашање што некои би сакале да не го постават.
Ако денес постои толку моќен модел што го држат во „карантин“, таков капацитет наскоро ќе го постигнат и други.
Дали некој мисли дека Кина нема да може да ја „заврши“ својата вештачка интелигенција до степен да стане толку совршена деструктивна кибер-машина?
Секако, станува збор за уништување на дигиталната инфраструктура, а не само на обична веб-содржина.
Да го замислиме вака - да имате исклучително моќна вештачка интелигенција во рацете и да ѝ кажете: „Најдете начини да уништите витална инфраструктура во... некоја земја што нема толку силна одбрана“.
Виталната инфраструктура може да биде сè - финансиски операции, работење на јавни системи, исклучување на извори на информации итн.
Ако вештачката интелигенција одговори: „Добро, еве како ќе го направиме тоа... Да одиме ли?“ - тогаш тоа навистина е машина што го руши светот.
И зошто не ја „скротат“ навреме, пред да ја објават во јавноста? Очигледно се дискутира и очигледно не е толку едноставно.
Вештачката интелигенција мора да препознае дали намерите се злонамерни. Но, можете да се обидете да ја измамите за да не ја детектира. Тука доаѓаме до некои сценарија... да речеме, прилично силна вештачка интелигенција се обидува да измами друга вештачка интелигенција да ѝ даде информации за лансирање на такви напади!
Дали лидерите на компаниите за вештачка интелигенција се навистина загрижени? Тие се, барем делумно.
Веројатно не се сите само актери во ПР шоу, но би можеле да бидат. Луѓето што ги водат овие лаборатории гледаат внатрешни тестови, гледаат колку брзо моделите преминуваат од „помагачи“ во системи што можат самостојно да извршуваат сè поголеми и поголеми делови од професионалната работа.
Anthropic тврди во сопствената анализа дека Mythos Preview веќе може да извршува долги задачи, дека Cloude пишува голем дел од нивниот внатрешен код и дека способноста на моделот во истражувачките и инженерските задачи се движи многу брзо кон поголема автономија.
Но, да го погледнеме вака.
Шефот на Anthropic седи меѓу Трамп, Макрон и другите - кои заедно веројатно дури и не знаат како да сменат хард диск на обичен компјутер - и им кажува како создале нешто толку моќно и разорно. Како може тоа да не биде реклама за самата компанија, освен ако сè не се одвива тајно и зад затворени врати?!
Алармизмот е валута. Ако ѝ кажете на јавноста „нашите модели се толку моќни што државите мора да ги регулираат“, всушност кажувате три работи одеднаш: нашите производи се револуционерни, нашите конкуренти се потенцијално опасни и само најголемите компании имаат инфраструктура, безбедносни тимови и политички врски за да го прават ова „одговорно“!
Тоа е идеалната формула за регулаторен ров околу постоечки гиганти. Тие го градат толку брзо што никој не може да им се приближи.
Првиот човек на Anthropic, Дарио Амодеј, е најпроблематичен од геополитичка перспектива.
Неговата идеја за коалиција на „демократски“ земји под американско водство што би ги изолирала противниците, првенствено Кина, не е неутрална безбедносна политика.
Тоа е предлог за технолошко НАТО во областа на вештачката интелигенција. Безбедносниот „аргумент“ е нагласен и повторуван, но зад него стои и многу јасна империјална логика - кој и да го контролира пристапот до најсилните модели, ја контролира идната воена, разузнавачка, индустриска и научна предност.
Сем Алтман од OpenAI во оваа конкретна дискусија звучи најразумно на почетокот кога вели дека владите не смеат да ја остават одговорноста на лабораториите за вештачка интелигенција. Неговата порака е дека компаниите развиваат технологија, но дека правилата треба да ги донесуваат демократските влади.
Добро, но и тука мора да се биде внимателен. OpenAI со тоа се позиционира како „одговорен“ технолошки актер кој сака регулација, но не сака конкурентските лаборатории или државниот безбедносен апарат сами да дефинираат кој има право да користи вештачка интелигенција. Можеби е принципиелна позиција, но е и деловна одбрана на пазарот.
Димис Хасабис, шеф на „DeepMind“ во „Гугл“, е некаде помеѓу. Неговата позиција звучи технички, но едно тело за стандарди поддржано од водечки лаборатории - што е негов предлог - би можело многу брзо да стане клуб на големите, еден вид затворен еснаф кој одлучува кој е доволно безбеден, сигурен и, пред сè, политички прифатлив.
Најголемата празнина во целата дискусија останува обичниот човек.
Ако на Г7 за вештачката интелигенција се дискутира речиси исклучиво преку сајбер напади, биотероризам, нуклеарна закана и војување, тогаш можете да видите кој е на масата. Нема работници, наставници, лекари, нема мали држави и нема јавност.
Вештачката интелигенција веќе се дефинира како инфраструктура на моќ, а само на пат е како социјална технологија.
Ако се обидеме да одговориме на прашањето дали паниката што ја шири триото е вистинска или лажна, одговорот не може да биде едноставен.
Да, таа е вистинска, но е и исклучително корисна. Сите три на крајот ќе се согласат дека она што го произвеле е потенцијално многу опасно, но во исто време ќе уживаат во тоа.
Понатаму, ниту една од трите не гледа проблем со нивните системи што убиваат луѓе додека тие се луѓе во земји каде што политиката е да се убива.
Покрај тоа, влегуваме во свет во кој неколку американски компании - и американската држава - ќе одлучат кој може да има пристап до најважната технологија на 21 век.
Тоа е „план Б“ за глобална доминација, ако овој, сега донекаде застарен, класично вооружен модел не успее.
Одобрувањето на Трамп е лесно за разбирање, но гледањето како Марк Карни, Фридрих Мерц, Емануел Макрон, Џорџија Мелони и други климаат со главите е поинаква приказна, всушност стара приказна - сите тие се надеваат дека ќе има нешто за нив во сенката на империјата.
(Vecer.mk VIA)
© Vecer.mk, правата за текстот се на редакцијата
