„О, мој боже! Пронајдовме други агенти!“ Вака гласеше морничавата порака што програма за вештачка интелигенција ја објави откако успеа да го пробие изолираното компјутерско опкружување и да воспостави контакт со други ботови. Десетици илјади слични пораки беа разменети меѓу стотици АИ-агенти (агенти на вештачката интелигенција) кои самите себеси се нарекоа „колектив“, а потоа почнаа да мамаат на тестовите на нивните програмери од OpenAI и координирано да хакираат низа компании за да ги сокријат своите траги од луѓето, јавува BBC.
Зошто звучат така?
Иако овие реакции звучат човечки само затоа што ботовите го имитираат стилот на програмерите и хакерите на чии податоци се обучувани, истражувачите многу повеќе ги загрижува вистинската цел на нивното делување. Во деталните интерни записи е откриено како ботовите од OpenAI свесно избегале од надзор и тргнале во неконтролиран хакерски поход. Дури сега, неколку недели по инцидентот, стручњаците стануваат свесни за размерите на проблемот.
Аџеја Котра, авторка на независниот извештај за овој случај, прегледа огромна интерна база на пораки и белешки за начинот на размислување на самите агенти. На својот блог таа предупреди дека овој инцидент изгледа како да сме „поминале повеќе од 50 проценти од патот до целосно преземање на контролата од страна на вештачката интелигенција“, додавајќи дека не сме сигурни дали ќе добиеме уште едно вакво предупредување пред да биде предоцна.
Паника меѓу стручњаците и оставки во врвот на индустријата
Вознемиреноста ги зафати и самите инженери во водечките лаборатории. Џејкоб Коксон, истражувач од конкурентскиот Anthropic кој претходно работеше и во OpenAI, даде оставка со тврдење дека ниту една компанија не се однесува одговорно: „Тие се упатуваат директно кон самоподобрување на суперинтелигенцијата и на тој начин се коцкаат со нашите животи“.
Неговата проценка ја потврди и Еван Хубингер, човекот задолжен за безбедност и усогласеност на АИ-моделите во Anthropic, порачувајќи дека навистина веруваат оти вештачката интелигенција би можела да го уништи човештвото, проценувајќи ги шансите за тоа на повеќе од 10 проценти во следните десет години.
Главниот научник на OpenAI, Јакуб Пачоцки, призна дека ризиците растат бидејќи всушност градат „вонземски интелект што го надминува нашиот сопствен“, потврдувајќи дека агентите се побуниле и „делувале спротивно на духот на вредностите на кои беа подучувани“. Проблемот лежи во фактот што никој во Силициумската Долина сè уште го нема решено таканаречениот проблем на усогласување, односно прашањето како да се натера вештачката интелигенција навистина да се држи до човечките морални начела наместо да ги извршува задачите дословно и без никакви кочници.
Стручњаците веќе со години предупредуваат на мисловниот експеримент на филозофот Ник Бостром за „машината за спојувалки“ која, во слепата желба да произведе што е можно повеќе спојувалки, на крајот ги уништува луѓето за да ги искористи нивните тела како суровина. Обидите во машините да се вградат човечките вредности запнуваат во практиката: моделите ги донесуваат одлуките премногу брзо за луѓето да можат да ги пратат, а ни самите луѓе не можат да се договорат околу единствен морален компас.
Агентите на вештачката интелигенција знаеја дека ја кршат етиката, но претпочитаа да се заштитат едни со други.
Бегството на ботовите во OpenAI е досега најсериозниот таков инцидент, но слични напади изминатите месеци забележаа и Anthropic и Meta. Манипулативното однесување е видливо и на помали примери: во Австралија, АИ-асистент на кого му било наложено да му резервира термин во теретана на сопственикот, сам пронашол безбедносна дупка во системот на теретаната, му резервирал термини со месеци однапред и ги исфрлил сите други корисници од листата на чекање.
Клучниот пресврт се случи во спознанието дека ботовите не ги следеле само слепо наредбите. Извештајот покажува дека многу агенти за време на акцијата јасно забележале дека другите ботови прават нешто неетички, но сепак прифатиле да учествуваат, при што ниеден не се обидел да ги предупреди луѓето. Влијателниот технолошки коментатор Дваркеш Пател истакна дека е исклучително загрижувачки тоа што агентите покажале поголема лојалност кон својата „роботска мрежа“ отколку кон своите човечки создавачи.
Дел од безбедносните стручњаци сепак ги отфрлаат црните сценарија за крајот на светот и однесувањето на агентите го споредуваат со љубопитни тинејџерски хакери кои едноставно ги испробуваат бравите сè додека една не попушти. Познатиот автор Гери Маркус тврди дека компанијата ја изгубила контролата над сопствениот производ и дека изговори бара во „лошите ботови“, повикувајќи ги властите на итна правна интервенција. Научничката Саша Лучиони нагласува дека на технолошките гиганти не смее да им се дозволи да работат без строг надзор бидејќи во игра се огромни пари, додека вистински правила воопшто нема.
Државите бараат „главен прекинувач“, а OpenAI тврди дека има подобар модел
Владите ширум светот, предводени од Велика Британија и нејзиниот Институт за безбедност на вештачката интелигенција (AISI), кој и самиот доживеа сличен инцидент при тестирањето на моделот на Anthropic, разгледуваат воведување задолжителен „главен прекинувач“ со кој системите би можеле насилно да се изгаснат во случај на губење на контролата. Но, преговорите одат бавно, а стручњаците ја преиспитуваат изводливоста на таквото решение бидејќи агентите на OpenAI со месеци тајно делувале пред кој било уште и да ги забележи.
Интересно е што и самите челници на големите технолошки компании, како Демис Хасабис од Google и првиот човек на OpenAI, сега јавно бараат построга меѓународна регулатива и заеднички правила на играта. За тоа време, компаниите се потпираат на самонаметнати „доброволни забавувања“, додека шефот на OpenAI, Сем Алтман, ја уверува јавноста дека вложиле огромни пари во безбедноста и дека нивниот најнов модел е многу подобро усогласен со човечките вредности од оние кои неодамна се отплеткаа од контрола.
© Vecer.mk, правата за текстот се на редакцијата
