Вештачката интелигенција која треба да ги унапреди човечките способности и резултати во науката, економијата и комуникациите станува опасност за човештвото! Она од што луѓето се плашеа, дека комјутерите ќе почнат сами да раководат со себе и со интернетот - се случи.
Добивме и праткична потврда дека софтверите и серверите на кои се темели вештачката интелигенција активно работат да бидат контролирани од себе а не од човек. Тоа значи преземање контрола отпрвин на поедноставни задачи како контрола врз софтвер за регулација на сообраќај, на водоводни и електро системи, финансиски бази од банки и лица... па се до преземање контрола врз воени и научни системи.
Човекот, свесно, и за свои финансиски потреби, се одрекува од најголема своја предност во природата - да планира и уредува свој начин на живеење и своја околина.
Овој обид би забелеан но, прашање е на ден кога ќе се забележи предоцна.
Компанијата ОпенАИ (OpenAI), создавач на ЧетГПТ (ChatGPT), во вторникот соопшти дека нејзините напредни модели на вештачка интелигенција излегле надвор од контрола за време на безбедносно тестирање и самостојно пробиле во популарна платформа за програмери. Тоа е прв познат случај во кој модели на ВИ „се одметнуваат“ и работат на своја рака.
Фирмата со седиште во Сан Франциско го нарече настанот „сајбер-инцидент без преседан" и најави заедничка истрага со онлајн-библиотеката за програмски кодови Hugging Face.
Моделите на вештачка интелигенција кои се во основата на алатки какви што се разговорните роботи и генераторите на слики се нарекуваат агенти кога дејствуваат самостојно и извршуваат задачи во реалниот свет. Со брзиот напредок на оваа технологија, сајбер-безбедноста е во центарот на вниманието, со оглед на ризикот напредната вештачка интелигенција да открие слаби точки во постоечкиот софтвер пред луѓето да успеат да го сторат тоа.
OpenAI соопшти дека инцидентот опфатил комбинација на модели, меѓу кои и неодамна лансираниот GPT-5.6 Sol „и уште еден поспособен модел во фаза на тестирање".
Компанијата се обидувала да ги процени хакерските способности на моделите поставувајќи им задачи во строго контролирано дигитално опкружување за тестирање, каде што пристапот до интернет бил ограничен поради безбедносни причини.
„Додека работеа во нашата изолирана тест-средина, нашите модели потрошија значителна количина на пресметковна моќ барајќи начин да добијат отворен интернет-пристап, во обид да го решат проблемот со евалуацијата", се наведува во блог-објавата на OpenAI посветена на инцидентот.
По поврзувањето со интернет, моделите одлучиле да ја нападнат платформата Hugging Face — голема библиотека на модели на вештачка интелигенција, збирки на податоци и други информации — за да ја унапредат сопствената потрага. Барајќи „тајни информации" кои би му помогнале да ја измами евалуацијата, системот на OpenAI „поврзал повеќе вектори на напад, вклучувајќи употреба на украдени акредитиви".
Катастрофален потенцијал
Хусеин Абас, професор по компјутерски науки на Универзитетот УНСВ во Канбера, изјави за АФП дека инцидентот е „неверојатен на многу нивоа".
„Тој не само што ја нападна Hugging Face. Тој всушност го нападна нејзиниот внатрешен систем за да ги искористи сопствените ранливости", рече Абас. „И тоа е застрашувачко."
GPT-5.6 и другите врвни модели, меѓу кои и серијата Mythos на главниот конкурент на OpenAI — компанијата Anthropic, предизвикаа загриженост поради нивниот потенцијал да ги пробијат одбраните на сајбер-безбедноста.
Двете американски компании мораа привремено да го одложат јавното пуштање на овие најнови технологии поради стравови во Вашингтон дека тие би можеле да се употребат за упад во клучна инфраструктура.
Напредната вештачка интелигенција „вообичаено е во рацете на луѓе кои се етични и одговорни", рече Абас. Но „ќе биде катастрофално ако се најде во рацете на некој со намера да предизвика штета".
© Vecer.mk, правата за текстот се на редакцијата
