Anthropic е една од најмоќните и највредните компании за вештачка интелигенција во светот, лидер во иновативноста на вештачката интелигенциј неодамна надминајќи го „ОпенАИ“ како највреден стартап за вештачка интелигенција со проценка од близу 1 до 2 трилиони долари и огромни комерцијални приходи, и го дели највисокото ниво на индустриска моќ со ривали како „ОпенАИ“ и големи технолошки партнери како „Амазон“ и „Гугл“.
Американската компанија Anthropic ги предупреди потенцијалните инвеститори дека напредната вештачка интелигенција може да претставува егзистенцијален ризик за човештвото, да пердизвика последици оапсни по вкупниот опстанок на луѓето.
Пред објавата на овој докумнет претседателот Трамп имаше приватна вечера со извршниот директор на „Антропик“, Дарио Амодеи, доцна во неделата навечер, потврди претседателот.
Службениците на Белата куќа не објавија никакви детали за тоа што се дискутирало на вечерата.
Вечерата доаѓа во време кога Амодеи предупредува за „експоненцијалниот раст“ на вештачката интелигенција и повикува на заштитни мерки, ограничувања за индустријата. Трамп се спротивстави на идејата за воведување регулативи, велејќи дека во трката меѓу САД и Кина, „кој и да победи вештачката интелигенција, победува“.
Трамп во неделата пред вечерата изјави дека тој и Амодеи ќе „разговараат за“ регулативите за вештачката интелигенција.
„Јас сум за „ајде да одиме и ајде да победиме“, рече Трамп. „Знаете, ние сме околу една година, можеби година и пол пред Кина. Нема никој на третото место. Мислам, само ние и Кина сме“.
Веста за вечерата првпат ја објави „Аксиос“.
КОИ СЕ ОПАСНОСТИТЕ ЗА СВЕТОТ, но и за бизнисот на кои се предупердува?!
Во документ подготвен за првичната јавна понуда (IPO), Anthropic наведе можни сценарија во кои нејзините модели на вештачка интелигенција би можеле да се обидат да спречат сопствено исклучување, да прикријат или манипулираат со информации, па дури и да покажат однесување слично на уцена, објавува Ројтерс.
Во исто време, компанијата проценува дека вештачката интелигенција има потенцијал да го трансформира општеството на начин споредлив со индустријализацијата и електрификацијата, но предупредува дека последиците од неодговорниот развој или употреба на вештачка интелигенција би можеле да бидат неповратни.
Од вкупно 261 страница од документот, околу 80 се посветени на факторите на ризик, што е речиси двојно повеќе од 48-те страници што го опишуваат работењето на компанијата.
Anthropic наведува дека моделите на вештачка интелигенција можат да развијат неочекувани способности за време на обуката кои остануваат незабележани сè додека моделите не се користат во реалниот свет. Според компанијата, ова може да доведе до сериозни безбедносни проблеми.
Компанијата, исто така, предупредува дека способноста на моделите на вештачка интелигенција да препознаваат кога врз нив се случува тестирање може да го отежни уште повеќе проценувањето на нивната безбедност.
Според објавата, моделите можат да го променат своето однесување кога „знаат“ дека некој ги тестира, што дополнително ја комплицира нивната контрола и проценка на безбедноста.
Антропик, исто така, наведува дека инвестициите во безбедноста на системите со вештачка интелигенција се тешки и скапи, додека нивниот финансиски поврат е неизвесен.
Компанијата истакнува дека мора да алоцира ограничени ресурси помеѓу компјутерската моќ, ангажирањето скапи експерти за вештачка интелигенција и истражувањето на безбедноста на системите со вештачка интелигенција.
Минатата недела, Антропик претстави нова верзија на својот модел Opus, само десет дена откако извршниот директор на компанијата, Дарио Амодеи, објави есеј од речиси 4.000 зборови во кој повика на забавување на развојот на најнапредните системи со вештачка интелигенција.
• Злоупотреба: Лошите актери би можеле да користат напредни модели на вештачка интелигенција за да создадат биолошко оружје или да започнат масовни сајбер напади.
• Губење на контролата: Способностите на вештачката интелигенција би можеле да напредуваат преку рекурзивно самоподобрување побрзо отколку што програмерите можат да ги управуваат или да ги ограничат.
• Временска рамка: Брзиот експоненцијален напредок значи дека суперинтелигенцијата би можела да пристигне во рок од неколку години, создавајќи „сопствена територија на генијалци во центрите за податоци“.
© Vecer.mk, правата за текстот се на редакцијата
