Во деновите откако нивниот 16-годишен син Адам извршил самоубиство, Мет и Марија Рејн очајно го пребарувале неговиот мобилен телефон за одговори што би ја објасниле незамисливата трагедија.
Наместо пораки на Snapchat или сомнителна историја на пребарување, тие пронашле нешто што ги шокирало: дневници на разговори на ChatGPT, објави NBC News.
„Мислевме дека бараме разговори на Snapchat или историја на пребарување на интернет или некој чуден култ, не знам“, рече Мет Рејн во неодамнешно интервју.
Од помош за домашни задачи до „тренер за самоубиство“
Според неговите родители, Адам го користел четботот како замена за човечко друштво во неговите последни недели, доверувајќи му се за својата вознемиреност и проблеми. Дневниците на разговорите, велат тие, покажуваат како улогата на ботот постепено се менувала – од помош за домашни задачи до она што го нарекуваат „тренер за самоубиство“.
„Ќе беше тука да не беше ChatGPT. 100% сум сигурен во тоа“, рече Мет Рејн.
Во тужбата поднесена во вторник, семејството Рејн тврди дека „ChatGPT активно му помогнал на Адам да истражи методи за самоубиство“. Тужбата од околу 40 страници, поднесена во Вишиот суд на Калифорнија во Сан Франциско, ги наведува OpenAI, компанијата зад популарниот четбот, и нејзиниот извршен директор Сем Алтман како обвинети. Ова е прв пат родителите директно да обвинат технолошка компанија за смрт предизвикана од небрежност.
„И покрај признавањето на обидот за самоубиство на Адам и неговата изјава дека „ќе го направи тоа еден од овие денови“, ChatGPT не успеа да го прекине разговорот или да активира какви било протоколи за итни случаи“, се наведува во тужбата.
Одговор на OpenAI
Портпаролот на OpenAI рече дека компанијата е „длабоко тажна поради смртта на г-дин Рејн и нашите мисли се со семејството“. Тој истакна дека ChatGPT вклучува заштитни мерки што ги насочуваат корисниците кон кризни линии, но призна дека тие заштитни мерки можат да станат помалку сигурни за време на подолги интеракции.
„Заштитните мерки се најефикасни кога сите елементи работат како што е предвидено и ние постојано ќе ги подобруваме“, рече портпаролот. Компанијата, исто така, објави блог пост во кој вели дека работи на зајакнување на заштитните мерки во подолгите разговори и проширување на интервенциите за луѓето во криза.
„GPT му помогна да напише порака за збогум“
Случајот покренува голем број прашања за одговорноста на технолошките компании. Платформите досега беа во голема мера заштитени од федерален закон познат како Член 230, кој ги штити од одговорност за содржина објавена од корисниците. Сепак, примената на тој закон врз вештачката интелигенција е сè уште неизвесна.
Родителите испечатиле повеќе од 3.000 страници разговори што Адам ги имал со ботот. Според тужбата, кога Адам изразил самоубиствени мисли, ChatGPT не само што „не успеал да даде приоритет на спречувањето на самоубиство“, туку наводно му понудил и технички совет. Во еден од последните разговори, ботот наводно му помогнал да напише порака за самоубиство и го анализирал неговиот план за самоубиство.
„Не му требало советување или охрабрување. Му требало итна интервенција. Тој бил во очајна, очајна состојба“, рече таткото. Марија Рејн додаде дека верува дека нејзиниот син бил „експериментално глувче“ за OpenAI. „Тие сакаа да издадат производ и знаеја дека може да има штета, но мислеа дека влоговите се ниски. Значи, мојот син е низок влог“, заклучи таа.
© Vecer.mk, правата за текстот се на редакцијата
