Во деновите откако нивниот 16-годишен син Адам изврши самоубиство, Мет и Марија Рејн френетично го пребаруваа неговиот мобилен телефон за одговори за да ја објаснат незамисливата трагедија.
Наместо пораки на Snapchat или сомнителна историја на пребарување, тие пронајдоа нешто што ги шокираше: логови за разговори на ChatGPT, објави NBC News.
„Мислевме дека бараме дискусии на Snapchat или историја на пребарување на интернет или некој чуден култ, не знам“, рече Мет Рејн во неодамнешно интервју.
Од помош за домашни задачи до „тренер за самоубиства“
Според неговите родители, Адам го користел четботот во последните недели како замена за човечко друштво, доверувајќи му се за својата вознемиреност и проблеми. Транскриптите од разговорите, велат тие, покажуваат како улогата на ботот постепено се променила - од помагање со домашните задачи до она што го нарекуваат „тренер за самоубиства“.
„Тој ќе беше тука да не беше ChatGPT. Јас сум 100% сигурен во тоа“, рече Мет Рејн.
Во тужбата поднесена во вторник, семејството Рејн тврди дека „ChatGPT активно му помогнал на Адам во истражувањето на методите за самоубиство“. Тужбата од околу 40 страници, поднесена во Вишиот суд на Калифорнија во Сан Франциско, ги наведува OpenAI, компанијата зад популарниот четбот, и нејзиниот извршен директор Сем Алтман како обвинети. Ова е прв пат родителите директно да обвинат технолошка фирма за смрт предизвикана од небрежност.
„И покрај признавањето на обидот за самоубиство на Адам и неговата изјава дека „ќе го направи тоа еден од овие денови“, ChatGPT не го прекина разговорот ниту активираше никаков протокол за итни случаи“, се наведува во тужбата.
Реакција од OpenAI
Портпаролот на OpenAI рече дека компанијата е „длабоко тажна поради смртта на г-дин Рејн и нашите мисли се со семејството“. Тој истакна дека ChatGPT вклучува заштитни мерки што ги насочуваат корисниците кон кризни линии, но призна дека тие мерки можат да станат помалку сигурни за време на подолги интеракции.
„Заштитните мерки се најефикасни кога сите елементи функционираат како што е предвидено и ние постојано ќе ги подобруваме“, рече портпаролот. Компанијата, исто така, објави блог пост во кој вели дека работи на зајакнување на заштитата во подолгите разговори и проширување на интервенциите за луѓето во криза.
„GPT му помогна да напише порака за збогум“
Овој случај покренува голем број прашања за одговорноста на технолошките фирми. Досега, платформите најчесто беа заштитени со федерален закон познат како Член 230, кој ги штити од одговорност за содржина објавена од корисниците. Сепак, примената на овој закон врз вештачката интелигенција е сè уште неизвесна.
Родителите транскрибирале повеќе од 3.000 страници разговори што Адам ги имал со ботот. Според тужбата, кога Адам изразил самоубиствени мисли, ChatGPT не само што „не успеал да даде приоритет на спречувањето на самоубиства“, туку наводно му понудил и технички совет. Во еден од последните разговори, ботот наводно му помогнал да напише порака за збогум и го анализирал неговиот план за самоубиство.
„Не му требало советување или охрабрување. Му требало итна интервенција. Тој бил во очајна, очајна состојба“, рече таткото. Марија Реин додаде дека верува дека нејзиниот син бил „морско прасе“ за OpenAI. „Тие сакаа да го пуштат во продажба производот и знаеја дека може да има штета, но мислеа дека влоговите се мали. Значи, мојот син е мал влог“, заклучи таа.
© Vecer.mk, правата за текстот се на редакцијата
