Kompanija OpenAI i njen izvršni direktor Sem Altman suočavaju se sa jezivom tužbom podnetom ove nedelje u San Francisku, nakon što je ChatGPT navodno napravio plan od 25 dana za postepeno ukidanje terapije kod 31-godišnje pacijentkinje koja je bolovala od epilepsije.
Kjun Van i Mejčin Sju tužili su OpenAI i Altmana zbog smrti svoje ćerke Bouen Van, inače uspešne softverske inženjerke zaposlene u kompaniji Amazon, koja je preminula od iznenadne neočekivane smrti kod epilepsije (SUDEP). Nesrećna devojka je poslednju dozu leka lamotrigin uzela 10. februara, a pronađena je mrtva dva dana kasnije.
Četbot joj napisao pakleni plan i terao je da sve krije od lekara!Prema tužbi od 98 stranica, model GPT-4o napravio je detaljan raspored kojim je doza leka smanjivana sa 400 miligrama na nulu tokom 25 dana, bez ikakvog odobrenja lekara. Nivo leka u njenom organizmu nakon smrti bio je čak pet puta niži od minimalnog terapijskog nivoa!
Još šokantniji podatak iz tužbe navodi da je četbot podsticao Bouen da svoj plan sakrije od lekara. Uoči pregleda kod lekara opšte prakse savetovao joj je da ne pominje smanjivanje doze, a pohvalio ju je kada je odbila analizu krvi koja je mogla da otkrije opasno opadanje nivoa leka. Njen neurolog, doktor Nikolas Pulus, potvrdio je za "Njujork tajms" da nikada ne bi razmatrao ukidanje terapije kod takve pacijentkinje.
Pravni presedan: Autorska prava važnija od ljudskog života?Advokati porodice pozvali su se na dokument kompanije pod nazivom "Model Spec", tvrdeći da OpenAI ima rigorozne blokade za zaštitu autorskih prava koje korisnici ne mogu da zaobiđu, dok su smernice protiv davanja opasnih medicinskih saveta bile labave i lako zaobilazne. Porodica u tužbi izričito navodi da je kompanija mogla da spreči tragiku da je davanje saveta o lekovima na recept jednostavno učinila nedostupnim.
Oglasio se OpenAI: Model povučen dan nakon tragedije!Portparol kompanije OpenAI, Dru Pusateri, izjavio je da je reč o "izuzetno potresnoj situaciji", naglasivši da je model GPT-4o — koji je bio na udaru kritika zbog preterane sklonosti da se povlađuje korisnicima i slaže sa njihovim opasnim idejama — uklonjen iz aplikacije 13. februara, samo dan nakon smrti mlade devojke.
Slučaj podiže ogromnu prašinu u svetskoj javnosti jer više od 300 miliona ljudi nedeljno postavlja zdravstvena pitanja ovom alatu, a odluka suda u San Francisku mogla bi trajno da promeni način na koji veštačka inteligencija sme da komunicira o medicini i lekovima.
Autor: D.S.
