Šef tvrtke OpenAI, koja je razvila sustav ChatGPT, uputio je javnu ispriku jer tvrtka nije upozorila policiju na korisnicu čiji je račun bio označen zbog interesa za “nasilne aktivnosti”, a koja je kasnije ubila članove svoje obitelji i počinila masovnu pucnjavu u srednjoj školi u Kanadi.
U pucnjavi 10. veljače u mjestu Tumbler Ridge u pokrajini Britanska Kolumbija ubijeno je ukupno osam osoba. Prema navodima policije, 18-godišnja Jesse Van Rootselaar prvo je u obiteljskom domu ubila svoju 39-godišnju majku Jennifer Jacobs i 11-godišnjeg polubrata Emmetta Jacobsa, a zatim je otišla u srednju školu Tumbler Ridge Secondary School, gdje je otvorila vatru i usmrtila petero djece i jednog nastavnika prije nego što je počinila samoubojstvo. U napadu je ozlijeđeno još 25 osoba.
Altmanova isprika zajednici Tumbler Ridgea
U pismu objavljenom u petak, šef OpenAI-ja Sam Altman izrazio je “najdublju sućut” cijeloj zajednici i ispričao se što tvrtka nije obavijestila policiju o računu koji je zabranjen u lipnju prošle godine.
Altman je naveo da je račun Jesse Van Rootselaar bio identificiran kroz interne sustave za otkrivanje zlouporabe zbog mogućeg “daljnjeg poticanja nasilnih aktivnosti”. Tvrtka je tada razmatrala prijavu Kraljevskoj kanadskoj konjičkoj policiji, ali je procijenila da aktivnost računa ne doseže prag za službeno obavještavanje. Račun je ipak zabranjen zbog kršenja pravila korištenja.
Pismo, datirano u četvrtak, objavljeno je na društvenim mrežama premijera Britanske Kolumbije Davida Ebyja i na lokalnom portalu Tumbler RidgeLines. Altman je naveo da je razgovarao s gradonačelnikom Tumbler Ridgea Darrylom Krakowkom i s Ebyjem, koji su mu prenijeli ljutnju, tugu i zabrinutost stanovnika. Dogovoreno je da je javna isprika potrebna, ali da treba pričekati da zajednica prođe prvi val žalovanja.
Rasprava o odgovornosti tehnoloških tvrtki
Premijer David Eby ranije je izjavio da se čini kako je OpenAI imao priliku spriječiti masovnu pucnjavu. U svojoj novoj objavi na društvenim mrežama nazvao je ispriku “nužnom, ali krajnje nedostatnom” u odnosu na razmjere tragedije za obitelji u Tumbler Ridgeu.
Altman je u pismu naglasio da “nitko ne bi smio proći kroz ovakvu tragediju” te da ne može zamisliti ništa gore od gubitka djeteta. Poručio je da će se OpenAI ubuduće usredotočiti na suradnju sa svim razinama vlasti kako bi se pokušalo spriječiti slične događaje.
Ovaj slučaj ponovno otvara pitanje koliko daleko bi tehnološke tvrtke trebale ići u praćenju i prijavljivanju sumnjivih aktivnosti korisnika. S jedne strane, obitelji žrtava i dio javnosti očekuju odlučnije reakcije i ranije uključivanje policije. S druge strane, postavlja se pitanje granice između zaštite sigurnosti i zaštite privatnosti, kao i jasnih kriterija kada je opravdano uključiti državne institucije na temelju ponašanja korisnika na internetu.
