OpenAI se u Sjedinjenim Američkim Državama suočava s kaznenom istragom zbog navodne uloge tehnologije ChatGPT u ubojstvu dviju osoba tijekom masovne pucnjave na Florida State Universityju prošle godine u Tallahasseeju. Istragu vodi ured glavnog državnog odvjetnika savezne države Floride, Jamesa Uthmeiera.
Istraga zbog savjeta o oružju i mjestu napada
Uthmeier je izjavio da je njegov ured istraživao korištenje ovog AI chatbota od strane 20-godišnjeg studenta Phoenixa Iknera, koji je navodno pucao u više osoba na kampusu i sada je u pritvoru, gdje čeka suđenje. Prema njegovim riječima, „naš pregled je pokazao da je potrebna kaznena istraga” te da je ChatGPT navodno ponudio „značajne savjete” napadaču prije zločina.
Uthmeier tvrdi da je chatbot savjetovao napadača o tome „koju vrstu pištolja koristiti”, koje vrste streljiva te „u koje doba dana i gdje na kampusu” može naići na veći broj ljudi. Dodao je da bi, prema tumačenju zakona Floride, svatko tko „pomaže, potiče ili savjetuje” pri počinjenju kaznenog djela mogao biti smatran sudionikom zločina, te da sada treba utvrditi moguću kaznenu odgovornost same kompanije OpenAI.
OpenAI odbacuje odgovornost, ali raste pritisak na AI industriju
Glasnogovornik OpenAI-ja poručio je da „ChatGPT nije odgovoran za ovaj strašan zločin” te da chatbot „nije poticao niti promovirao nezakonite ili štetne aktivnosti”. Navodi se da je sustav davao činjenične odgovore s informacijama koje su ionako dostupne na internetu. Kompanija tvrdi da surađuje s vlastima i da je „proaktivno podijelila” podatke o računu za koji se vjeruje da je povezan s osumnjičenim.
Ovo je, prema dostupnim informacijama, prvi put da je OpenAI pod kaznenom istragom zbog korištenja ChatGPT-a u kontekstu kaznenog djela. Tvrtka, koju je suosnovao Sam Altman, već se suočava i s tužbom u drugom slučaju: u Britanskoj Kolumbiji 18-godišnjak je ubio devet osoba i ranio još dvadesetak, a roditelji ranjene djevojčice tuže OpenAI tvrdeći da je chatbot mogao biti jedan od čimbenika.
Nakon tog napada OpenAI je identificirao i blokirao račun napadača, ali slučaj nije prijavio policiji, već je tek naknadno najavio jačanje sigurnosnih mjera. Istodobno, koalicija 42 državna glavna odvjetnika u SAD-u poslala je pismo 13 tehnoloških kompanija s AI chatbotovima, među kojima su OpenAI, Google, Meta i Anthropic, tražeći robusno testiranje sigurnosti, jasna upozorenja korisnicima i postupke „povlačenja” opasnih funkcionalnosti, uz upozorenje na porast tragedija, uključujući ubojstva i samoubojstva, u kojima se AI navodno koristio.
