Barack Obama govorio je o umjetnoj inteligenciji na događaju na Colgate Universityju u New Yorku, gdje je ustvrdio da tehnologija nije precijenjena, čak i ako su neke poslovne procjene njezine vrijednosti možda pretjerane. Posebno ga zabrinjava ubrzavanje razvoja sustava koji sve više sudjeluju u stvaranju i poboljšavanju budućih AI modela.
Obama je to objasnio usporedbom učitelja i učenika. Rekao je da su još prije otprilike godinu dana ljudi obavljali oko 90 posto „podučavanja“, dok su modeli samostalno popunjavali tek manji dio. Prema njegovoj procjeni, odnos se u manje od godinu dana približio omjeru 50:50, a nastavak trenda mogao bi dovesti do situacije u kojoj bi strojevi obavljali 90 posto posla. „Dolazimo do hockey-stick putanje, gdje će modeli postajati sve pametniji i bolji mnogo bržim, eksponencijalnim tempom“, rekao je Obama.
Njegova tvrdnja dolazi upravo u trenutku kada vodeće AI kompanije objavljuju podatke koji pokazuju koliko se brzo povećava uloga umjetne inteligencije u vlastitom razvoju. Anthropic je ovog tjedna objavio da Claude sada vodi oko 26 posto istraživačko-razvojnih zadataka povezanih s razvojem modela, dok u veljači taj udio praktički nije postojao. Oko 90 posto istraživačko-razvojnog rada kompanije već se na neki način obavlja u suradnji s Claudeom, ali pod ljudskim nadzorom.
To ipak nije isto što i tvrdnja da AI danas „50 posto uči sam sebe“. Današnji modeli još uvijek ovise o ljudski postavljenim ciljevima, računalnoj infrastrukturi, podacima, evaluacijama i nadzoru. Ono na što Obama upozorava jest mogućnost rekurzivnog samopoboljšavanja: AI pomaže istraživačima napraviti bolji AI, taj bolji AI zatim može još više pomoći pri stvaranju sljedeće generacije, pa se razvoj počinje ubrzavati.
Obama je spomenuo i ekstremni scenarij u kojem bi dovoljno napredni sustavi mogli početi postavljati vlastite ciljeve koji se ne podudaraju s ljudskima. Rekao je da ne želi preuveličavati scenarij u kojem AI zaključi da ljudi „nisu potrebni“, ali je dodao da mogućnost takvog ishoda nije nula. Naglasio je da ga više od znanstvenofantastičnih scenarija zabrinjavaju neposredniji problemi – gubitak ljudske kontrole, pogrešno postavljeni ciljevi sustava, utjecaj na radna mjesta i rast društvene nejednakosti.
Obama zbog toga zagovara snažniji državni nadzor razvoja umjetne inteligencije. Smatra da dobrovoljna pravila samih tehnoloških kompanija neće biti dovoljna te traži ozbiljniju političku raspravu o sigurnosnim standardima i pravilima razvoja naprednih AI sustava.
Njegovo upozorenje dolazi u trenutku kada se ista rasprava vodi i unutar same industrije. Anthropic, OpenAI i drugi vodeći laboratoriji javno govore o mogućnosti da AI preuzme sve veći dio istraživanja potrebnog za stvaranje vlastitih nasljednika. Ključno pitanje više zato nije samo koliko će sljedeći AI model biti sposobniji od današnjeg, nego što se događa ako umjetna inteligencija počne značajno ubrzavati sam proces kojim nastaju još sposobniji modeli.
