Sam Altman, izvršni direktor tvrtke OpenAI, jasno je istaknuo da njegova tvrtka neće dozvoliti korištenje umjetne inteligencije za masovni nadzor građana niti za autonomno oružje, povlačeći te crvene linije kao što je to učinila konkurentska tvrtka Anthropic u sukobu s američkim Ministarstvom obrane.
Etički principi i industrijski konsenzus
Altman je u internom memorandumu naglasio da se pitanje odgovornog korištenja AI tehnologije ne tiče samo pojedinačnih kompanija nego cijele industrije, podcrtavajući važnost ljudske uključenosti u odluke visokog rizika te zabranu uporabe AI za masovni nadzor i smrtonosno autonomno oružje kao temeljne principe OpenAI-ja.
Iako je pessimističan prema potencijalnoj zloupotrebi tehnologije, Altman želi uspostaviti suradnju s Pentagonom koja bi omogućila primjenu ChatGPT-a u vojnim operacijama pod jasnim etičkim ograničenjima.
Napetosti između Ministarstva obrane i tvrtki
Sukob je eskalirao kada je američki Pentagon tražio neograničenu uporabu AI modela za “sve zakonite svrhe”, što je Anthropic odbio prihvatiti zbog svojih internih restrikcija koje sprječavaju korištenje za masovni nadzor i autonomno oružje, što je dovelo do prijetnji raskidom ugovora i proglašenjem te tvrtke “rizikom za opskrbni lanac”.
Model Claude koji je razvio Anthropic prvi je AI sustav integriran u tajne vojne mreže, a ugovor vrijedan do 200 milijuna dolara jasno zabranjuje neetične upotrebe, zbog čega je tvrtka odlučno odbila pristati na zahtjeve Pentagona.
Pentagon inzistira na svojoj nadležnosti nad zakonitom uporabom tehnologije u nacionalnoj sigurnosti, smatrajući da dobavljači ne mogu nametati ograničenja koja bi ograničila državnu suverenost, posebice u kontekstu strateškog tehnološkog natjecanja s Kinom.
Solidarnost i mogući scenariji
OpenAI formalno podržava Anthropic u njihovom principijalnom stavu prema etičkim granicama AI, no istovremeno se pojavljuju špekulacije da bi Pentagon mogao iskoristiti sukob kako bi zamijenio Anthropic s OpenAI-jem u osjetljivim vojnim aplikacijama.
ChatGPT je već integriran u neke neklasificirane vojne sustave, a pregovori za proširenje njegove uporabe u klasificiranim okruženjima su u tijeku, ali bi zahtjevi Pentagona za nemodificiranom upotrebom mogli ponoviti sukob s onim koji je eskalirao s Anthropic-om.
Altman se zalaže za deeskalaciju i pronalazak kompromisnog modela koji omogućuje upotrebu AI u vojnom sektoru bez dopuštanja zloupotreba poput masovnog nadzora ili razvoja autonomnog oružja.
Posljedice sukoba i politički utjecaji
Proglašenje Anthropic “rizikom za opskrbni lanac” može imati dalekosežne posljedice za cijeli tehnološki sektor, uključujući primjenu Zakona o obrambenoj nabavi kojim bi predsjednik SAD-a mogao ostvariti izvanredne ovlasti nad domaćom industrijom radi nacionalne sigurnosti.
U međuvremenu, razvija se i AI sustav Grok tvrtke xAI koju vodi Elon Musk, ali on se ne smatra potpunom zamjenom za model Claude iz Anthropica.
Bivši američki predsjednik Donald Trump oštro je kritizirao Anthropic, nazivajući njihov stav radikalno lijevim i izjavljujući da Sjedinjene Države neće dopustiti takvoj kompaniji da diktira vojne odluke, te je naredio federalnim agencijama da prekinu svaki oblik suradnje s tom tvrtkom tijekom šestomjesečnog prijelaznog razdoblja.
Predstojeći izazovi u odnosima s Pentagonom
Ovaj sukob postavlja presedan jer je riječ o prvom slučaju u kojem vodeće AI kompanije zajednički postavljaju etičke granice za korištenje svoje tehnologije od strane američke vlade, dok zaposlenici u tehnološkim tvrtkama otvoreno podupiru Anthropic za očuvanje tih principa.
Kako se Bijela kuća natječe s Kinom u razvoju umjetne inteligencije, pitanje je hoće li nacionalna sigurnost ili etički standardi tehnoloških tvrtki prevladati, a odgovor će oblikovati buduće odnose između američke Vlade, Silicijske doline i primjene AI u demokratskim društvima.
