Manje od mjesec dana nakon lansiranja: OpenAI alatka Sora 2 već izaziva ozbiljne kontroverze. Najnoviji model za generisanje video-sadržaja pomoću vještačke inteligencije izazvao je probleme zbog njegovih hiperrealističnih prikaza zaštićenih likova i stvarnih javnih ličnosti.
U petak, 17. oktobra, OpenAI je zajedno s nasljednicima Martina Luthera Kinga Jr. objavio da je „privremeno obustavio“ generisanje Kingovog lika nakon što su korisnici počeli praviti uvredljive prikaze lika ovog borca za ljudska prava. Kompanija je saopštila i da će pojačati zaštitne mjere za prikazivanje istorijskih ličnosti.
OpenAI je u saopštenju naveo da i dalje vjeruje kako postoje snažni interesi slobode izražavanja kada je riječ o prikazivanju istorijskih ličnosti. OpenAI je dodao da predstavnici ili nasljednici poznatih ličnosti mogu zatražiti da se njihov lik više ne koristi u Sora prikazima.
Kako su ranije upozoravali pravnici, taj sistem „opt-outa“ tj isključivanja na zahtjev u praksi ne funkcioniše tako. Ideja da svaka javna ličnost mora pojedinačno obavijestiti OpenAI da ne želi da se koristi njen lik jednostavno je apsurdna. Čak i ako podnesu zahtjev, to ne znači da OpenAI već nije trenirao Soru na osnovu njihovog lika. U stvarnosti to znači samo da se teoretski više neće moći generisati novi sadržaji s njima.
Kako bi se što efikasnije riješio ovaj problem, zaštitnici javnih ličnosti i protivnici ove AI prakse u pomoć su pozvali – vještačku inteligenciju. Primjera radi, agencija za upravljanje pravima CMG Worldwide sklopila je partnerstvo s AI kompanijom Loti AI, koja pomoću vještačke inteligencije pretražuje internet u potrazi za neovlašćenim sadržajima i automatski ih uklanja. Kompanija sarađuje i s poznatim ličnostima i s običnim građanima, tvrdeći da je u 95% slučajeva uspješna u pronalaženju i uklanjanju AI-generisanih videa, slika i audio zapisa u roku od jednog dana.
Direktor Loti AI, Luke Arrigoni, rekao je za IndieWire da je svjestan ironije u činjenici da koriste AI da bi se borili protiv AI. Prema njegovim riječima, iako druge kompanije koje se bave otkrivanjem deepfake sadržaja imaju sve veće poteškoće zbog sve realističnijih Sora videa, alati koje koristi Loti AI uspijevaju da ih detektuju i prate i najnovije sadržaje.
„Teško je igrati beskrajnu igru ‘pogodi i izbriši’ na nivou na kojem Sora stvara problem, osim ako ne izgradiš sistem koji automatizuje cijeli proces otkrivanja i uklanjanja, kao što smo mi uradili,“ objasnio je Arrigoni. „Shvatili smo da svijet ide u tom pravcu i zato smo prije godinu dana počeli razvijati alate koji bi olakšali ovaj trenutak za javne ličnosti, nasljednike i vlasnike autorskih prava. Ono što radimo je praktično, lako pronađemo sadržaj i lako ga uklonimo“.
Arrigoni je rekao da Hollywood sve više traži zaštitu od AI zloupotreba, te da je već u kontaktu s velikim agencijama i nosiocima prava. Iako ostaje oprezno optimističan u vezi saradnje s tehnološkim gigantima poput OpenAI-ja i Google-a, smatra da OpenAI mora hitno preispitati svoju „opt-out“ strategiju ako želi ostati dio igre.