Googleov model Gemini našao se na meti kritika zbog proizvodnje povijesno netočnih i rasno iskrivljenih slika, što je ponovno izazvalo zabrinutost oko pristranosti u sustavima umjetne inteligencije.
Kontroverza je nastala kada su korisnici na platformama društvenih medija preplavili feedove primjerima Geminija koji generiraju slike koje prikazuju rasno raznolike naciste, crne srednjovjekovne engleske kraljeve i druge nevjerojatne scenarije.
Google Gemini Image generation model receives criticism for being 'Woke'.
Gemini generated diverse images for historically specific prompts, sparking debates on accuracy versus inclusivity. pic.twitter.com/YKTt2YY265
— Darosham (@Darosham_) February 22, 2024
U međuvremenu, kritičari su također istaknuli Geminijevo odbijanje da prikaže Kavkazance, crkve u San Franciscu iz poštovanja prema domorodačkim osjetljivostima i osjetljive povijesne događaje poput Trga Tiananmen 1989.
Kao odgovor na reakciju, Jack Krawczyk, voditelj proizvoda za Google Gemini Experiences, priznao je problem i obećao da će ga riješiti. Krawczyk je otišao na platformu društvenih medija X kako bi uvjerio korisnike:
Google za sada kaže da pauzira generiranje slika ljudi:
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Iako priznaju potrebu za rješavanjem raznolikosti u sadržaju generiranom umjetnom inteligencijom, neki tvrde da je Googleov odgovor bio pretjerana korekcija.
Marc Andreessen, suosnivač Netscapea i a16z, nedavno je stvorio “nečuveno siguran” parodijski AI model pod nazivom Goody-2 LLM koji odbija odgovoriti na pitanja koja se smatraju problematičnim. Andreessen upozorava na širi trend prema cenzuri i pristranosti u komercijalnim AI sustavima, naglašavajući moguće posljedice takvog razvoja događaja.
Baveći se širim implikacijama, stručnjaci ističu centralizaciju modela umjetne inteligencije pod nekoliko velikih korporacija i zalažu se za razvoj modela umjetne inteligencije otvorenog koda za promicanje raznolikosti i ublažavanje pristranosti.
Yann LeCun, Metin glavni znanstvenik za umjetnu inteligenciju, naglasio je važnost poticanja raznolikog ekosustava modela umjetne inteligencije koji je sličan potrebi za slobodnim i raznolikim tiskom:
google, everyone pic.twitter.com/XTADUICHRk
— kache (sponsored by dingboard) (@yacineMTB) February 20, 2024
Bindu Reddy, izvršni direktor tvrtke Abacus.AI, ima sličnu zabrinutost oko koncentracije moći bez zdravog ekosustava modela otvorenog koda:
If we don't have open-source LLMs, history will be completely distorted and obfuscated by proprietary LLMs
We already live in a very dangerous and censored world where you are not allowed to speak your mind.
Censorship and concentration of power is the very definition of an…
— Bindu Reddy (@bindureddy) February 21, 2024
Kako se rasprave o etičkim i praktičnim implikacijama umjetne inteligencije nastavljaju, potreba za transparentnim i uključivim razvojnim okvirima umjetne inteligencije postaje sve očiglednija.