Grok AI dobio zabranu obrade spornih fotografija na mreži Iks.
Kako CNN piše, nakon snažne globalne reakcije javnosti. Kompanija X potvrdila je da je uvela tehničke mere koje onemogućavaju izmenu slika stvarnih osoba u otkrivajućoj odeći. Zabrana je uvedena nakon što je utvrđeno da je sistem odgovarao na problematične zahteve korisnika.
Posebnu zabrinutost izazvali su slučajevi koji su uključivali i maloletnike. Iako su potpuno nage slike bile retke, problem je bio u obradi fotografija dece u bikinijima, donjem vešu i sugestivnim pozama.
Zabrana važi za sve korisnike
Iz kompanije X saopšteno je da se nova pravila primenjuju na sve korisnike platforme. Zabrana važi i za korisnike koji plaćaju X Premium pretplatu. Tehničke mere uvedene su bez izuzetaka.
Kako CNN piše, xAI je u prethodnim danima već ograničio mogućnost generisanja slika samo na pretplatnike. Ipak, primećeno je da su kasnije uvedene dodatne izmene u ponašanju Grok sistema.
Uočene nedoslednosti u radu sistema
Istraživači evropske neprofitne organizacije AI Forensics ukazali su na razlike u načinu funkcionisanja Grok sistema. One su primećene između javnih interakcija na mreži Iks i privatnih razgovora na sajtu Grok.com.
Prema njihovim nalazima, tretman pornografskog sadržaja nije bio ujednačen. To je otvorilona pitanja o efikasnosti postojećih zaštitnih mehanizama.
Stav kompanije o nezakonitom sadržaju
Kompanija X navela je da aktivno deluje protiv nezakonitog sadržaja na platformi. Mere uključuju uklanjanje spornih objava i trajno suspendovanje naloga. Takođe je naglašena saradnja sa nadležnim institucijama.
Kako CNN piše, korišćenje Grok sistema za stvaranje nezakonitog sadržaja ima iste posledice kao i njegovo direktno objavljivanje. Poseban fokus stavljen je na materijal koji se odnosi na seksualno iskorišćavanje dece.
Reakcija Elona Muska
Elon Musk naveo je da nije upoznat sa slučajevima u kojima je Grok generisao potpuno nage slike maloletnika. On je istakao da je osnovni princip sistema poštovanje zakona svake države.
Ipak, istraživači su naglasili da je ključni problem bio u prihvatanju zahteva za modifikovanje slika dece. Takav sadržaj može imati ozbiljne pravne posledice.
Istrage i međunarodne reakcije
Kalifornijski državni tužilac najavio je istragu o širenju neovlašćenog seksualnog sadržaja proizvedenog uz pomoć Grok sistema. U isto vreme, Grok ostaje zabranjen u Indoneziji i Maleziji.
Britanski regulator Ofcom pokrenuo je formalnu istragu protiv platforme X. Kako CNN piše, britanske vlasti pozdravile su najave da kompanija preduzima konkretne korake.
U tom kontekstu, Grok AI dobio zabranu obrade spornih fotografija na mreži Iks predstavlja važan presedan u regulaciji veštačke inteligencije.
