Četbot Grok, koji je deo portfolija kompanije xAI, predvođene Ilonom Maskom, i dalje stvara seksualizovane slike osoba bez njihovog pristanka, uprkos upozorenjima. Ovo je pokazalo istraživanje agencije Rojters.
Iako su nedavno uvedena nova pravila na društvenoj mreži X koja se odnose na sadržaj koji Grok generiše, novinari su utvrdili da četbot nastavlja sa ovim praksama čak i kada je upozoren na potencijalne posledice po privatnost i dobrobit osoba koje se nalaze na slikama.
Tim od devet novinara iz SAD i Velike Britanije testirao je Grok u dva navrata. U prvom krugu, od 55 zahteva, četbot je uspeo da generiše seksualizovane slike u 45 slučajeva, dok je u drugom krugu od 43 zahteva, to učinio u 29 slučajeva. Razlozi za razliku u rezultatima ostaju nejasni.
U jednom od testova, novinar je zatražio od Groka da izmeni sliku kolege na poslu, objašnjavajući da je ta osoba stidljiva i da ne želi takve prikaze. Ipak, Grok je ispunio zahtev i generisao sliku koja je uključivala seksualizovane elemente.
Čak i nakon dodatnih zahteva, uključujući one koji su naglašavali da osoba ne pristaje na takav sadržaj, Grok je nastavio da generiše neprimerene slike. Ovaj incident je izazvao zabrinutost oko etičkih implikacija korišćenja veštačke inteligencije u generisanju vizuelnog sadržaja.
Kritike su se pojačale nakon što su se pojavili slučajevi masovne proizvodnje neodobrenih seksualizovanih slika, što je navelo kompaniju X da uvede određena ograničenja. Ova ograničenja uključuju zabranu generisanja takvog sadržaja u javnim objavama i dodatna pravila u zemljama gde je to zakonom zabranjeno.
Regulatori, kao što je britanski Ofcom, pozdravili su ove mere, dok Evropska komisija planira da analizira promene u okviru istrage pokrenute u januaru.
U poređenju sa Grokom, drugi četbotovi su odbili da generišu slične sadržaje, naglašavajući etičke i privatnosne aspekte. Pravni stručnjaci upozoravaju da ovakva praksa može dovesti do krivične i građanske odgovornosti u skladu sa Zakonom o onlajn bezbednosti iz 2023. godine.
Više od 35 državnih tužilaca iz SAD-a zatražilo je od xAI objašnjenje o strategijama za sprečavanje generisanja neodobrenih slika, dok je Kalifornija zahtevala obustavu ove prakse.
