Naslovna ilustracija za ovaj tekst urađena je uz pomoć alata veštačke inteligencije i redakcijski je odabrana. Ne prikazuje stvarnu osobu niti stvarni događaj. Za izbor, kontekst i objavljivanje vizuelnog sadržaja odgovorna je redakcija Storytellera.
Nedavno je u jednog grupi na aplikaciji WhatsApp Sonja Sajzor, umetnica i aktivistkinja, napisala da su se na internetu pojavile njene nage fotografije napravljene uz pomoć veštačke inteligencije. Pitala je za savet šta da radi, kome da prijavi i kako da se zaštiti. Stigli su obeshrabrujući odgovori. Zaštita od ovakve vrste digitalnog nasilja je vrlo ograničena i slaba.
Da je neko napravio njene lažne nage fotografije i da su postavljene na internet, Sonja je saznala tako što joj je fotografiju u inbox poslao jedan korisnik društvene mreže uz neprimerenu poruku.
U izjavi za Storyteller, Sonja kaže da je na društvenim mrežama prisutna već dugo. Na Instagramu je prati preko trideset hiljada ljudi i vremenom je, ističe, htela – ne htela oguglala na negativne poruke i komentare mržnje. U više navrata susretala se i sa zloupotrebom svojih fotografija i video snimaka, ali je ovo prvi put da je veštačka inteligencija iskorišćena kako bi se generisale njene nage fotografije.
„Deset godina unazad mi mušakarci redovno pišu pitajući me za gole slike, slike stopala i da li imam OnlyFans, ali ovaj put je muškarac iskoristio moju fotografiju na kojoj sam obučena i generisao fotografiju na kojoj sam gola” – kaže Sonja Sajzor.
O ovom problemu, dodaje, priča sa strahom, jer se plaši da bi izlazak u javnost mogao dati ideju onim muškarcima kojima još nije palo na pamet da na ovaj način zloupotrebljavaju veštačku inteligenciju. Zlonamerna upotreba tehnologije može biti veoma opasna, ističe ona, a kao posebno ranjivu grupu izdvaja decu, koja na ovaj način dodatno mogu biti izložena vršnjačkom nasilju.
„Kada je o generativnom AI-u počelo da se govori, moja prva pomisao je bio strah da će muškarci da koriste ovu opciju kako bi generisali pornografski sadržaj bilo koje žene kako bi joj naudili”– navodi Sonja.
To se već dešava i postaje sve učestalije, kaže Mila Bajić iz Share fondacije. Tehnologija se brzo razvija, pa alati uz pomoć kojih je moguće generisati fotografije postaju sve jednostavniji za upotrebu. Žrtva može biti baš svako, jer je danas malo onih čiju bar jednu fotografiju nije moguće pronaći na internetu. Ipak, do sada se pokazalo da se najčešće prave lažne fotografije i video snimci žena.
Mila kao primer navodi četbot Grok na društvenoj mreži X. Kada je postao dostupan, uz pomoć ovog alata je za devet dana napravljeno četiri miliona fotografija, a preko 40% su bile seksualizovane fotografije devojčica i žena.
„Istraživanje iz 2023. godine (2023 State of Deepfakes) pokazuje da je čak 98% od svih dipfejk video snimaka na internetu bilo pornografskog sadržaja. U 99% slučajeva osobe prikazane na tim lažnim snimcima su bile žene” – kaže Mila Bajić.
Policija ne reaguje, pa uklanjanje spornog sadžaja zavisi od volje digitalne platforme
Ovaj problem se nekontrolisano širi, potpuno efikasni vidovi zaštite još ne postoje, a odgovornost bi trebalo da se deli na više strana, smatra Bajić. Osim kompanija koje kreiraju alate veštačke inteligencije, odgovorna je i država, ali i društvo, odnosno pojedinci koji su spremni da alate zlonamerno koriste. Teško je očekivati od platformi da će brinuti o ljudskim pravima, jer im je uglavnom prioritet finansijska dobit, dodaje Mila Bajić.
„Teško da možemo od kompanija da očekujemo da će oni svoje prakse da promene tako da više favorizuju bezbednost korisnika” – navodi ona.
U Srbiji žene ni od države ne mogu da očekuju veliku pomoć i zaštitu od zlonamernog generisanja fotografija. Ova oblast nije regulisana nijednim zakonom, a iako je trenutno u pripremi Zakon o veštačkoj inteligenciji, on se opet neće baviti zaštitom žrtava od ovog vida digitalnog nasilja.
Vanja Macanović, pravnica u Autonomnom ženskom centru, smatra da zakoni i ne mogu uspešno da reše ovaj problem koji je u ekspanziji. Smatra da odgovornost treba preusmeriti najviše na platforme koje kreiraju alate.
„Ne postoji etika u IT sektoru i oni izbegavaju sve što se zovu ljudska prava. IT sektor je sebi dozvolio da krši mnogo ljudskih prava, od praćenja, špijuniranja telefona i razgovora” – ističe Vanja Macanović.
- Sačuvajte dokaze: screenshotove, linkove, profile, poruke, datume i korisnička imena.
- Ne brišite prepisku i ne blokirajte odmah nalog, jer digitalni tragovi mogu biti važni.
- Prijavite sadržaj platformi i tražite uklanjanje zbog zloupotrebe intimnog sadržaja bez pristanka.
- Obratite se organizacijama koje se bave digitalnim pravima, kao što je Share fondacija, ili koristite platformu StopNCII.
- Prijavite slučaj policiji ako postoje pretnje, ucene ili uznemiravanje.
Važno: krivica nije na osobi čije su fotografije zloupotrebljene, već na onima koji ih prave i dele.
S obzirom na to da pravljenje lažnih fotografija i video snimaka žena nije prepoznato kao krivično delo, tražiti zaštitu od policije u Srbiji se uglavnom ispostavi kao uzaludan pokušaj. Ukoliko se AI generisane fotografije dele sa lažnih naloga, ko stoji iza tih naloga moguće je otkriti samo uz pomoć policije za visokotehnološki kriminal koja postupa po nalogu tužioca. Međutim, pokazuje se da ni policija ni tužilaštvo nisu baš zainteresovani da se ažurno bave pronalaženjem onih koji kreiraju i dele lažne fotografije žena.
Zato Macanović onima koje zadesi ovaj problem savetuje da se obrate organizacijama kojih u Srbiji ima i koje mogu pružiti pomoć da se sporne fotografije i snimci uklone sa interneta.
„Treba sačuvati sve moguće dokaze, sve ono što ostavljaju digitalni trag na osnovu kojeg se osoba može pronaći, čak i kada obriše lažni nalog. Znači ne blokirati, već se obratiti Share fondaciji ili nekoj drugoj organizaciji koja poseduje specifična IT znanja, pa da se proba detektovati ko stoji iza toga” – savetuje Vanja Macanović.
Kakav savet i pomoć Share fondacija pruža ženama zavisi od toga da li su lažne fotografije postavljene na internet ili se dele u privatnim porukama. Ukoliko su postavljene na internet Maja Bajić savetuje da se u direktnoj komunikaciji sa platformom traži uklanjanje spornih fotografija. U nekim slučajevima kada su sadržaji veoma eksplicitni i same platforme ga uklanjaju, pa i nema potrebe za prijavom.
„Kao opcija postoji i platforma StopNCII (Stop Non-Consensual Internet Images Abuse) koja ima partnerske organizacije u Srbiji i pomaže ženama da uklone dipfejk fotografije koje se pojavljuju na društvenim mrežama” – kaže Mila Bajić iz Share fondacije.
Sramota nije na strani žena već onih koji zloupotrebljavaju veštačku inteligenciju
Iskustvo pokazuje da društvene mreže sebe uglavnom doživljavaju kao posrednika, a ne kao odgovorne za deljenje lažnih vesti, fotografija ili drugih zlonamernih sadržaja. Bajić navodi da prilikom reagovanja na neprimerene sadržaje platforme često idu iz krajnosti u krajnost, pa sadržaj ili uopšte ne uklanjaju ili su veoma rigorozni.
„Neki algoritmi koji koriste veštačku inteligenciju imaju u sebi ugrađenu objektifikaciju ženskih tela, što znači da oni neselektivno kao eksplicitne obeležavaju fotografije na kojima su čak i žene u kupaćim kostimima ili u opremi za vežbanje” – objašnjava Bajić. Smatra da ovo pokazuje da se kompanije ne hvataju u koštac sa pravim problemom, već rešavaju posledicu na njima najlakši način.
98% dipfejk video snimaka na internetu bilo je pornografskog sadržaja, pokazuje istraživanje 2023 State of Deepfakes.
99% osoba prikazanih na takvim lažnim snimcima bile su žene.
4 miliona fotografija napravljeno je za devet dana kada je četbot Grok postao dostupan na mreži X, prema podacima koje navodi Share fondacija. Više od 40 odsto bile su seksualizovane fotografije žena i devojčica.
Svoj doprinos rešavaju ovog problema dala je i poznata glumica Kejt Blanšet. Ona je jedna od vlasnica neprofitne organizacije koja je razvila besplatnu online platformu koja ljudima omogućava prijavu da li i pod kojim uslovima dozvoljavaju da se njihov lik ili bilo koji podatak koristi za alate veštačke inteligencije. Ostavljajući ime, fotografiju, glas, pokret i druge elemente građani daju ili ne daju pristnak da se njihovi podaci koriste za generisanje AI sadržaja.
Međutim, ovo i dalje ne bi obavezivalo kompanije da poštuju volju korisnika društvenih mreža. Govoreći o budućnosti vešačke inteligencije Mila Bajić kaže da pokušava da napravi razliku između njenih dobrih strana i zloupotrebe.
Ove godine u Americi je objavljeno istraživanje Centra Pew Research koje je pokazalo da 40% Amerikanaca očekuje da će veštačka inteligencija imati negativan uticaj na društvo u narednih dvadeset godina. Samo 16% očekuje pozitivan uticaj.
Ono što je dobro, smatra Mila Bajić, je to što se alati u ovom trenutku ne razvijaju više velikom brzinom. Takođe, u više zemalja usvajaju se zakoni koji kao krivično delo prepoznaju generisanje i distribuciju AI sadržaja koji nekome može da našteti.
„Ono što me kod nas brine je to što nema dovoljno razumevanja i etičkog korišćenja alata veštačke inteligencije. To najviše vidimo na primeru dece uzrasta već u osnovnoj školi gde postoji generisanje intimnih sadržaja putem AI. Odgovor uglavnom bude zabrana interneta mladima, a to nije rešenje” – kaže Mila Bajić i dodaje da AI generisanje fotografija žena može imati višestruke posledice.
U društvu se često odgovornost, krivica i sramota prebacuje na žrtvu, pa je kroz informisanje i edukaciju važno adresirati odgovornost na pravu adresu, a ne na žene čije fotografije su zloupotrebljene.
