Pornografia AI fără consimțământ ne va transforma pe toți în victime: Pot legile ține pasul?

Acest articol a fost copublicat cu The 19th, o redacție nonprofit care acoperă gen, politică și politici publice. Abonează-te la buletinul informativ al The 19th aici.

\ Mai mult de două duzini de elevi de la Westfield High School din New Jersey au fost îngroziți anul trecut când au aflat că imagini cu ei dezbrăcați circulau printre colegii lor. Conform școlii, unii elevi au folosit Inteligența Artificială (IA) pentru a crea imagini pornografice ale altora din fotografii originale. Și nu sunt singurii adolescenți victimizați de fotografii false cu nuduri: Elevi din statul Washington și Canada au raportat, de asemenea, situații similare, pe măsură ce capacitatea de a modifica realist fotografiile devine mai larg accesibilă prin intermediul site-urilor și aplicațiilor.

\ Alarma crescândă în jurul deepfake-urilor—imagini sau videoclipuri generate de IA—în general a fost amplificată și mai mult în ianuarie, când unul care o implica pe supervedeta Taylor Swift s-a răspândit rapid prin intermediul rețelelor sociale.

\ Carrie Goldberg, o avocată care reprezintă victime ale pornografiei neconsimțite—denumită în mod obișnuit revenge porn—de mai bine de un deceniu, a spus că abia recent a început să audă de la victime ale imaginilor generate de computer.

\ "Firma mea a văzut victime ale deepfake-urilor probabil de aproximativ cinci ani și au fost în principal celebrități", a spus Goldberg. "Acum, devine o situație în care copiii o fac altor copii pentru a fi răi. Probabil este cu adevărat subraprortat, deoarece victimele s-ar putea să nu știe că există recurs legal și nu este complet clar în toate cazurile dacă există."

\ Organele de guvernare încearcă să recupereze decalajul. În ultimul an sau cam așa ceva, 10 state au adoptat legislație pentru a criminaliza în mod specific crearea sau diseminarea de deepfake-uri. Aceste state—inclusiv California, Florida, Georgia, Hawaii, Illinois, Minnesota, New York, South Dakota, Texas și Virginia—au conturat penalități care variază de la amenzi la închisoare. Indiana este probabil să se alăture în curând listei în creștere prin extinderea legii sale actuale privind pornografia neconsimțită.

\ Reprezentanta din Indiana Sharon Negele, o republicană, a redactat extinderea propusă. Legea existentă definește "revenge porn" ca dezvăluirea unei imagini intime, cum ar fi orice care descrie act sexual, organe genitale neacoperite, fese sau sânul unei femei, fără consimțământul individului descris în imagine. Proiectul de lege propus de Negele a trecut prin ambele camere și acum așteaptă semnătura guvernatorului.

\ Negele a spus că a fost motivată să actualizeze codul penal al statului Indiana când a auzit povestea unei profesoare de liceu care a descoperit că unii dintre elevii ei diseminaseră imagini deepfake cu ea. A fost "incredibil de distructiv" pentru viața personală a profesoarei, iar Negele a fost surprinsă să vadă că făptuitorii nu puteau fi urmăriți penal conform legii actuale.

\ "A început cu educarea mea în înțelegerea tehnologiei care este acum disponibilă și citirea despre incident după incident de fețe ale oamenilor atașate la un corp inventat care arată incredibil de real și realist", a spus Negele. "Este pur și simplu tulburător. Fiind o mamă și o bunică și gândindu-mă la ce s-ar putea întâmpla familiei mele și mie—este șocant. Trebuie să fim în fața acestui tip de lucruri."

\ Goldberg, a cărei firmă de avocatură este specializată în infracțiuni sexuale, a spus că anticipează că mai multe state vor continua să își extindă legislația existentă pentru a include limbajul IA.

\ "În urmă cu zece ani, doar trei state aveau legi privind revenge porn sau abuzul sexual bazat pe imagini", a spus Goldberg. "Acum, 48 de state au interzis revenge porn-ul și a creat cu adevărat o reducere tremendă a revenge porn-ului—fără surpriză—așa cum noi susținătorii am spus că va face. Întreaga creștere a deepfake-urilor a umplut golurile ca o nouă modalitate de a umili sexual pe cineva."

\ În 2023, mai mult de 143 000 de videoclipuri noi generate de IA au fost postate online, conform The Associated Press. Aceasta este o creștere uriașă față de 2019, când site-urile sau aplicațiile "nudify" erau mai puțin comune, și totuși existau aproape 15 000 dintre aceste videoclipuri false online, conform unui raport al Deeptrace Labs, o companie de informații despre amenințări vizuale. Chiar și atunci, acele videoclipuri—96 la sută dintre care conțineau pornografie neconsimțită cu femei—adunaseră peste 100 de milioane de vizualizări.

\ Goldberg a spus că atât factorii de decizie, cât și publicul par să fie mai motivați să interzică în mod specific imaginile de nuduri generate de IA, deoarece practic oricine poate fi o victimă. Există mai multă empatie.

\ "Cu revenge porn, în primul val de discuții, toată lumea dădea vina pe victimă și o făcea să pară că era un fel de pervers pentru că făcea imaginea sau prostă pentru că o împărtășea cu altă persoană", a spus Goldberg. "Cu deepfake-urile, nu poți cu adevărat să dai vina pe victimă, deoarece singurul lucru pe care l-a făcut a fost să aibă un corp."

\ Amanda Manyame, un consultant pentru drepturi digitale cu sediul în Africa de Sud pentru Equality Now, o organizație internațională pentru drepturile omului concentrată pe ajutorarea femeilor și fetelor, a spus că practic nu există protecții pentru victimele deepfake-urilor în Statele Unite. Manyame studiază politici și legi din întreaga lume, analizează ce funcționează și oferă consultanță juridică în jurul drepturilor digitale, în special privind exploatarea și abuzul sexual facilitat de tehnologie.

\ "Cel mai mare gol este că SUA nu au o lege federală", a spus Manyame. "Provocarea este că problema este guvernată stat cu stat și, în mod natural, nu există uniformitate sau coordonare când vine vorba de protecții."

\ Există, totuși, în prezent o presiune pe Capitol Hill: Un grup bipartisan de senatori a introdus în ianuarie Legea de Perturbare a Imaginilor Explicite Falsificate și Editărilor Neconsimțite din 2024—cunoscută și sub numele de Legea DEFIANCE. Legislația propusă urmărește să oprească proliferarea conținutului neconsimțit și sexual explicit.

\ "Nimeni—nici celebrități, nici americani obișnuiți—nu ar trebui vreodată să se găsească prezentat în pornografie IA", a spus senatorul republican Josh Hawley, un co-sponsor al proiectului de lege, într-o declarație. "Oamenii nevinovați au dreptul să își apere reputațiile și să tragă la răspundere făptuitorii în instanță." Reprezentanta Alexandria Ocasio-Cortez a introdus un proiect de lege partener în Camera Reprezentanților.

\ Conform unui nou sondaj de la Data for Progress, 85 la sută dintre alegătorii probabii din întreg spectrul politic au spus că susțin Legea DEFIANCE propusă—cu 72 la sută dintre femei în sprijin puternic comparativ cu 62 la sută dintre bărbați.

\ Dar bărbații mai tineri sunt mai susceptibili să se opună Legii DEFIANCE, cu aproximativ unul din cinci bărbați sub 45 de ani (22 la sută) spunând că se opun puternic sau oarecum legislației care permite subiectelor deepfake-urilor explicite neconsimțite să dea în judecată creatorul.

\ Danielle Deiseroth, directoare executivă a Data for Progress, a spus că această problemă a arătat unul dintre "contrastele mai ascuțite" dintre bărbații și femeile tinere pe care l-a văzut de ceva timp.

\ "Putem spune cu încredere că femeile și bărbații sub 45 de ani au opinii divergente cu privire la această politică", a spus Deiseroth. "Aceasta este o problemă care afectează disproporționat femeile, în special femeile tinere, care au mai multe șanse să fie victime ale revenge porn-ului. Și cred că aceasta este cu adevărat cauza principală aici."

\ Goldberg a spus că crearea de politici pentru a criminaliza actorii răi este un început bun, dar este în cele din urmă insuficient. Un pas bun următor, a spus ea, ar fi să se ia măsuri legale care vizează distribuitorii online, cum ar fi App Store și Google Play, care furnizează produse utilizate în principal pentru activități criminale. Platformele de socializare și aplicațiile de mesagerie instantanee, unde aceste imagini explicite sunt distribuite, ar trebui, de asemenea, să fie trase la răspundere, a adăugat Goldberg.

\ Fondatorii #MyImageMyChoice, o organizație de bază care lucrează pentru a ajuta victimele abuzului de imagini intime, au fost de acord că ar trebui făcut mai mult de către companiile private implicate în crearea și distribuirea acestor imagini.

\ Fondatorii—Sophie Compton, Reuben Hamlyn și Elizabeth Woodward—au subliniat că motoarele de căutare precum Google direcționează cea mai mare parte a traficului web total către site-urile porno deepfake, în timp ce companiile de carduri de credit le procesează plățile. Furnizorii de servicii de internet permit oamenilor să le acceseze, în timp ce servicii majore precum Amazon, Cloudflare și Github-ul Microsoft le găzduiesc. Și site-urile de socializare precum X permit conținutului să circule la scară largă. Google și-a schimbat politica în 2015 și a început să permită victimelor să trimită o solicitare de a elimina bucăți individuale de conținut din rezultatele căutării și de atunci a extins politica la abuzul deepfake. Cu toate acestea, compania nu elimină sistematic site-urile de violență sexuală bazată pe imagini și de abuz deepfake.

\ "Companiile de tehnologie au puterea de a bloca, de-indexa sau de a refuza serviciul către aceste site-uri—site-uri a căror întreagă existență este construită pe încălcarea consimțământului și profitul din traumă", au spus Compton, Hamlyn și Woodward într-o declarație pentru The 19th. "Dar au ales să nu facă asta."

\ Goldberg a subliniat viteza cu care deepfake-urile cu Taylor Swift s-au răspândit. O imagine distribuită pe X, cunoscut anterior ca Twitter, a fost vizualizată de 47 de milioane de ori înainte ca contul care a postat-o să fie suspendat. Imaginile au continuat să se răspândească în ciuda eforturilor companiilor de socializare de a le elimina.

\ "Imaginile violente, misoginiste cu Taylor Swift, sângeroasă și goală la un meci de fotbal Kansas City Chiefs, este emblematică pentru problemă", a spus Goldberg. "Amploarea acelei distribuții, inclusiv pe site-uri cu adevărat mainstream, trimite un mesaj tuturor că este în regulă să creezi acest conținut. Pentru mine, acela a fost un moment cu adevărat esențial și destul de înfricoșător."

\ Având în vedere natura de profil înalt a victimei, incidentul a declanșat o revoltă pronunțată și răspândită din partea fanilor lui Swift și a adus atenția publicului asupra problemei. Goldberg a spus că a verificat pentru a vedea dacă oricare dintre distribuitorii online eliminaseră produse din magazinele lor online care fac mai ușor și mai ieftin să se creeze deepfake-uri sexual explicite—și a fost ușurată să vadă că au făcut-o.

\ Pe măsură ce factorii de decizie și instanțele țării continuă să încerce să răspundă la tehnologia în curs de dezvoltare rapidă și din ce în ce mai accesibilă, Goldberg a spus că este important ca legiuitorii să continue să se raporteze la experți și la cei care lucrează direct cu victimele, cum ar fi avocați, asistenți sociali și susținători. Legiuitorii care reglementează idei abstracte sau tehnologii în avans rapid pot fi altfel o "rețetă pentru dezastru", a adăugat ea.

\ Manyame a subliniat, de asemenea, importanța de a vorbi direct cu supraviețuitorii atunci când se iau decizii de politică, dar a adăugat că legiuitorii trebuie, de asemenea, să se gândească mai holistic la problemă și să nu devină prea împotmoliți de tehnologia specifică—cu riscul de a fi mereu în urmă. De exemplu, Manyame a spus că publicul general abia acum începe să înțeleagă riscurile prezentate de IA și deepfake-uri—ceva la care ea a ajutat la scrierea unui raport încă din 2021. Privind înainte, Manyame se gândește deja la Metaverse—un spațiu de realitate virtuală—unde utilizatorii încep să se confrunte cu cazuri de viol, hărțuire sexuală și abuz.

\ "Multe dintre legile referitoare la abuzul sexual bazat pe imagini sunt puțin învechite, deoarece vorbesc despre revenge porn în mod specific", a spus Manyame. "Revenge porn-ul a fost în mod istoric mai mult o problemă de violență domestică, în sensul că este un partener intim care distribuie o imagine sexual exploatatoare a partenerului lor fost sau existent. Nu este întotdeauna cazul cu deepfake-urile, așa că aceste legi ar putea să nu ofere suficiente protecții."

\ În plus, Manyame a susținut că multe dintre aceste politici nu reușesc să lărgească definiția "imaginii intime" pentru a lua în considerare medii culturale sau religioase diverse. Pentru unele femei musulmane, de exemplu, ar putea fi la fel de violator și umilitor să se creeze și să se disemineze imagini ale capului lor neacoperit fără un hijab.

\ Când vine vorba de soluții, Manyame a indicat acțiuni care pot fi întreprinse de creatorii de aplicații, reglementatorii platformelor și legiuitori.

\ În faza de proiectare, pot fi încorporate mai multe măsuri de siguranță pentru a limita daunele. De exemplu, Manyame a spus că există unele aplicații care pot face fotografii ale femeilor și le pot îndepărta automat îmbrăcămintea, în timp ce aceeași funcție nu funcționează pe fotografiile bărbaților. Există modalități în backend-ul acestor aplicații pentru a face mai dificilă îndepărtarea hainelor de la oricine, indiferent de genul lor.

\ Odată ce deepfake-urile nefaste sunt deja create și postate, totuși, Manyame a spus că platformele de socializare și mesagerie ar trebui să aibă mecanisme mai bune pentru a elimina conținutul după ce victimele îl raportează. De multe ori, victimele individuale sunt ignorate. Manyame a spus că a observat că aceste mari companii de socializare sunt mai susceptibile să elimine aceste deepfake-uri în țări, cum ar fi Australia, care au reglementatori terți pentru a susține în numele victimelor.

\ "Trebuie să fie incluse mecanisme de monitorizare și aplicare în orice soluție", a spus Manyame. "Unul dintre lucrurile pe care le auzim de la mulți supraviețuitori este că vor doar ca imaginea lor să fie eliminată. Nu este vorba nici măcar despre parcurgerea unui proces legal. Vor doar ca acel conținut să dispară."

\ Manyame a spus că nu este o cerere prea mare pentru multe companii de tehnologie și reglementatori guvernamentali, deoarece mulți răspund deja rapid pentru a elimina fotografiile inadecvate care implică copii. Este doar o chestiune de extindere a acelor tipuri de protecții la femei, a adăugat ea.

\ "Îngrijorarea mea este că a existat o grabă de a implementa legi și politici IA fără a lua în considerare care sunt unele dintre cauzele fundamentale ale acestor daune. Este o problemă stratificată și există multe alte straturi care trebuie abordate."

Credite

• Mariel Padilla pentru The 19th

Ilustrație

• Rena Li

Editare

• Flora Peir pentru The 19th

\ Publicat, de asemenea, aici

\ Fotografie de Steve Johnson pe Unsplash