Grok: X va limita modul în care utilizatorii editează imaginile cu persoane reale după reacțiile negative internaționale

Compania de inteligență artificială a lui Elon Musk, xAI, a introdus măsuri pentru a înăspri controalele asupra funcției sale de generare de imagini Grok. Decizia vine după preocupările crescânde legate de modul în care utilizatorii platformei X editau fotografii ale persoanelor reale. 

Autoritățile de reglementare, grupurile pentru drepturile omului și mass-media au tras semnale de alarmă cu privire la utilizarea abuzivă a instrumentului pentru a genera pornografie deepfake fără consimțământ. Reacția negativă a fost unanimă de la America la Europa și în toată Africa.

Rapoartele autorităților și jurnaliștilor care arată că Grok este utilizat pentru a genera conținut explicit fără consimțământ l-au determinat pe xAI să acționeze. 

Conform echipei de siguranță a companiei, noile măsuri de protecție blochează acum toți utilizatorii să editeze imagini ale persoanelor reale în îmbrăcăminte revelatoră, cum ar fi bikini sau lenjerie intimă, în jurisdicțiile unde un astfel de conținut încalcă legea locală. Măsura se aplică tuturor, inclusiv abonaților premium.

Schimbarea marchează o schimbare semnificativă pentru Grok. Plângerile anterioare au descris cum utilizatorii puteau solicita AI-ului să „dezbrace" sau să altereze fotografii pentru a crea imagini deepfake ale femeilor și minorilor. Investigațiile din California spun că mai mult de jumătate din zecile de mii de imagini generate într-o perioadă de sărbători recentă prezentau persoane în îmbrăcăminte minimă, unele părând să fie minore. Această examinare juridică a adăugat greutate criticii.

Funcțiile de imagine ale xAI Grok, acum strâns controlate

Într-o postare pe contul său oficial de siguranță, X a spus că, deși funcțiile de imagine ale Grok sunt acum strâns controlate, acestea nu au fost eliminate complet. Crearea și editarea de imagini prin Grok vor fi în continuare disponibile, dar doar pentru abonații plătitori de pe platforma X. 

Compania a declarat că acest lucru va îmbunătăți responsabilitatea și va ajuta la urmărirea utilizării abuzive. De asemenea, a fost introdusă blocare geografică în țările în care astfel de creații sunt ilegale, oprind efectiv utilizatorii din acele regiuni să genereze conținut problematic.

Controalele înăsprite nu au redus la tăcere criticii. Unii regulatori și observatori au spus că măsurile sunt încă insuficiente. 

Rapoartele mass-media și testele investigative sugerează că măsurile de protecție pot fi ocolite în unele cazuri. Criticii susțin că plasarea capacităților dăunătoare în spatele unui abonament plătit nu previne existența lor, ci mai degrabă le stivuiește în spatele unui zid de abonament. Alții remarcă faptul că aplicația autonomă Grok și portalul web permit în continuare anumite manipulări de imagini fără aceleași restricții.

Există, de asemenea, o presiune internațională tot mai mare. Oficiali guvernamentali din California, Uniunea Europeană și mai multe țări asiatice și-au exprimat îngrijorarea cu privire la utilizarea abuzivă a deepfake-urilor. 

Unii regulatori iau în considerare sau urmăresc acțiuni în justiție împotriva xAI și X pentru că nu fac suficient pentru a preveni crearea de imagini prădătoare sau de exploatare pe platforma lor. Ca răspuns, Comisia Europeană a declarat că va evalua noile măsuri de protecție pentru a se asigura că protejează cu adevărat cetățenii.

Acest episod vine în mijlocul unei dezbateri mai largi despre modul de guvernare responsabilă a inteligenței artificiale generative. Analiza noastră recentă a subliniat că designul „nefiltrat" al Grok l-a făcut deosebit de vulnerabil la abuz, transformându-l într-un instrument pentru pornografie deepfake fără consimțământ la scară largă. Acel articol a explorat modul în care combinația de măsuri de protecție laxe și modele generative puternice poate deveni rapid o criză socială și juridică dacă nu este abordată.

Deocamdată, xAI susține că ajustează Grok ca răspuns la riscurile emergente. Compania a prezentat cele mai recente controale ca parte a eforturilor continue de a colabora cu utilizatorii, autorităților de reglementare și partenerii în privința siguranței. 

Dar provocarea mai largă rămâne: cum să echilibreze inovația în inteligența artificială generativă cu protecții solide pentru confidențialitatea, demnitatea și drepturile indivizilor. Autoritățile de reglementare și grupurile de advocacy spun că acesta este doar începutul unei călătorii juridice și etice complexe.

Postarea Grok: X va limita modul în care utilizatorii editează imagini ale persoanelor reale după reacția negativă internațională a apărut mai întâi pe Technext.