A Alemanha alertou as plataformas de mídia digital sobre a disseminação de falsas imagens de IA sobre o Holocausto. O governo e as instituições memoriais do Holocausto pediram às plataformas de mídia digital que interrompam a disseminação de imagens falsas, que alegam estar a distorcer e a banalizar a história.
As preocupações foram expressas pelos memoriais de campos de concentração e centros de documentação numa carta recente, criticando o aumento do chamado lixo de IA ou imagens falsificadas, relacionadas com o assassinato de mais de seis milhões de judeus pelos nazis na Alemanha durante a Segunda Guerra Mundial. Estas imagens incluem ilustrações emotivas de incidentes inventados, como encontros de prisioneiros de campos de concentração e os seus libertadores ou crianças atrás de cercas de arame farpado.
A Alemanha quer travar a disseminação de falsas imagens de IA sobre o Holocausto
Na carta enviada pelas organizações, foi observado que o conteúdo gerado por IA distorce a história ao banalizar eventos graves que ocorreram há muito tempo. Mencionaram que tais imagens poderiam alimentar a desconfiança entre os utilizadores de documentos históricos autênticos. Wolfram Weimer, ministro de Estado da Alemanha para a cultura e media, mencionou que apoiava as medidas e esforços tomados pelas instituições memoriais neste caso, revelando que é o passo certo a tomar.
Wolfram também mencionou que apoiava a decisão de marcar as imagens geradas por IA dos incidentes antigos e, nos casos necessários, removê-las das plataformas de mídia digital. Mencionou que é uma questão de respeito por milhões de pessoas que foram mortas e perseguidas sob o regime de terror da Alemanha nazi. De acordo com a carta das instituições memoriais, observaram que os criadores das imagens pareciam utilizá-las para gerar atenção online e ganhar dinheiro.
As organizações também mencionaram que os perpetradores também pretendiam parcialmente diluir factos, inverter os papéis de vítimas e perpetradores e disseminar narrativas revisionistas. As instituições incluem centros memoriais de Belsen, Buchenwald, Dachau e outros campos de concentração onde judeus, bem como outros, incluindo pessoas Roma e Sinti, foram mortos. Pediram às plataformas de mídia digital que agissem proativamente contra imagens falsas de IA sobre o Holocausto, em vez de esperarem que os utilizadores as reportem.
Organizações do Holocausto querem imagens geradas por IA rotuladas
Além disso, pediram às plataformas que as rotulem claramente, pois acreditam que isso impedirá os utilizadores que geraram as imagens de conseguirem monetizá-las. A disseminação de lixo de IA de baixa qualidade, que inclui texto, imagens ou vídeo falsos, tem gerado alarme entre muitos especialistas. Acreditam que poluiria o panorama da informação e tornaria difícil para os utilizadores separar a verdade da falsidade. O incidente segue-se àquele com que as empresas de IA, nomeadamente a xAI de Elon Musk, que detém o chatbot Grok, estão atualmente a lidar.
A empresa tem estado sob pressão nas últimas semanas devido a certos utilizadores gerarem milhares de imagens deepfake sexualizadas de mulheres e menores e disseminando-as por várias plataformas de mídia digital. A ameaça levou vários líderes de países a chamar a empresa à ordem, com outros a pedir-lhes que desenvolvam as salvaguardas apropriadas para enfrentar os incidentes. Países como a Indonésia também anunciaram uma proibição temporária do chatbot até que tudo seja resolvido.
Entretanto, a plataforma confirmou que irá geobloquear a capacidade dos utilizadores do Grok e X de gerarem deepfakes de pessoas em locais onde as ações são consideradas ilegais. No entanto, resta saber se as novas salvaguardas se aplicarão à sua aplicação autónoma ou ao seu website. Também resta saber se as medidas impedirão os utilizadores de gerar este tipo de imagens ou se os levarão a procurar novas formas de aceder ao serviço.
Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Subscreva a nossa newsletter. É gratuita.
Fonte: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
