La Malaisie et l'Indonésie restreignent Grok en raison d'abus liés à du contenu sexuellement explicite généré par l'IA

La Malaisie et l'Indonésie ont restreint l'accès à Grok, le chatbot d'intelligence artificielle associé à la plateforme de médias sociaux d'Elon Musk, X. Cette décision fait suite aux préoccupations selon lesquelles l'outil piloté par l'IA est utilisé pour générer de fausses images sexuellement explicites de personnes réelles.

Grok permet aux utilisateurs de créer et de modifier des images. Cependant, les autorités des deux pays ont exprimé leurs préoccupations quant au fait qu'il est de plus en plus utilisé pour manipuler des photos en contenus révélateurs ou sexualisés sans consentement. Les régulateurs ont souligné les risques pour les femmes et les enfants, déclarant que l'outil pourrait facilement être détourné pour produire des deepfakes pornographiques.

La Malaisie et l'Indonésie sont désormais les premiers pays au monde à Bloquer entièrement Grok, adoptant une position ferme contre les outils pilotés par l'IA que les autorités estiment progresser plus rapidement que les réglementations de sécurité.

Grok franchit les limites légales et sociales

Les régulateurs sont préoccupés par des problèmes plus larges au-delà d'un simple chatbot, car l'essor des images sexuelles générées par l'IA révèle des lacunes dans les lois sur la sécurité en ligne et présente des risques pour les utilisateurs. En Malaisie, le régulateur des communications a noté qu'il avait précédemment averti X concernant l'utilisation abusive de son IA, mais a estimé que la réponse de l'entreprise donnait la priorité au Signalement par les utilisateurs plutôt qu'à la résolution du problème fondamental.

Le ministère indonésien des affaires numériques a souligné la nécessité de dignité et de droits humains, déclarant que les outils pilotés par l'IA créant du contenu sexuel non consensuel nuisent à la confiance publique et mettent en danger les groupes vulnérables. Le gouvernement a demandé à X d'expliquer comment Grok est contrôlé et modéré.

L'interdiction reflète également la position de longue date de l'Indonésie sur le contenu en ligne. Le pays a précédemment bloqué des Plateformes tierces telles que Pornhub et OnlyFans, et les responsables considèrent les images sexuelles générées par l'IA comme une extension du même problème, désormais diffusé par une technologie plus récente.

À lire également : Dans la crise de la pornographie deepfake de Grok et les conséquences juridiques à venir

La controverse autour de Grok attire l'attention au-delà de l'Asie du Sud-Est. Au Royaume-Uni, les régulateurs évaluent actuellement si X se conforme aux réglementations sur la sécurité en ligne. De plus, les dirigeants politiques ont publiquement critiqué l'utilisation de la technologie pour créer de fausses images explicites.

Pour les utilisateurs, l'impact est personnel. Certaines personnes dont les images ont été modifiées à l'aide de Grok rapportent que le Signalement du contenu a peu contribué à empêcher sa diffusion. Dans certains cas, encourager d'autres personnes à Signaler les publications n'a fait qu'augmenter le nombre de personnes voyant les fausses images, aggravant ainsi le préjudice.

La réaction croissante incite X à reconsidérer le fonctionnement de Grok, en particulier alors que les gouvernements commencent à considérer les outils pilotés par l'IA comme des produits réglementés plutôt que comme des fonctionnalités expérimentales.

L'article La Malaisie et l'Indonésie restreignent Grok en raison d'abus d'IA sexuellement explicites est apparu en premier sur Technext.