O governo do Reino Unido está a avançar para reforçar os regulamentos sobre a utilização de chatbots de inteligência artificial, a fim de proteger melhor as crianças contra conteúdos prejudiciais e ilegais.
O Primeiro-Ministro Keir Starmer revelou um processo para preencher um vazio legal que permitia aos fornecedores de chatbots operar fora das principais leis de segurança online. Isto irá forçar as empresas que desenvolvem e gerem chatbots de IA a reprimir ativamente conteúdos ilegais e garantir que as suas plataformas são seguras para utilizadores mais jovens.
Agora, o governo afirma que irá alterar a forma como a Lei de Segurança Online é aplicada e especificar como os chatbots devem cumprir a lei. O regulamento foi concebido numa fase muito anterior do processo, mas principalmente adaptado às exigências das plataformas de redes sociais e fóruns públicos onde as pessoas podiam publicar o seu conteúdo. Nem aqueles que gerem chatbots de IA privados nem aqueles que os utilizam receberam cobertura igual, e as suas responsabilidades permanecem pouco claras. Starmer prometeu fechar esta lacuna em breve.
As empresas de chatbots precisam de aderir às mesmas obrigações legais que outras empresas online, alertou, ou serão penalizadas. O governo afirma que esta mudança deve garantir que os fornecedores de chatbots monitorizem ativamente os seus sistemas e bloqueiem material ilegal. Antes do seu anúncio, Starmer disse que nenhuma empresa de tecnologia estaria isenta da lei.
O governo também teme que tratar os chatbots de IA de forma diferente das plataformas de redes sociais possa deixar as crianças vulneráveis a conteúdos prejudiciais ou inadequados. Os funcionários acreditam que, se os chatbots de IA pretendem alcançar o seu público-alvo, particularmente utilizadores adolescentes e jovens, são necessárias proteções mais rigorosas.
Novos poderes para lidar com tecnologia em rápida mudança
Além de preencher lacunas legais, o governo irá criar novos poderes que permitirão uma ação mais rápida quando surgirem riscos. Em vez de esperar que o Parlamento aprove leis totalmente novas, os reguladores irão responder à tecnologia mais rapidamente.
Esta é uma forma de garantir que as proteções acompanham o rápido progresso da inteligência artificial. As ferramentas de IA estão a melhorar rapidamente e a expandir-se para novas áreas. Como resultado, os riscos podem manifestar-se subitamente, e os reguladores necessitam de flexibilidade para os abordar.
Starmer apontou recentemente para os riscos de conteúdos prejudiciais gerados por IA, como casos em que a tecnologia está a ser aproveitada para criar imagens sexualizadas de pessoas sem o seu consentimento.
Ele considerou tais utilizações inaceitáveis e disse que as leis existentes devem ser aplicadas contra elas. O governo afirmou que uma melhor aplicação forçaria as empresas a conceber sistemas mais seguros desde o início.
Estas poderiam incluir proteções integradas no software do chatbot para identificar e prevenir conteúdo ilegal antes de os utilizadores o verem. As empresas de tecnologia também estão preparadas para assumir a responsabilidade pelo comportamento dos seus sistemas de IA.
Isso significa que precisam de monitorizar resultados, melhorar recursos de segurança para tornar os sistemas mais seguros e responder rapidamente quando falhas são detetadas.
Governo age para proteger crianças de danos
A repressão aos chatbots de IA faz parte do desafio mais amplo da segurança infantil em praticamente qualquer plataforma digital. O governo está a considerar novas ações que poderiam reduzir ainda mais o risco.
Uma sugestão em desenvolvimento é a exigência de que os utilizadores tenham uma certa idade para aceder às redes sociais. Os funcionários também estão a explorar como limitar funcionalidades como o scroll infinito pode incentivar tempo excessivo de ecrã, bem como dificultar o desligamento dos jovens de conteúdos prejudiciais ou viciantes.
Estas mudanças poderiam surgir após consultas públicas sobre o bem-estar das crianças online. Pais, educadores e especialistas em segurança estão preocupados com o impacto das plataformas digitais na saúde mental dos jovens e a quantidade de exposição a conteúdos inadequados.
O objetivo mais amplo do governo é criar um ambiente online mais seguro onde as crianças possam beneficiar da tecnologia sem serem expostas a danos graves.
Fonte: https://www.cryptopolitan.com/uk-cracks-down-on-ai-chatbots/
