Ética e inteligência artificial: cinco perguntas-chave para ajudar empresas a lidar com esse dilema

Para aumentar o engajamento dos usuários, o Facebook utiliza algoritmos que identificam e amplificam conteúdos frequentemente extremos ou ligados a teorias da conspiração e à desinformação. O problema não está no algoritmo em si, mas no modelo de negócio que prioriza engajamento acima de tudo. A falha ética não é o código, é o incentivo atrelado ao modelo de negócio.

A maioria dos problemas éticos associados à IA não decorre de “algoritmos errados”, mas de decisões humanas. E quase sempre há um stakeholder que não estava à mesa quando essas decisões foram tomadas: o stakeholder invisível.

Para ajudar empresas a lidar com esses dilemas, proponho um radar ético de IA, com cinco perguntas-chave:

1. O que estamos otimizando, automatizando ou influenciando com essa tecnologia? Quais incentivos moldaram essa decisão? Quem se beneficia diretamente da implementação?
2. Quem perde? Quem é afetado, mas não está na sala? Quem é o stakeholder invisível?
3. Responsabilidade: se a implementação causar danos, quem responde? Somos capazes de explicar a decisão às pessoas afetadas, sem transferir a culpa para a IA?
4. Desvio de uso: o que acontece se a tecnologia for utilizada para fins para os quais não foi desenhada, inclusive de forma maliciosa?
5. Teste da legitimidade: eu conseguiria defender essa decisão no Jornal Nacional?

Se uma empresa não consegue explicar publicamente uma decisão apoiada por IA, o problema não é tecnológico, é de governança. Se a responsabilidade não é clara, o risco é inevitável. Mesmo quando uma decisão está dentro da lei, a governança precisa avaliar seus riscos reputacionais e sociais.

Sempre que um sistema de IA afeta pessoas, essas pessoas precisam ajudar a moldar a decisão. As vozes que tipicamente ficam de fora são as de empregados, usuários, pessoas que fornecem dados e a sociedade em geral.

A Microsoft, por exemplo, implementou um padrão de IA responsável e criou um conselho ético com poder real de veto. Todos os lançamentos de novos produtos passam por esse conselho. Nesse modelo, a ética está integrada à governança e garante que stakeholders invisíveis sejam considerados.

A ética da IA não é, no fundo, uma questão tecnológica. É uma questão de desenho organizacional: estruturas que permitam detectar danos, aprender com eles e manter a legitimidade no longo prazo. A governança da sua organização está preparada para o uso da IA?