Amazon retira resumo gerado por IA de 'Fallout' antes da temporada 2 em meio a reações negativas

É bastante extraordinário, as coisas com as quais a Amazon não se importa. Por exemplo, a empresa simplesmente não se dá ao trabalho de contratar alguém para montar um breve resumo da primeira temporada de Fallout. A segunda temporada estreia na próxima semana no Prime Video, e um vídeo de resumo útil é bastante padrão para a indústria. Em vez de pagar a um ser humano para editar um vídeo de resumo, a Amazon usou IA generativa. Os resultados foram... não bons.

Veja, a Amazon também não se deu ao trabalho de pagar alguém para realmente assistir ao dito vídeo de resumo de IA e garantir que fosse preciso. A IA é, claro, notoriamente propensa a "alucinar" e inventar detalhes em vez de admitir quando não sabe a resposta. Por que se preocupar em verificar os factos? É apenas um programa de TV tolo!

Após a reação negativa dos fãs e uma série de artigos zombeteiros publicados online, a Amazon retirou o resumo de IA, que incluía uma dublagem monótona de IA soltando todo tipo de informação incorreta. Estes erros incluíram:

Os flashbacks, nos quais vemos o personagem de Walton Goggins e sua família numa década de 2070 retro-futurista, foram identificados erroneamente como os anos 1950 pela IA. Ninguém na Amazon percebeu este erro incrivelmente óbvio.

O resumo afirmava que o Ghoul deu a Lucy, personagem de Ella Purnell, a escolha de "morrer ou partir com ele" quando vão atrás do personagem de Kyle MacLachlan, Hank, enquanto ele atravessa o deserto para Nova Vegas. Isso faz a interação parecer ameaçadora, quando na verdade Lucy e o Ghoul são bastante amigáveis neste ponto.

Mas as imprecisões são apenas um sintoma de um problema muito maior e mesmo um resumo perfeitamente preciso – o mínimo que se esperaria deste tipo de vídeo – ainda seria problemático. A IA é uma ferramenta útil, mas um substituto pobre para o trabalho humano e criatividade. Os resumos não são a parte mais importante de um programa, obviamente, mas são muito úteis para os espectadores e, nas mãos certas, também podem ser muito divertidos por si só.

Jane the Virgin apresentava resumos hilariantes antes de cada episódio que realmente se apoiavam na paródia de telenovelas do programa. A série da Apple TV de Vince Vaughn, Bad Monkey, fez algo muito semelhante com seus resumos. Como um bom trailer, um bom resumo pode definir o tom e ajudar os espectadores a focar nas partes importantes, destacando detalhes que as pessoas podem ter perdido ou indicando onde devemos focar.

Não conseguirás isto da IA. Nem sequer consegues um resumo editado competentemente do maior programa da Amazon em dezembro. Claro, a Amazon está a poupar dinheiro ao lançar lixo de IA em vez de um resumo profissional, mas o talento humano está a pagar por isso a longo prazo.

"Os Resumos em Vídeo marcam uma aplicação inovadora de IA generativa para streaming", disse Gérard Medioni, VP de tecnologia do Prime Video, numa declaração quando estes resumos de IA foram revelados pela primeira vez. "Este recurso, primeiro do género, demonstra o compromisso contínuo do Prime Video com a inovação e em tornar a experiência de visualização mais acessível e agradável para os clientes."

Como os resumos de IA tornam a experiência de visualização "mais agradável" continua a ser um mistério, dado que existem canais inteiros no YouTube onde seres humanos muito reais e talentosos fazem resumos detalhados e úteis para os fãs. Por exemplo, aqui está um resumo da Temporada 1 de Fallout – feito por um ser humano real – que a Amazon poderia facilmente ter pago a alguém para fazer:

Por outro lado, não pagar às pessoas parece ser mais importante do que tornar a "experiência de visualização mais acessível e agradável". Neste momento, a maioria destas empresas investiu tanto dinheiro em IA que precisam de usá-la sempre que possível, mesmo como uma prova de conceito (péssima). Mas isso não é bom para as pessoas que trabalham nestas indústrias.

Como um comentador no reddit observou, "Sou um editor que literalmente costumava montar estes tipos de resumos como parte do meu antigo trabalho. Eu recebia notas do cliente, assistia ao programa, marcava os episódios e depois cuidadosamente montava um resumo que esperava ter um pouco de estilo enquanto ainda abordava os pontos principais necessários para a próxima temporada.

"Passei para outros tipos de edição, mas atualmente estou a lutar para encontrar muito trabalho, assim como muitos editores talentosos que conheço com anos e anos de experiência. Então, sim... isto definitivamente tirou o emprego de alguém."

Podem ser apenas resumos agora, mas a IA está a infiltrar-se em mais e mais aspectos da vida e da indústria do entretenimento. O problema é que a IA certamente pode ser uma ferramenta útil quando se trata de brainstorming, organização, pesquisa e assim por diante, mas é muito má em criatividade real. Muitos executivos e tech bros não entendem realmente isso – são bons em coisas de negócios, mas não conseguiriam identificar criatividade real nem se ela lhes desse um tapa na cara.

Os defensores da IA estão constantemente a publicar clipes de IA no X e noutros lugares e a exaltar como ela vai dominar completamente Hollywood, mas ainda não vi um único clipe de IA que não seja rígido, falso e sem vida. Os evangelistas da tecnologia estão a promover isto como se fosse a segunda vinda dos NFTs, mas acho que subestimam a aversão generalizada a tudo relacionado com IA e a nossa necessidade humana de um toque humano.

Em outras notícias, a Disney está simultaneamente a processar o Google por violação de direitos autorais pela sua IA generativa e a vender a sua alma ao ChatGPT, licenciando a sua vasta biblioteca de conteúdo para ser usada pelo serviço de geração de vídeo de IA Sora. Nada disso acabará bem, suspeito, mas pelo menos teremos chatbots de IA generativa para nos garantir que tudo ficará bem. (A sério, vai perguntar ao ChatGPT e ele vai garantir-te que, embora tenhas todas as razões para estar preocupado, tudo acabará bem no final. Gostarias que ele compilasse uma lista de razões para não te preocupares com o apocalipse que se aproxima?)

Entrei em contacto com a Amazon para comentar sobre os resumos de IA e a decisão da empresa de retirar o vídeo de Fallout, e atualizarei este post se e quando responderem. É certamente o tipo de má publicidade que a empresa queria evitar a menos de uma semana antes da estreia da Temporada 2 no Prime Video. Claro, este é um erro não forçado se é que alguma vez houve um. C'est la vie.

Estou genuinamente entusiasmado com a Temporada 2 de Fallout. Achei que a primeira temporada foi muito divertida. Claro, mudou algumas coisas do lore, mas acertou no tom dos videojogos e o elenco foi perfeito. Desta vez, em vez de lançar todos os episódios de uma vez, a Amazon está sabiamente a lançar um episódio por semana. Procura os meus resumos e análises da nova temporada aqui neste blog. Podes conferir o meu guia de streaming de fim de semana aqui mesmo.