Amazon trekt door AI gegenereerde 'Fallout' samenvatting terug voorafgaand aan seizoen 2 te midden van kritiek

Het is buitengewoon, de dingen waar Amazon zich niet mee kan belasten. Bijvoorbeeld, het bedrijf kan zich simpelweg niet de moeite nemen om iemand in te huren om een korte samenvatting te maken van het eerste seizoen van Fallout. Het tweede seizoen gaat volgende week in première op Prime Video, en een handige samenvattingsvideo is vrij standaard in de industrie. In plaats van een mens te betalen om een samenvattingsvideo te bewerken, gebruikte Amazon generatieve AI. De resultaten waren... niet goed.

Zie je, Amazon kon zich ook niet de moeite nemen om iemand te betalen om daadwerkelijk naar die AI-samenvatting te kijken en ervoor te zorgen dat deze accuraat was. AI staat er natuurlijk om bekend dat het "hallucinaties" heeft en details verzint in plaats van toe te geven wanneer het het antwoord niet weet. Waarom zou je feiten controleren? Het is maar een domme tv-show!

Na een golf van kritiek van fans en een reeks spottende artikelen die online verschenen, trok Amazon de AI-samenvatting terug, die een monotone AI-stem bevatte die allerlei onjuiste informatie uitspuwde. Deze fouten omvatten:

De flashbacks, waarin we het personage van Walton Goggins en zijn familie zien in een retro-futuristische jaren 2070, werden door de AI verkeerd geïdentificeerd als de jaren 1950. Niemand bij Amazon ontdekte deze ongelooflijk voor de hand liggende fout.

De samenvatting beweerde dat de Ghoul Ella Purnell's Lucy de keuze gaf om "te sterven of met hem mee te gaan" wanneer ze achter het personage van Kyle MacLachlan, Hank, aangaan terwijl hij door de woestijn naar New Vegas trekt. Dit laat de interactie bedreigend klinken, terwijl Lucy en de Ghoul op dit punt eigenlijk vrij vriendschappelijk met elkaar omgaan.

Maar de onnauwkeurigheden zijn slechts een symptoom van een veel groter probleem en zelfs een perfect nauwkeurige samenvatting - het absolute minimum dat men zou verwachten van dit soort video - zou nog steeds problematisch zijn. AI is een nuttig hulpmiddel maar een slechte vervanging voor menselijke arbeid en creativiteit. Samenvattingen zijn natuurlijk niet het belangrijkste onderdeel van een show, maar ze zijn erg nuttig voor kijkers en kunnen, in de juiste handen, ook op zichzelf veel plezier opleveren.

Jane the Virgin bevatte hilarische samenvattingen voor elke aflevering die echt inspeelden op de parodie van telenovelas in die show. Vince Vaughn's Apple TV-serie, Bad Monkey, deed iets vergelijkbaars met zijn samenvattingen. Net als een goede trailer kan een goede samenvatting de toon zetten en kijkers helpen zich te concentreren op de belangrijke delen, details benadrukken die mensen misschien hebben gemist of aangeven waar we ons op moeten richten.

Dit krijg je niet van AI. Je kunt niet eens een competent bewerkte samenvatting krijgen van Amazon's grootste show van december. Natuurlijk bespaart Amazon geld door AI-troep uit te brengen in plaats van een professionele samenvatting, maar menselijk talent betaalt er op de lange termijn voor.

"Video Recaps markeert een baanbrekende toepassing van generatieve AI voor streaming," zei VP of technology bij Prime Video, Gérard Medioni, in een verklaring toen deze AI-samenvattingen voor het eerst werden onthuld. "Deze eerste-in-zijn-soort functie demonstreert Prime Video's voortdurende toewijding aan innovatie en het maken van de kijkervaring toegankelijker en plezieriger voor klanten."

Hoe AI-samenvattingen de kijkervaring "plezieriger" maken blijft een mysterie, gezien het feit dat er hele YouTube-kanalen bestaan waar zeer echte en getalenteerde mensen gedetailleerde en nuttige samenvattingen maken voor fans. Hier is bijvoorbeeld een samenvatting van Fallout Seizoen 1 - gemaakt door een echt mens - die Amazon heel gemakkelijk iemand had kunnen betalen om te maken:

Aan de andere kant lijkt mensen niet betalen belangrijker te zijn dan het maken van de "kijkervaring toegankelijker en plezieriger." Op dit moment hebben de meeste van deze bedrijven zoveel geld in AI gestoken, dat ze het eigenlijk moeten gebruiken wanneer mogelijk, zelfs als (een slecht) proof of concept. Maar dat is niet goed voor mensen die in deze industrieën werken.

Zoals een commentator op reddit opmerkte: "Ik ben een editor die letterlijk dit soort samenvattingen placht samen te stellen als onderdeel van mijn oude baan. Ik zou aantekeningen van de klant krijgen, de show bekijken, de afleveringen markeren, en dan zorgvuldig een samenvatting samenstellen die hopelijk een beetje stilistische flair had terwijl het nog steeds de belangrijkste punten behandelde die nodig waren voor het volgende seizoen.

"Ik ben overgestapt naar andere soorten editing, maar heb momenteel moeite om veel werk te vinden, net als veel getalenteerde editors die ik ken met jarenlange ervaring. Dus ja... dit heeft zeker iemands baan gekost."

Het zijn nu misschien alleen nog maar samenvattingen, maar AI wurmt zich in steeds meer aspecten van het leven en de entertainmentindustrie. Het probleem is dat AI zeker een nuttig hulpmiddel kan zijn als het gaat om brainstormen, organisatie, onderzoek enzovoort, maar het is erg slecht in echte creativiteit. Veel leidinggevenden en techbro's begrijpen dat niet echt - ze zijn goed in zakelijke dingen maar zouden echte creativiteit niet herkennen als het hen in het gezicht sloeg.

Voorstanders van AI plaatsen voortdurend AI-clips op X en elders en zwelgen in hoe het Hollywood volledig zal overnemen, maar ik heb nog geen enkele AI-clip gezien die niet houterig, nep en levenloos is. Tech-evangelisten pushen dit alsof het de tweede komst van NFT's is, maar ik denk dat ze de wijdverspreide afkeer van alles wat met AI te maken heeft onderschatten, en onze menselijke behoefte aan een menselijke touch.

In ander nieuws, Disney klaagt Google aan wegens auteursrechtinbreuk voor zijn generatieve AI en verkoopt tegelijkertijd zijn ziel aan ChatGPT, door zijn enorme bibliotheek aan content te licenseren voor gebruik door de Sora AI video-generatiedienst. Dit zal allemaal niet goed aflopen, vermoed ik, maar we zullen tenminste generatieve AI-chatbots hebben om ons gerust te stellen dat alles in orde komt. (Serieus, vraag het maar aan ChatGPT en het zal je geruststellen dat, hoewel je alle reden hebt om je zorgen te maken, het uiteindelijk allemaal goed komt. Wil je dat het een lijst opstelt met redenen om je geen zorgen te maken over de komende apocalyps?)

Ik heb contact opgenomen met Amazon voor commentaar op de AI-samenvattingen en het besluit van het bedrijf om de Fallout-video terug te trekken, en zal dit bericht updaten als en wanneer ze reageren. Het is zeker het soort slechte publiciteit dat het bedrijf wilde vermijden minder dan een week voor de première van Seizoen 2 op Prime Video. Dit is natuurlijk een ongedwongen fout als er ooit een was. C'est la vie.

Ik ben oprecht enthousiast voor Fallout Seizoen 2. Ik vond het eerste seizoen geweldig leuk. Zeker, het veranderde wat lore-dingen, maar het kreeg de toon van de videogames goed en de casting was perfect. Deze keer, in plaats van alle afleveringen tegelijk uit te brengen, brengt Amazon verstandig één aflevering per week uit. Zoek naar mijn samenvattingen en recensies van het nieuwe seizoen hier op deze blog. Je kunt mijn weekend streaming gids hier bekijken.