Amazon Ritira il Riassunto Generato dall'IA di 'Fallout' Prima della Stagione 2 in Mezzo alle Polemiche

È davvero straordinario ciò di cui Amazon non si preoccupa. Per esempio, l'azienda semplicemente non si preoccupa di assumere qualcuno per realizzare un breve riassunto della prima stagione di Fallout. La seconda stagione debutta la prossima settimana su Prime Video, e un utile video riassuntivo è piuttosto standard per il settore. Invece di pagare un essere umano per montare un video riassuntivo, Amazon ha utilizzato l'IA generativa. I risultati sono stati... non buoni.

Vedi, Amazon non si è nemmeno preoccupata di pagare qualcuno per guardare effettivamente il suddetto video riassuntivo IA e assicurarsi che fosse accurato. L'IA è, ovviamente, notoriamente incline a "allucinare" e inventare dettagli invece di ammettere quando non conosce la risposta. Perché preoccuparsi di verificare i fatti? È solo un sciocco programma TV!

Dopo la reazione negativa dei fan e una serie di articoli di scherno apparsi online, Amazon ha ritirato il riassunto IA, che includeva un monotono doppiaggio IA che sputava ogni tipo di informazione errata. Questi errori includevano:

I flashback, in cui vediamo il personaggio di Walton Goggins e la sua famiglia in un 2070 retro-futuristico, sono stati erroneamente identificati come anni '50 dall'IA. Nessuno ad Amazon ha notato questo errore incredibilmente ovvio.

Il riassunto affermava che il Ghoul aveva dato a Lucy di Ella Purnell la scelta di "morire o andarsene con lui" quando inseguono il personaggio di Kyle MacLachlan, Hank, mentre attraversa il deserto verso New Vegas. Questo fa sembrare l'interazione minacciosa, quando in realtà Lucy e il Ghoul sono piuttosto amichevoli a questo punto.

Ma le imprecisioni sono solo un sintomo di un problema molto più grande e anche un riassunto perfettamente accurato – il minimo che ci si aspetterebbe da questo tipo di video – sarebbe comunque problematico. L'IA è uno strumento utile ma un povero sostituto del lavoro umano e della creatività. I riassunti non sono ovviamente la parte più importante di uno show, ma sono molto utili per gli spettatori e, nelle mani giuste, possono anche essere molto divertenti di per sé.

Jane the Virgin presentava esilaranti riassunti prima di ogni episodio che si basavano davvero sulla parodia delle telenovelas di quello show. La serie Apple TV di Vince Vaughn, Bad Monkey, ha fatto qualcosa di molto simile con i suoi riassunti. Come un buon trailer, un buon riassunto può impostare il tono e aiutare gli spettatori a concentrarsi sulle parti importanti, evidenziando dettagli che le persone potrebbero aver perso o indicando dove dovremmo concentrarci.

Non otterrai questo dall'IA. Non puoi nemmeno ottenere un riassunto montato in modo competente del più grande show di Amazon di dicembre. Naturalmente, Amazon sta risparmiando denaro pubblicando brodaglia IA invece di un riassunto professionale, ma il talento umano ne paga il prezzo a lungo termine.

"I Video Riassunti segnano un'applicazione rivoluzionaria dell'IA generativa per lo streaming," ha dichiarato in un comunicato il VP della tecnologia di Prime Video, Gérard Medioni, quando questi riassunti IA sono stati rivelati per la prima volta. "Questa funzionalità, prima nel suo genere, dimostra l'impegno continuo di Prime Video per l'innovazione e per rendere l'esperienza di visione più accessibile e piacevole per i clienti."

Come i riassunti IA rendano l'esperienza di visione "più piacevole" rimane un mistero, considerando che esistono interi canali YouTube dove esseri umani molto reali e talentuosi realizzano riassunti dettagliati e utili per i fan. Per esempio, ecco un riassunto della Stagione 1 di Fallout – realizzato da un vero essere umano – che Amazon avrebbe potuto facilmente pagare qualcuno per fare:

D'altra parte, non pagare le persone sembra essere più importante che rendere "l'esperienza di visione più accessibile e piacevole." A questo punto, la maggior parte di queste aziende ha investito così tanto denaro nell'IA, che in un certo senso hanno bisogno di usarla ogni volta che è possibile, anche come (pessima) prova di concetto. Ma questo non è un bene per le persone che lavorano in questi settori.

Come ha notato un commentatore su reddit, "Sono un montatore che letteralmente soleva montare questi tipi di riassunti come parte del mio vecchio lavoro. Ricevevo note dal cliente, guardavo lo show, annotavo gli episodi e poi mettevo insieme con cura un riassunto che speravo avesse un po' di stile pur trattando i punti principali necessari per la stagione successiva.

"Sono passato ad altri tipi di montaggio, ma attualmente sto lottando per trovare molto lavoro, come molti montatori di talento che conosco con anni e anni di esperienza. Quindi sì... questo ha sicuramente tolto il lavoro a qualcuno."

Potrebbero essere solo riassunti ora, ma l'IA si sta insinuando in sempre più aspetti della vita e dell'industria dell'intrattenimento. Il problema è che l'IA può certamente essere uno strumento utile quando si tratta di brainstorming, organizzazione, ricerca e così via, ma è molto scarsa nella vera creatività. Molti dirigenti e tech bros non lo capiscono davvero – sono bravi nelle cose aziendali ma non saprebbero identificare la vera creatività nemmeno se gli schiaffeggiasse il viso.

I sostenitori dell'IA pubblicano costantemente clip IA su X e altrove ed esaltano come prenderà completamente il sopravvento su Hollywood, ma devo ancora vedere una singola clip IA che non sia legnosa, falsa e senza vita. Gli evangelisti tecnologici stanno spingendo questo come se fosse la seconda venuta degli NFT, ma penso che sottovalutino l'ampia avversione per tutto ciò che riguarda l'IA, e il nostro bisogno umano di un tocco umano.

In altre notizie, Disney sta contemporaneamente facendo causa a Google per violazione del copyright per la sua IA generativa e cedendo la sua anima a ChatGPT, concedendo in licenza la sua vasta libreria di contenuti da utilizzare dal servizio di generazione video IA Sora. Niente di tutto questo finirà bene, sospetto, ma almeno avremo chatbot IA generativi per rassicurarci che andrà tutto bene. (Seriamente, vai a chiedere a ChatGPT e ti rassicurerà che, sebbene tu abbia ogni ragione per essere preoccupato, alla fine andrà tutto bene. Vorresti che compilasse un elenco di motivi per non preoccuparti dell'apocalisse imminente?)

Ho contattato Amazon per un commento sui riassunti IA e sulla decisione dell'azienda di ritirare il video di Fallout, e aggiornerò questo post se e quando risponderanno. È certamente il tipo di cattiva pubblicità che l'azienda voleva evitare a meno di una settimana dal debutto della Stagione 2 su Prime Video. Ovviamente, questo è un errore non forzato se mai ce ne fosse uno. C'est la vie.

Sono sinceramente entusiasta per la Stagione 2 di Fallout. Ho pensato che la prima stagione fosse molto divertente. Certo, ha cambiato alcune cose del lore, ma ha colto il tono dei videogiochi e il casting era perfetto. Questa volta, invece di rilasciare tutti gli episodi in una volta, Amazon sta saggiamente rilasciando un episodio a settimana. Cercate i miei riassunti e recensioni della nuova stagione qui su questo blog. Potete consultare la mia guida allo streaming del weekend proprio qui.