Perché le Persone Continuano a Fantasticare sull'IA che Porta l'Apocalisse?

Ciao a tutti, sono Michael Reilly.

\ Siamo ancora all'inizio del 2024, ma qualcun altro è esausto dai livelli di dramma e iperventilazione che circondano l'IA? Una cosa che mi ha particolarmente colpito è la disponibilità di alcune persone a invocare catastrofi—vere e proprie visioni apocalittiche del nostro futuro—per descrivere i loro eleganti chatbot e generatori di immagini.

\ Sto pensando in particolare alla recente disputa su X tra Vinod Khosla e Marc Andreessen, due dei più importanti imprese con capitale di ventura della Silicon Valley, che sono anche entrambi investitori in OpenAI. Ciò che è iniziato come una discussione sul fatto che fosse una buona idea rendere open source il codice proprietario di OpenAI, in qualche modo è arrivato a paragonare i prodotti dell'azienda al Progetto Manhattan.

\ Il punto di Khosla sembrava concentrarsi sulle preoccupazioni per la sicurezza nazionale relative all'open sourcing di codice IA molto sofisticato a chiunque potrebbe decidere di utilizzarlo in modo improprio. Ma questo tipo di discorso apocalittico è nel DNA fondante di OpenAI, un'azienda che è nata come uno sforzo deliberato per creare una superintelligenza basata su computer che avrebbe eclissato l'intelletto umano. Alla fine del 2022, OpenAI ha lanciato ChatGPT e il clamore è davvero esploso. Così come il catastrofismo, che si è diffuso da persone come Sam Altman, che in qualità di capo dell'azienda ha un interesse personale nel far sembrare la sua tecnologia Veramente Potente.

\ Perché alle persone tech piace parlare di cose in termini apocalittici? Siamo onesti: *a tutti* piace parlare della fine dei tempi. Antiche civiltà, testi religiosi, produttori di film di Hollywood, media mainstream, teorici della cospirazione su internet—gli executive tech non sono soli. C'è qualcosa di innato nell'essere umano nel credere che il mondo sia sull'orlo del cataclisma.

\ Ma per le persone tech in particolare, mi chiedo: Sam Altman dice che tutto ciò di cui ha bisogno sono 7 trilioni di dollari per trasformare il mondo in un'utopia basata su IA perché crede onestamente che sia un buon uso del denaro (ha sentito parlare del cambiamento climatico)? È solo marketing? Più pericolosa sembra la loro tecnologia, più attenzione ottiene e quindi più denaro, sia in termini di investimenti che di valutazione aziendale. Quella strategia... sembra funzionare davvero bene! OpenAI è stata valutata 80 miliardi di dollari.

\ Il vero problema, tuttavia, è che questa narrativa dell'oggetto luccicante distrae dalle reali, concrete ramificazioni dell'IA. Il software che utilizza grandi porzioni di dati per fare previsioni sul mondo è là fuori, occupato a fare il suo lavoro. In alcuni casi—come nel sistema di punteggio di Los Angeles per l'edilizia sovvenzionata, nel Sistema di Allerta Precoce per l'Abbandono Scolastico del Wisconsin, negli strumenti di rilevamento del plagio, e in una litania di altri casi ben documentati che vanno dall'assunzione alla giustizia penale—sta facendo del male alle persone.

\ Se si preoccupassero di prestare attenzione, penso che i Grandi Broker del Potere Tech sarebbero per lo più d'accordo con l'idea che dovremmo sistemare sistemi come quelli che The Markup ha investigato a LA o in Wisconsin in modo che funzionino in modo più equo e giusto. Ma ignorando questi argomenti ammettamente molto meno sexy e concentrandosi invece sul discutere di come l'IA porterà alla fine dei tempi—o che solo attraverso la saggia amministrazione dei sommi sacerdoti del capitale di ventura possiamo essere salvati dalla distruzione—ci viene chiesto di concentrare la nostra attenzione sulla fantasia.

\ E hey, a chi non piace una buona fantasia. Assicurati solo di lasciare spazio alla realtà.

\ Grazie per la lettura,

Michael Reilly

Managing Editor

The Markup

\ PS – se sei rimasto con me fino a questo punto o hai semplicemente saltato alla fine, meriti alcune cose interessanti. Ecco alcune cose (per lo più legate all'IA) da internet che ho trovato davvero interessanti ultimamente. Spero che ti diano qualcosa su cui riflettere questo fine settimana:

• Questa storia di Karen Hao su The Atlantic è uno dei migliori pezzi che ho letto sulle risorse naturali consumate dalla Grande Hype dell'IA degli anni 2020.
• Il nostro Ross Teixeira ha parlato con diversi insegnanti in tutto il mondo su come usano l'IA in classe. Ho trovato le loro risposte affascinanti.
• I nuovi arrivati di 404 Media stanno facendo un ottimo lavoro con scoop quasi quotidiani dal loro lancio sei mesi fa. Se l'IA distruggerà il mondo, è perché verrà utilizzata per sommergerci tutti di spam su TikTok.
• Il nostro ex collega, Leon Yin, e i suoi colleghi di Bloomberg hanno fatto un'incredibile indagine su come lo strumento di reclutamento GPT di OpenAI ha un pregiudizio razziale incorporato. Visivamente stupefacente oltre che un ottimo pezzo di giornalismo.
• Questa piccola azienda pensa che l'America debba iniziare a utilizzare macchine per il voto che funzionano interamente con codice open source.

Credits

• Michael Reilly, Managing Editor

Editing

• Sisi Wei

Design e Grafica

• Gabriel Hongsdusit

Engagement

• Maria Puertas

\ Pubblicato anche qui

\ Foto di Mylène Haudebourg su Unsplash

\