Utilizarea ChatGPT ca asistent de raportare: Ce a mers greșit?

Bună, cititori!

\ Când vine vorba de dezvoltările în inteligența artificială, lucrurile avansează rapid. Au trecut mai puțin de doi ani de la lansarea publică a instrumentelor AI precum ChatGPT, Midjourney, Stable Diffusion și LLaMA de la Meta. Autoritățile de reglementare, legiuitorii și companiile încep să înțeleagă implicațiile utilizării instrumentelor AI generative.

\ Aceasta include organizațiile de știri și jurnaliștii, care au început deja să experimenteze. Nieman Journalism Lab a raportat că 5 dintre cei 45 de finaliști neanunțați pentru premiile Pulitzer din acest an au folosit AI pentru „cercetare, raportare sau prezentarea materialelor lor". La conferința anuală NICAR de jurnalism de date a Investigative Reporters & Editors, din Baltimore, săptămâna trecută, 14 dintre cele peste 200 de sesiuni au fost legate de AI, discutând despre modul în care tehnologia poate ajuta jurnaliștii cu fluxurile de lucru, rezuma documente dense și depana codul lor.

\ Am avut una proprie, o sesiune intitulată „Utilizarea instrumentelor AI pentru jurnalismul de date" în care am început prin a trece în revistă numeroasele instrumente disponibile și am evidențiat numeroasele preocupări etice despre ele.

\ Apoi am arătat rezultatele experimentului meu consumator de timp de a folosi ChatGPT 4 ca asistent pentru raportarea unui articol. Atenție spoiler: Nu a mers prea bine!

\ Povestea exemplu pe care am folosit-o pentru acest exercițiu a fost deraierile de tren din East Palestine, OH din februarie 2023, o știre majoră care a implicat diverse tipuri de date pe care aș fi putut să cer ChatGPT să le ajute să le analizeze. Pentru a fi clar, aceasta nu era o poveste pe care am raportat-o, dar am vrut să încerc să folosesc ChatGPT într-un mod în care un jurnalist de date ar putea face-o atunci când o acoperă. Am petrecut MULT timp discutând cu ChatGPT ca parte a acestui exercițiu și, sincer, uneori a fost epuizant. Puteți citi una dintre sesiunile mele de chat aici. Încrederea pe care o emană ChatGPT atunci când furnizează informații slab documentate (precum Wikipedia) sau locații imprecise poate fi înșelătoare. Uneori am reușit să fac agentul de chat să-mi dea ceea ce vroiam, dar a trebuit să fiu foarte specific și adesea a trebuit să-l certez.

\ De exemplu, când ChatGPT a îndeplinit cererea mea de a „genera o hartă simplă centrată pe locația accidentului", am observat imediat că pinul de pe hartă era departe de orice șine de tren. Când l-am întrebat de unde a obținut coordonatele pentru locația accidentului, a răspuns că acestea au fost „deduse pe baza cunoștințelor generale despre locația evenimentului". Când l-am presat pentru o citare mai specifică, nu a putut furniza una și a continuat să repete că se baza pe „cunoștințe generale". A trebuit să reamintesc instrumentului că i-am spus la începutul chat-ului că „este crucial să citezi sursele tale și să folosești întotdeauna cele mai autoritare surse". Înainte de a putea în cele din urmă să marcheze locația corectă, a trebuit să-i reamintesc că ar putea obține coordonatele locației dintr-un document autoritar pe care îl încărcasem mai devreme în chat, un PDF al raportului de incident al Administrației Federale Feroviare.

\ Extragerea informațiilor și rezumarea documentelor lungi este adesea citată ca fiind printre cele mai mari puncte forte ale instrumentelor precum ChatGPT. Rezultatele mele au fost mixte. După câteva schimburi, am convins agentul să extragă detaliile și cantitățile substanțelor chimice periculoase care au fost eliberate în accident și să formateze informațiile într-un tabel care enumera numele substanței chimice, cantitatea eliberată, pentru ce este folosită de obicei și efectele sale asupra sănătății umane. Dar a fost nevoie de câteva încercări. Unde a economisit timp a fost în explicarea informațiilor specializate care altfel ar fi necesitat o căutare Google consumatoare de timp pentru a le descoperi - cum ar fi decodarea numerelor vagoanelor feroviare.

\ Uneori, instrumentul era prea dornic să placă, așa că i-am cerut să se tempereze puțin: „Poți sări peste discuțiile și plăcerile obișnuite". Utilizatorii pot instrui botul să schimbe tonul sau stilul răspunsurilor lor, dar spunându-i că este avocat nu-l face mai precis.

\ În general, sesiunile au fost multă muncă încercând să aflu de unde a obținut agentul informațiile sale și redirecționându-l cu instrucțiuni precise. A durat mult timp.

\ Compania care produce ChatGPT, OpenAI, nu a răspuns la o cerere de comentariu.

\ Pe baza interacțiunilor mele, de departe cele mai utile capacități ale ChatGPT sunt abilitatea sa de a genera și depana cod de programare. (La un moment dat în timpul exercițiului East Palestine, a generat niște cod Python simplu pentru crearea unei hărți a deraierilor.) Când răspunde la o cerere de a scrie cod, de obicei explică abordarea sa (chiar dacă poate să nu fie cea mai bună), și își arată munca, și îl poți redirecționa să urmeze o abordare diferită dacă crezi că planul său nu este ceea ce ai nevoie. Abilitatea de a adăuga continuu caracteristici codului tău în timp ce agentul AI păstrează contextul și istoricul a ceea ce ați discutat poate într-adevăr să-ți economisească o mulțime de timp, evitând căutările anevoioase de postări despre o problemă similară pe StackOverflow (una dintre cele mai mari comunități online de codare).

\ Exercițiul NICAR m-a lăsat cu îngrijorări cu privire la utilizarea instrumentelor AI generative pentru munca precisă a jurnalismului de date. Faptul că un instrument atât de puternic precum ChatGPT nu poate produce o „chitanță" a modului exact în care știe ceva merge împotriva a tot ceea ce suntem antrenați să facem ca jurnaliști. De asemenea, îmi fac griji că redacțiile mici, subîncadrate să se bazeze prea mult pe aceste instrumente, pe măsură ce industria de știri se confruntă cu concedieri și închideri. Și când există o lipsă de îndrumare din partea conducerii redacției cu privire la utilizarea acestor instrumente, ar putea duce la erori și inexactități.

\ Din fericire, multe redacții au început să abordeze unele dintre aceste preocupări prin elaborarea politicilor AI pentru a-i ajuta pe jurnaliștii lor și pe cititorii lor să înțeleagă cum plănuiesc să folosească AI în munca lor.

\ The Markup a urmat exemplul altor organizații de știri și săptămâna trecută am actualizat politica noastră de etică cu o secțiune care detaliază regulile noastre pentru orice utilizare a AI în munca noastră. În rezumat, spune:

• Nu vom publica articole sau opere de artă create de AI (cu excepția cazului în care face parte dintr-un articol despre AI)
• Vom eticheta sau dezvălui întotdeauna utilizarea sa
• Vom verifica întotdeauna riguros munca noastră, și acest lucru se aplică cu siguranță oricărui lucru generat de AI
• În continuare vom evalua considerațiile de securitate, confidențialitate și etice ale oricăror instrumente AI noi

\ Vă mulțumim pentru lectură și verificați întotdeauna dublu tot ceea ce vă spune un chat bot!

\ Jon Keegan

Jurnalist de Date Investigative

The Markup

Credite

• Jon Keegan, Jurnalist de Date Investigative

Design și Grafică

• Gabriel Hongsdusit

Implicare

• Maria Puertas

Editare

• Ryan Tate
• Michael Reilly

\ Publicat și aici

\ Fotografie de Valery Tenevoy pe Unsplash

\