Kokku mõni aastakümnend ja tehisintellekt (AI) on juba süvenenud igapäevasesse äritegevusse; paljud ettevõtted kiirustavad protsesside automatiseerimisega ning toetuvad AI-põhistele süsteemidele. Kuid strateegi ja süsteemideeksperti Georg Meyeri sõnul võivad kiirus ja mugavus kaasa tuua ka kulud, eriti siis, kui ettevõtted kaotavad ülevaate oma olulisematest süsteemidest – sellest, kuidas need tegelikult töötavad.
Meyer hoiatab, et üks suurimaid riske on vale tunne oma arusaamast. „Ettevõtted võivad arvata, et nad teavad, mis toimub, sest nende andnud päringute tõttu,“ selgitab ta, „aga neil puudub tõeline ülevaade sellest, mis toimub ‘kasti’ sees.“
Tänapäevased AI-süsteemid, eriti suured keelemudelid, on võimsad, kuid neid on raske täielikult inspekteerida. Nende sisemised protsessid pole alati läbipaistvad ja väljundid võivad muutuda põhjustatuna sisemisest juhuslikkusest. See teeb keeruliseks tagada kooskõla ja usaldusväärsus, eriti siis, kui AI-d kasutatakse äri põhifunktsioonides. „On peidetud riske taastatavuse ja usaldusväärsuse osas,“ ütleb Meyer, „mis saavad katastroofiliseks, kui nad puudutavad ettevõtte südamet.”
Meyeri jaoks ei ole lahenduseks AI vältimine, vaid inimliku mõistmise säilitamine keskmes. Ettevõtted vajavad endiselt inimesi, kes teavad, kuidas süsteemid töötavad – isegi kui need süsteemid on AI-ga toetatud.
Lühiajalised saavutused, pikaajalised riskid
Teine Meyeri poolt esile tõstetud mure on AI pikaajaline mõju organisatsioonidesse süvendatud teadmiste arengule. Kuigi AI võib töövoogusid dramatiliselt kiirendada ja aidata teadmisi rakendada, võib sellele liialt toetumisel tekkida ebatähtsamatel tagajärgedel.
„Nii liialdatud kui ka liialt vähe toetumine on riskantne,“ ütleb Meyer. „AI võib vähendada ekspertteadmiste rakendamiseks kuluvat aega, kuid see teeb esile olulise küsimuse: kuidas me õpetame järgmist põlvkonda eksperte, kui nad kunagi ei omanda põhiteadmisi?“
Lühikeses perspektiivis võib AI meeskondi produktiivsemaks muuta. Kuid kui töötajad hakkavad sellele toetuma põhiliste mõtlemis- ja probleemide lahendamisprotsesside puhul, riskib ettevõte kaotada ekspertteadmised, mida vajatakse keeruliste, ootamatute või inimlikku puudutust nõudvate olukordade käsitluseks. Meyer usub, et nii ettevõtted kui ka haridusasutused peavad põhiteadmiste säilitamisele tähelepanu pöörama – eriti sellistes olukordades, kus AI-le ei saa kindlalt toetuda.
Vastutus kuulub ikka inimestele
Võib-olla kõige tähtsam küsimus, mille Meyer esile toob, on vastutus. Kui AI-süsteemid võtavad endale rohkem vastutust, võivad mõned organisatsioonid olla sunnitud vea korral süüd üle kandma. Meyer on selge: see ei ole sobiv lähenemisviis.
„Vastutus ja selle õiguslik kaaskäija – vastutusvõimekus – on põhimõtteliselt seotud inimestega,“ ütleb ta. „Sa ei saa oma käsi pesta halva tulemuse pärast, öeldes: ‚See oli AI tehtud.‘“
Ta viitab, et paljud ettevõtted proovivad juba seda kahkmatut ala navigeerida. AI-pakkujad lisavad sageli lahtiste märkustega, et nende süsteemid võivad teha vigu, samas kui autotööstus edendab „isejuhtivate“ funktsioonide kasutamist, kuid hoiab siiski inimjuhi vastutuses. Siiski väidab Meyer, et kui süsteemid on tõesti autonoomsed, peab vastutus nihkuma nende loojate ja kasutusele võtjate poole.
See kehtib isegi väiksemates, igapäevastes kasutusvaldkondades. Näiteks ei saa ettevõtted, kes kasutavad AI-d tundliku andmete töötlemiseks, eeldada, et tehnoloogia tagab turvalisuse õigesti. „AI-le ei ole andmeid usaldatud,“ ütleb Meyer. „Andmed on usaldatud ettevõttele.“
