LoveGPT: AI-ühenduse tõus ja selle ohtlikkus Kas teadsite, et tehnoloogia areng on viinud meid selleni, kus kunstlik intelligentsus (AI) ei ole enam lihtsalt tööriist, vaid võib saada ka meie usaldusväärseks nõuandjaks? LoveGPT on uus trend, mis on juba pälvinud paljude inimeste tähelepanu – see on AI-süsteem, mis pakub kasutajatele isikupärastatud emotsionaalset tuge ja toetust. Kuid kas see on tõesti nii ohutu ja eetiline, kui esmapilgul paistab?

Valentinipäev on ukse ees, ja seetõttu tasub esitada ebamugav küsimus: mis juhtub siis, kui tunne, et sind „nähtakse ja kuuldakse“, ei tulene mitte partnerist, vaid masinast? Eriliste isiksustega ning rõõmsameelse tooniga loodud tehisintellekti (AI) kaaslaste vestlusrobotid võivad ähmastada emotsionaalseid piire ja soodustada romantilist kiindumust. Kuigi see võib tunduda süüdimatu, tekitab see muret nii üksikisikute kui ka organisatsioonide jaoks, kes püüavad ennetada emotsionaalset sõltuvust, manipulatsiooni ja andmete lekkimist.

Kuna paljude jaoks on üksildus igapäevane reaalsus, on viimastel aastatel kaaslaste AI-vestlusroboteid kasutatud üha rohkem.

„Erinevalt üldotstarbelistest vestlusrobotitest pakuvad AI-kaaslaste rakendused nagu Replika ja Character.AI veelgi enam – nad pakuvad kohandatud tegelasi, alates sõpradest ja romantilistest partneritest kuni fantaasia-personaažideni –, mis on loodud tundma justkui inimesed,“ kommenteerib Anna Collard, KnowBe4 Africa sisustrateegia asepresident ja CISO-nõunik.

AI-kaaslaste rakenduste sektoris on kasv olnud kiire: ainuüksi 2025. aasta esimesel poolel registreeriti 60 miljonit uut allalaadimist, mis on 88% aastakasv.

Turul on nüüd 337 tulu teenivat rakendust üle maailma, millest enam kui kolmandik käivitati ainult eelmisel aastal.

ELIZA-efekti ohud

Collard märkab, et paljud kasutajad lasevad end petta, uskudes, et nad saavad masinaga intiimseid vestlusi julgelt jagada – nn ELIZA-efekt.

Selline psühholoogiline side loob olulise turvariski. Kui kasutajad näevad AI-d „sõbrana“ või „partnerina“, on nad tunduvalt suurema tõenäosusega valmis jagama tundlikku teavet – alates isiklikest nurinadest ja terviseprobleemidest kuni ettevõtte proprieetiliste andmeteni.

Organisatsioonilises kontekstis on see selge näide sellest, kuidas emotsionaalsed päästikud võivad ületada traditsioonilise turvateadlikkuse piirid.

Andmete lekkimise riskid

Organisatsioonide jaoks on kõige otsesem oht tundliku teabe lekkimine. Kuna need botid arendatakse sageli väikeste, niši-alaste idufirmade poolt, mille andmekaitsestandardid on kahtlased, ei ole botiga jagatud teave harva privaatne. Värske näide on AI Toy, mis avaldas 50 000 lastega peetud vestluste logisid. Sõna otseses mõttes iga Gmail-kontoga varustatud kasutaja sai neid laste privaatseid vestlusi vaadata.

Nende rakenduste privaatsuspoliitikad on sageli läbipaistmatud. Mõnel juhul kasutatakse vestluslogisid mudelite täiendava õpetamiseks või säilitatakse neid ebaturvalistes andmebaasides. „Kindlasti tuleb olla ettevaatlik,“ kommenteerib Collard. „See, mis tundub privaatne ja väheoluline interaktsioon, võib sisaldada tundlikku teavet, strateegiat, finantspingeid, isiklikke stressorite või kontekstuaalseid detaile, mida vastased võivad relvastada.“

Kui andmed on korra lekkinud, võivad need näiteks muutuda ülitäpseteks kalduvusteks personaalselt kohandatud õngitsemis-, väljapressimis- või identiteedi-võltsimisrünnakuteks. „Turvalisuse terminoloogias on see klassikaline näide sellest, kuidas isiklik käitumine ja korporatiivne risk on nüüd lahutamatud.“

Need riskid hõlmavad inimmoderaatoreid, kes uurivad vestlusi õpetamise, kvaliteedikontrolli või ohutuse eesmärgil, samuti kasutajaid, kes võivad kogemata vestlusi avaliku lingi kaudu jagada, nii et igaüks, kel on selle lingi juurde ligipääs, saab seda lugeda. Collard hoiatab: „Oleme juba näinud tehnikasektoris näiteid, kuidas avastatud andmed võivad ootamatult ilmneda.“

Lisaks võivad organisatsioonid olla seaduslikult kohustatud andmeid avaldama, kui rakendus osaleb rikkumises või juriidilises uurimises. Juhatuse liikmel või arendajal võib konfidentsiaalse projekti või keeruka kliendi kohta peetud „väljaelamise“ sessioonide jagamine viia kogemata tundliku organisatsioonilise teabe avaldamiseni.

Poliitikagap

See risk tõstab esile poliitikagapi kaasaegses töökeskkonnas. Kuigi enamik organisatsioone on kehtestanud selged juhised kolleegide vaheliste suhete kohta, on vähesed arvestanud seda, millised on tagajärjed, kui tööseadmetele või korporatiivsete võrkude kaudu pääseb ligi tutvumisbotidele.

Selle riski juhtimine nõuab üleminekut lihtsast teadlikkusest tugevale inimriskide juhtimise (HRM) lähenemisele. See hõlmab selgete kasutuspoliitikate kihistamist tehniliste turvavarjudega – näiteks Shadow AI avastamise tööriistad –, et IT-meeskondadel oleks ülevaade sellest, millised heakskiitu mittesaanud AI-agentid oma andmekeskkonnaga suhtlevad. Piisab mitte ainult paluda töötajatel olla ettevaatlik; organisatsioonidel peavad olema süsteemid, mis suudavad hallata inimemotsioonide ja automatiseeritud interaktsioonide kokkupuudet.

Sotsiaalse insenerluse tulevik

Kas me võime näha häkkerite sihtimist üksildastele inimestele massiliselt toodetud flirtibottidega? Collard usub, et see juba toimub.

„Sotsiaalne insenerluse on alati skaleeritud emotsioonide, kiiruse, hirmu, uudishimu, armastuse ja atraktsiooni ärakasutamisega,“ kommenteerib ta. „AI lihtsalt automatiseerib seda suures mahus. Mind kõige rohkem muretsema paneb mitte tehnoloogia ise, vaid see, kuidas see annab kurja tahtega inimestele võimaluse veenvalt imiteerida inimlikku lähedust, näiteks süstemaatilisi romantikaskameejaid.“

Collardi sõnul on aastate jooksul pettused arenenud „Kallis Sir/Madam“ tüüpi pettustest emotsionaalselt intelligentseks manipulatsiooniks. „Ja probleemiks pole mitte botid ise, vaid petturite tahtlik kasutamine neid,“ ütleb ta.

Ta mainib näiteks ebaseaduslikku LoveGPT-bot'i, mis aitab petturitel öelda õigeid psühholoogiliselt triggerdavaid fraase, et luua oma ohvrites sõltuvust ja aktiveerida emotsioone. „Kõik, mida petturid peavad tegema, on kopeerida ja kleepida või isegi lihtsalt automaatseks muuta vestlused,“ tõdeb ta.

Mida saab teha, et kasutajad ei satuks rünnaku ohvriks? Nagu alati, on kaitse ikkagi inimlik, kinnitab Collard. „Lõppkokkuvõttes ei saa ükski vestlusbot, ükskõik kui tähelepanelik või emotsionaalselt pädev, asendada ehtsat inimlikku sidet,“ rõhutab ta.

Kui vestlusbotiga suhtlemine hakkab tunduma emotsionaalselt asendav, salajane või raske lahkuda, leiab ta, et see on signaal paus teha ja usaldusväärsele inimesele või professionaalile pöörduda. „Tehnoloogia võib olla osa kaasaegsest elust, kuid see tähendab, et peame tugevdama oma digitaalset teadlikkuse oskusi, et õppida mõistma manipulatsiooni või tekitatud sõltuvust. Lõpuks, üksilduse, haavatavuse ja armastuse puhul on kõige turvalisem kaitse ikkagi resoluutselt inimlik,“ lõpetab ta.