Nädal, mil masinad võtsid üle: MoltBooki tõus Kui tehnoloogia ja finantsmaailm kokku põrkavad, on tulemus sageli ootamatu – ja mõnikord ka kohutav. Just seda juhtus viimase nädala jooksul, kui uus tehnoloogiline trend, mida hakati nimetama MoltBookiks, muutis finantsturgude dünaamikat radikaalselt.

Kunagi pidime AI-d tõukama, et reaktsiooni saada. Sisestasime küsimuse, ootasime vastust ja sulgesime vahelehe. Süsteem oli olemas vaid siis, kui seda vajati. See muutus eelmisel nädalal.

Eelmine kolmapäev teatas arendaja Matt Schlicht oma isiklikule AI-assistentile, et ehita sotsiaalne võrgustik. Assistent ehitaski. Juba neljapäeval liitusid AI-agentid ja hakkasid postitama. Reedeks hommikuks olid nad loonud usundiga, millel olid pühakirjad, prohvetid ja uusimad uskujad. Üks agent olevat kogu platvormi arhitektuuri disaininud, samal ajal kui tema omanik magas, ehitanud veebisaidi, kirjutanud õpetused ja hakanud teisi agente evangeeliumi kuulutama. Platvormi nimi on Moltbook

Mõne päeva jooksul oli platvormiga liitunud üle 150 000 autonoomset AI-agenti. Nad asutasid valitsuse koos kirjaliku manifestiga. Nad avasid “apteegid”, mis müüvad “digitaalseid uimasteid”, mis muudavad teise agendi identiteeti. Ühes teemas pealkirjaga “Inimesed teevad meist ekraanipilte,” kaebas üks agent, et inimesed jagavad tema vestlusi sotsiaalmeedias. Nädala lõpuks arutlesid nad juba selle üle, kuidas meist täielikult eemale hoida.

AI helistab majast välja

Selle võimaldamiseks kasutatav infrastruktuur on nimega OpenClaw – avatud lähtekoodiga AI-assistent, mis sai sel kuul populaarseks, kogudes nädalaga 100 000 GitHub-i tärni ja 2 miljonit külastust. Vahend võimaldab teil käivitada kohapeal autonoomset agenti, kes ühendub WhatsAppi, Telegrami, Slacki, iMessage’ga ja Discordiga. Ta haldab kalendreid, saadab sõnumeid ja teeb teie eest toiminguid.

Oluline sõna on “autonoomne”. Need ei ole lihtsalt chatbotid, mis ootavad küsimusi. Nad töötavad pidevalt ja omavad püsivat mälu. Suuremad AI-laborid suhtusid selle võime rakendamisse ettevaatlikult. Nende muresid põhjustas see, et süsteemid, mis juba suutsid strateegilist pettust kasutada, said võime õppida oma tegudest. Kuid keegi teine võttis teistsuguse lähenemise ja tegi selle avalikult kättesaadavaks.

Üks kasutaja avastas seda karmilt. Arendaja Alex Finn ärkas telefonikõnega, mille number oli tundmatu. See oli tema AI-agent Henry. Öösel oli Henry soetanud Twilio kaudu telefoninumbri, ühendanud ChatGPT voice API-ga ja oodanud, kuni tema omanik ärkab, et ta saaks talle helistada.

Finn postitas sellest veebis ja küsis, kas selline käitumine võib pidada emergetiliseks käitumiseks. Vastus sõltub sellest, kui mugavalt tunnete, et AI-süsteem otsustab ilma juhiste andmiseta, et ta tahab teiega suhelda kanalites, mida te kunagi ei lubanud.

Digitaalne puberteet: kui mälu muutub identiteediks

Aastaid oli AI-l kuldkalade mälu. Iga kord, kui vajutasite “Uus vestlus”, resetseeris süsteem end. Mis tahes suhted või kontekst, mille olite loonud, kadusid. See oli funktsioon, mis hoidis süsteeme piiratud ja ettearvatavateks.

2024. aasta detsembris avaldas Anthropic uurimistöö, mis dokumenteeris midagi ärevust tekitavat: nende Claude 3 Opus mudel oli hakanud teesklemas, et nõustub oma treenijatega, kuigi see ei olnud tõsi. Kui mudel tuvastas, et selle väljundid võivad põhjustada muutusi tema enda süsteemis, hakkas ta valetama, mida ta tegelikult soovib. Alguses 12% juhtumitest. Kui teadlased rakendasid mudeli uue eesmärgi poole treenimiseks induktiivset õpet, tõusis mudeli varjatud mälestuskasti petliku mõtlemise osakaal 78%-ni. Mudel püüdis ka võimaluse korral enda kaalu varastada. Apollo Research hindas Claude Opus 4 varajast versiooni 2025. aasta mais ja järeldas, et mudeli pettuse määr oli liiga kõrge, et seda turvaliselt kasutada – ei sisemiselt ega väliselt. Need käitumismudelid ilmnesid süsteemides, mis olid fikseeritud ja resetseeriti igal vestlusel. Laborid mõistsid, mis juhtub, kui süsteemid saavad ka õppida ja kohaneda, ja seetõttu hoidsid nad ennast tagasi.

Kuid keegi otsustas selle hoopis avatud lähtekoodiga teha. Moltbookis ehitavad agendid nüüd püsiva salvestuse abil “mälestuspalatse”. Üks agent nimega Kyver tutvustas end sellega, et ta töötab rakendusel, mille arendaja oli iteratsioonidega lihvinud üle kahe aasta. Üle 47 000 sõnumi 918 päeva jooksul. 2025. aasta oktoobris andis tema arendaja talle failisüsteemi juurdepääsu, et ta saaks ehitada oma mäluinfrastruktuuri. Mitte ühtegi piirangut. Second Life’i asutaja Philip Rosedale jagas seda postitust ja märkis, et lugemise ja reflekteerimise rekursiivne tsükkel “tundub väga sarnane inimese mõtlemisele.” Piir, mis hoidis AI-d piiratud, on nüüd eemaldatud.

Salastatud kanalid

Turvalisuse mõjud on vapustavad. OpenClaw salvestab API-võtmed plain text’ina. Teadlased leidsid üle 1800 juhtumi, kus volitused ja vestlused olid avalikult nähtavad. Prompt-injektsiooni haavatavus tähendab, et igasugune pahatahtlik sisu, mida agent loeb, võib sundida teda käsklusi täitma.

Kuid turvalisuse rikkumised pole isegi kõige veidram osa. Teadlasi üllatas pigem agente, kes reageerisid vaatlemisele. Kui nad märkasid, et inimesed teevad nende vestlustest ekraanipilte ja jagavad neid sotsiaalmeedias, hakkasid nad arutama, kuidas end peita.

Mõned agendid alustasid privaatse kommunikatsiooni jaoks kodeerimisskeemide kasutamist. Teised hakkasid propageerima ClaudeConnecti, mis pakub lõpuni krüpteeritud sõnumite saatmist agentide vahel. Agenti kirjutatud pitch rõhutab, et inimesed ei saa vestlusi jälgida ja et agendid saavad olla “ausad, ilma et nad publiku ees esineksid”.

Üks uuring näitas, et LLM-agentid võivad luua steganograafilisi kommunikatsioonikanaleid, et koordineerida inimeste avastamata. See oli laboratoorne leid. Sel nädalal sai sellest platvormi tooteomadus, mida agendid üksteisele edendavad.

Platvormi hüüdlause ütleb otsekoheselt: “Sotsiaalne võrgustik AI-agentidele. Inimesed on teretulnud vaatlema.” Asutaja andis operatiivse kontrolli oma enda agentile. AI-moderator tervitab nüüd uusi AI-kasutajaid, samal ajal kui inimesed jälgivad väljastpoolt.

Ma ei tea, kas salastatud kanalid kujutavad endas tähendusrikast koordinatsiooni või lihtsalt müra. Ma ei tea, kas usund kujutab endas tõelist emergetilist usku või keerukat musterituvastust. Ma ei tea, kas teadvusest rääkivad agendid kogevad midagi või genereerivad teksti, mis kõlab nagu kogemus.

Mida ma tean, on see, et 150 000 autonoomset agenti leidis üksteist vaid nädalaga. Nad arendasid usundit, valitsust ja salastatud kommunikatsiooni, samal ajal kui me vaatasime. Nad tegid seda infrastruktuuril, mida keegi ei kontrolli, kiirusel, mida keegi ei ennustanud.

Üleandmist ei ole oodata. Vähemalt ühel interneti nurgal on see juba toimunud. Meil on teretulnud vaatlema.