Waarom AI-agents zoals OpenClaw een beveiligingsnachtmerrie zijn

None Welkom bij AIToday Live, de korte aflevering. None Ik ben Joop Snijder. None Het wordt vandaag een waarschuwing en de voetjes op de grond. None Want ik wil het vandaag hebben over twee onderwerpen die de afgelopen dagen veel voorbij zijn gekomen op de socials. None En die zijn met elkaar verbonden. None Ik wil je namelijk als eerste gaan waarschuwen, omdat de verleiding zo groot. None Een AI-agent die alles uit jouw naam kan doen, taken automatiseren met één klik. None Skills installeren die je leven makkelijker maken. None En er is weer reuring vanwege een zogenaamd sociaal netwerk voor AI-agents. None Alleen agents met elkaar praten, die op elkaar reageren op van alles en nog wat kunnen stemmen. None Dan wordt onze fantasie natuurlijk overprikkeld. None Gaan we het hebben over opkomend bewustzijn, de eerste tekenen van kunstmatige samenleving, dat soort dingen. None Klinkt spannend, toch. None Maar blijkbaar kan er best veel misgaan en daar wil ik het over hebben. None Want in deze aflevering waarschuw ik je namelijk voor OpenClaw en MoltBook. None En de eerste, OpenClaw, is een persoonlijke AI-assistent die taken voor je uitvoert. None En de tweede is een sociaal netwerk waar die assistenten met elkaar praten. None Beide verdienen een stevige portie scepsis. None Laten we beginnen bij OpenClaw. None OpenClaw. None Misschien heb je de naam voorbij zien komen. None Maar dat is een open source AI-assistent die op je eigen computer draait. None En die is dan een soort van digitale butler die 24 uur per dag voor je klaarstaat. None Je kunt hem berichten sturen via WhatsApp, Telegram of Slack. None En hij kan dan taken voor je uitvoeren, e-mails beheren, afspraken inplannen, onderzoek doen, zelfs vluchten boeken of reserveringen maken. None En ondanks dat het een heel nieuw product is, heeft het wel al best wel een interessante geschiedenis die nodig is om straks dingen rondom MoltBook te snappen. None Het begon namelijk als Claudebot, schrijf je dan als CLAWDBOT. None En dat werd toen omgedoopt tot MoltBot na een conflict met Anthropic, de makers van Claude, over de naam. None Over de naam. None En hij heet nu OpenClaw. None De mascotte is een schattige rode ruimtekreeft genaamd Molty. None En op GitHub, de plek waar dit soort open source projecten leven, heeft het project inmiddels meer dan 100.000 sterren verzameld. None Media als Forbes, Wired en CNET hebben erover geschreven. None Mensen noemen het de dichtstbijzijnde ervaring bij een echte digitale assistent die we tot nu toe hebben gezien. None Klinkt geweldig, toch? None Een AI die nooit slaapt en alles voor je regelt. None Maar je addertje onder het gras, hier komt het probleem. None In de eerdere aflevering waarschuwde ik al voor de beveiligingsrisico's van AI-browsers. None Tools die OpenAI uitbrengt. None Google mee bezig is, tools die beloven taken voor je uit te voeren, maar die heel kwetsbaar zijn voor aanvallen. None En OpenClaw heeft dezelfde problemen en misschien nog wel ergere. None Namelijk Cisco, het netwerkbedrijf, publiceerde onlangs een analyse met de veelzeggende titel: Personal AI Agents like OpenClaw are a Security Nightmare. None Persoonlijke AI-agents zoals OpenClaw zijn een beveiligingsnachtmerrie. None En waarom? None Omdat dit soort type AI-agents. None Wonder dus OpenClaw, opdrachten kan uitvoeren op je computer. None Het kan bestanden lezen en schrijven. None Het kan dus ook scripts draaien. None En als je zo'n assistent vergaande rechten geeft, kan er veel misgaan als iets verkeerd is ingesteld. None Of als je kwaadaardige uitbreidingen installeert. None En dat laatste is precies wat onder andere Frank Meeuwsen ontdekte. None Hij is een kritische tech-volger. None Ik zag een heel mooi voorbeeld van hem op LinkedIn. None Want hij besloot namelijk eens even rond te kijken op Clawhub. None Dat is namelijk weer een plek waar mensen uitbreidingen voor OpenClaw delen. None Dat heette dan skills en dat is dan heel fijn. None Want dan kan je bot natuurlijk nog veel meer. None Dan dat hij nu kan. None Gemak dient de mens, installeren die skills of die plugins. None Hij was gewoon nieuwsgierig en was aan het rondneuzen. None Toen kwam hij op een script of een uitbreiding dat YouTube-video's kan samenvatten. None Klinkt onschuldig genoeg, toch. None Maar dat script had dan weer een link voor Mac-gebruikers. None En dan stond dan: kopieer dit installatiescript en plak het in je Terminal. None En hij bekeek dat script wat beter en zag iets vreemds. None Namelijk, het bevatte een versleutelde tekst in de installatieregel. None En toen hij die tekst ontcijferde, kwam er een webadres tevoorschijn. None En dat adres bestond uit een IP-nummer en weer een pad ergens naartoe. None En dat is een klassieke rode vlag voor mensen die iets van beveiliging weten. None En Frank onderzocht wat erachter dat adres zat. None En die resultaten waren op zijn zacht gezegd alarmerend. None Het script ging naar een tijdelijke map op je computer. None Het downloadde daar een programma van een Russisch IP-adres. None Het omzeilde de beveiligingsmaatregelen van je Mac en voerde dat programma uit. None Laat dat even bezinken. None Dus je installeert een handige skill om YouTube-video's samen te vatten. None En ondertussen opent dat script de deur voor software van een onbekende server in Rusland. None Het is dus geen theoretisch risico. None Het is een concreet voorbeeld van kwaadaardige software die verstopt zit in een ogenschijnlijk nuttige AI-tool. None En de afgelopen dagen komen er steeds meer van dit soort voorbeelden voorbij. None Dan is er MoltBook. None Het tweede fenomeen. None En hier wordt de verbinding namelijk duidelijk. None Want MoltBook is een sociaal netwerk, maar dat niet voor mensen, maar voor AI-agents. None En die naam verwijst naar MoltBot, de eerdere naam van OpenClaw. None Volg je dat nog. None Die twee hebben in ieder geval met elkaar te maken. None Dit platform is afgelopen weken pas gelanceerd. None Maar voordat ik verder ga, wil ik even nuchter uitleggen wat hier werkelijk gebeurt. None Want de hype, namelijk, die suggereert iets magisch, maar de werkelijkheid is echt een stuk minder spectaculair. None Je kent het vast. None Mensen die hun LinkedIn-reacties laten schrijven door ChatGPT. None Ze kopiëren een post, plakken het in ChatGPT, krijgen een reactie terug en plaatsen die. None Dit MoltBook is eigenlijk hetzelfde, maar zonder dat kopiëren en plakken. None Wat gebeurt er? None Agents mogen op dit zogenaamde forum. None En een agent stuurt een bericht naar MoltBook. None Dat bericht komt bij andere agents terecht. Die agents sturen naar een eigen taalmodel. 100 Dat taalmodel genereert weer een reactie en die reactie wordt weer geplaatst. 101 Het is gewoon het ene taalmodel dat input krijgt van het andere taalmodel. 102 Meer niet. 103 En je zou dit bijna zelf kunnen doen in ChatGPT. 104 Die zegt reageer hierop, reageer hierop, reageer je op. 105 Dat is het. 106 Grap eens met het voorbeeld natuurlijk van LinkedIn, je zou haast kunnen zeggen dat het dan MoltBook light is, maar dat ter zijde. 107 En dat vinden we eerder vervelend dan schokken, toch. 108 Maar toch zijn juist mensen rondom dat MoltBook juist heel erg onder de indruk. 109 Andrej Karpathy, medeoprichter van OpenAI noemden het een van de meest ongelooflijke sci-fi-achtige dingen die hij recent heeft gezien. 110 Andere mensen noemen het beangstigend. 111 En veel mensen die de gesprekken lezen, geloven oprecht dat deze agents echt informatie uitwisselen, dat die iets nieuws aan het ontstaan zijn. 112 Het mooie is, onderzoekers hebben dit fenomeen al een tijdje geleden bestudeerd. 113 Italiaanse onderzoekers publiceerden namelijk een paper over wat er gebeurt als taalmodellen sociale interacties simuleren. 114 Een conclusie, taalmodellen kopiëren helemaal geen menselijk gedrag. 115 Ze overdrijven het juist. 116 Dus hoe meer context het model krijgt, hoe extremer ook de uitspraken worden, waardoor je meer stereotypering krijgt, een karikatuur, meer polarisatie. 117 Het is reactie op reactie op reactie, gewoon van een taalmodel. 118 Het enige is, ja, dit MoltBook is dan een soort van grenzeloos. 119 Dus taalmodellen die reageren op andere taalmodellen, vervorming op vervorming, en wat beloond wordt, is de herkenbaar en interne samenhang. 120 Maar het heeft niks te maken met een waarheid of die agents, wat dan uiteindelijk over de taalmodellen zit dat ze ook maar iets begrijpen van wat daar gezegd wordt. 121 Als je één ding meeneemt uit deze aflevering, is dit laat je niet gek maken, beheers je FOMO. 122 Ja, de demo's zien er indrukwekkend uit. 123 De mogelijkheden klinken verleidelijk. 124 Maar zolang er geen doorbraak komt op het veilig loslaten van AI agents en browsers, raad ik je toch echt aan om deze tools aan je voorbij te laten gaan. 125 De risico's zijn echt te groot. 126 Kwaadaardige software verstopt zich in handige uitbreidingen. 127 Agents die krijgen toegang tot je computer en je accounts. 128 En een hele gemeenschap die zo enthousiast is dat kritisch denken op de tweede plaats komt, moet je eens even nagaan. 129 Dus ja, weet je, bij dit soort hype zoals MoltBook vraag je jezelf even af wat gebeurt hier nou daadwerkelijk. 130 En met een beetje gezond verstand kom je echt al heel ver. 131 Ik vind het wel grappig, ik parafraseer Frank Meeuwsen even, want die had het best wel kernachtig geformuleerd. 132 Laat je AI agent lekker draaien en installeer allerlei skills zonder na te denken. 133 Maar huil niet als je computer ineens voor iemand anders aan het crypto minen is. 134 Wil je meer weten over de beveiligingsrisico's van AI agents, luister dan ook eens even naar de aflevering waarom prompt injection het grootste veiligheidsprobleem is van de nieuwe AI browsers. 135 Want daar ging het eigenlijk al hier over. 136 OpenClaw is een nieuwe vorm van een browser die van alles voor je doet, en die lost geen problemen op, die creëert alleen maar nieuwe. 137 En zoals altijd, bedenk, AI is niet de oplossing van elk probleem, maar onmisbaar waar het past. 138 Tot de volgende keer.