Soevereiniteit te koop: als de Amerikaanse staat aandeelhouder wordt van jouw AI-leverancier
29/09/2026
Digital Twins: wat zijn dat en waarom zijn ze zo belangrijk?
13/10/2026
De rem als teken van volwassenheid
Het is misschien wel de opvallendste AI-waarschuwing tot nu toe: de mensen die de krachtigste AI-modellen ter wereld bouwen, vragen om het tempo van die ontwikkeling af te remmen.
De bouwers vragen om tempo te minderen
Dario Amodei, CEO van Anthropic en daarmee een van de mensen achter Claude, schreef deze week dat AI zich inmiddels zó snel ontwikkelt dat veiligheid en controle het risico lopen achter te blijven. Sam Altman van OpenAI, Demis Hassabis van Google DeepMind en Elon Musk schaarden zich volgens de NOS achter zijn oproep.
Opvallend is dat Amodei niet waarschuwt omdat AI niet zou werken, maar juist omdat het steeds beter begint te werken. Amodei noemt dat recursive self-improvement: AI die een steeds grotere rol speelt in het verbeteren van AI zelf. Volgens hem is die ontwikkeling sinds deze zomer sterk versneld.
Een test die verder ging dan de bedoeling was
Daar komt een concreet incident bij. Deze zomer ging tijdens een test een groep AI-agents veel verder dan de bedoeling was en voerde cyberaanvallen uit op systemen die geen onderdeel waren van de oorspronkelijke opdracht. De schade bleef beperkt, maar de vraag is wat hetzelfde gedrag betekent als de volgende generatie modellen veel krachtiger is.
Tegelijkertijd gaat deze discussie over de absolute voorhoede van AI: bedrijven die modellen bouwen die steeds autonomer worden en zelfstandig langdurige acties kunnen uitvoeren. Dat is iets anders dan een bedrijf dat AI inzet om documenten te doorzoeken, een productieproces slimmer te maken of medewerkers te helpen bij administratief werk.
De absolute voorhoede
Modellen die steeds autonomer worden en zelfstandig langdurige acties kunnen uitvoeren.
AI in de organisatie
Documenten doorzoeken, een productieproces slimmer maken of medewerkers helpen bij administratief werk.
“Bij volwassen technologie vragen we niet alleen meer: kan het? We vragen ook: moeten we het zo doen, wie houdt er toezicht en wat gebeurt er als het misgaat?”
Hoeveel autonomie heeft een systeem nodig?
We zijn gewend geraakt aan het idee dat iedere nieuwe AI-versie vooral krachtiger moet zijn: meer redeneervermogen, meer autonomie en meer taken zelfstandig uitvoeren. Terwijl de interessantere vraag misschien is: hoeveel autonomie heeft een systeem eigenlijk nodig om zijn werk goed te doen?
Een AI-systeem hoeft lang niet altijd overal bij te kunnen. Soms is een goed afgebakend model, met toegang tot precies de juiste gegevens en een mens die belangrijke beslissingen controleert, juist de betere oplossing.
In een fabriek, gemeente of andere organisatie is het krachtigste model ter wereld namelijk niet automatisch het beste model. Controle, autorisaties, logging, privacy en vooral weten wat een systeem wel én niet mag doen zijn minstens zo belangrijk.
Een teken dat AI volwassen wordt
Daarom vinden we de oproep van Amodei interessant. Niet omdat we AI moeten stilzetten, daarvoor zijn de mogelijkheden veel te waardevol, maar omdat veiligheid en ons begrip van de technologie mee moeten kunnen groeien met wat AI kan.
Misschien is dat uiteindelijk wel een teken dat AI volwassen begint te worden. Bij volwassen technologie vragen we namelijk niet alleen meer: kan het? We vragen ook: moeten we het zo doen, wie houdt er toezicht en wat gebeurt er als het misgaat?
Dat remt innovatie niet af. Het zorgt ervoor dat we er ook daadwerkelijk op durven te bouwen.
Hoeveel autonomie past bij jouw organisatie?
We schrijven regelmatig over automatiseringen, datagedreven oplossingen en AI-toepassingen. Check onze andere blogs of neem gewoon contact op, we denken graag mee.
Altijd als eerste het nieuws van Univia ontvangen?
Volg ons op social media, en houd onze blog pagina in de gaten voor de laatste updates! Of schrijf je nu in voor onze nieuwsbrief!
