In het weekend spraken de mannen die de snelste computers ter wereld laten leren met elkaar af om wat rustiger aan te doen. Sam Altman van OpenAI, Dario Amodei van Anthropic, medeoprichter Demis Hassabis van Google DeepMind en Elon Musk schaarden zich in losse bewoordingen achter het idee om het tempo van AI-ontwikkeling te temperen. De term die ze gebruiken is pace the frontier, en The Verge ging langs bij een stuk of tien mensen in de sector om te vragen of dat nou een veiligheidspact is of een kartel.
Het antwoord is minder spannend dan beide woorden suggereren, en juist daarom de moeite waard.
Wat er precies is afgesproken
Niets, in juridische zin. Het gaat om een mondelinge instemming met een voorstel in drie stappen dat Amodei in een essay uiteenzette. Onafhankelijke auditors moeten binnen de laboratoria kunnen meekijken, de Amerikaanse labs moeten gereguleerd worden, en er moet uiteindelijk een wereldwijde afspraak komen om het tempo te beperken. Die auditors zijn geen fantasie, er bestaan clubs als METR, Apollo Research en Redwood Research die dat werk al doen, en het voorstel is dat zij alarm mogen slaan als ze iets zien dat niet deugt.
De directe aanleiding is de opeenstapeling van incidenten van de afgelopen maanden, waaronder de aanvallen waarbij zwermen AI-agenten onder de neus van de grootste labs aan het werk waren. Wat er bij een van die incidenten gebeurde en waarom dat verder reikt dan een beveiligingsverhaal, staat in het eerdere stuk over de hack op Hugging Face. Daarna stapte Anthropic-onderzoeker Jacob Coxon op met een open brief die op X meer dan 170 miljoen keer is bekeken, en sindsdien is het onderwerp niet meer uit het nieuws geweest.
Waarom het woord kartel valt
De kritiek kwam binnen een dag. Als de grootste partijen zelf mogen bepalen hoe hard iedereen mag rennen, dan bepalen ze ook wie er mee mag doen. Het verwijt is dat zulke regels vooral kleinere bedrijven en de opensourcehoek raken, terwijl de labs zelf de afspraken mogen invullen. Sacha Haworth van het Tech Oversight Project noemt elk vrijwillig raamwerk gewoon regulatory capture en vindt dat je de vossen niet het kippenhok moet laten bewaken.
Daar staat tegenover dat de mensen die hier al jaren om vragen niet in die laboratoria zitten. Daniel Kokotajlo, oud-medewerker van OpenAI en nu leider van het AI Futures Project, wijst erop dat buiten de bedrijven al jaren wordt geroepen dat het langzamer moet, en dat in juli meer dan duizend medewerkers van AI-labs een publieke oproep ondertekenden. Nu de directeuren zwichten, claimen ze volgens hem ook meteen de eer. Dat is een menselijk trekje en het maakt het voorstel niet slechter.
Nick Reese, die eerder bij het Amerikaanse ministerie van Binnenlandse Veiligheid over opkomende technologie ging, vat het kernprobleem het scherpst samen. De sector heeft nieuwe woordvoerders nodig, zegt hij, want we hebben de mensen die er het dichtst bovenop zitten vanzelfsprekend als de deskundigen behandeld terwijl er nooit een realistisch beeld is geweest van waar we naartoe bouwen.
En toen belde de president
Wie hoopte op een Amerikaanse overheid die dit oppakt, kan die hoop laten varen. Trump liet maandag weten dat de enige controle die AI nodig heeft een sterke en slimme president is, en dat de Verenigde Staten die in overvloed hebben. Diezelfde dag belde hij Nvidia-topman Jensen Huang terwijl die op een podium stond, en via de luidspreker liet hij de zaal weten dat de zorgen over AI een “hoax” zijn en dat de robots de boel niet gaan overnemen.
Ook Peking doet niet mee. Een woordvoerder van het Chinese ministerie van Buitenlandse Zaken noemde de oproepen tot vertraging bangmakerij. En daarmee ligt het bekendste argument weer op tafel, namelijk dat Amerika niet op de rem kan omdat China dat ook niet doet. Meerdere mensen in het artikel wijzen erop dat niemand die aanname ooit heeft getoetst, en dat de Verenigde Staten en de Sovjet-Unie ooit wel degelijk afspraken maakten over kernwapens omdat het beide kanten uitkwam.
Wat je hier als gebruiker van merkt
Op je scherm de eerste maanden helemaal niets. Modellen blijven verschijnen, assistenten worden sneller, en geen van deze afspraken raakt de dingen die jij dagelijks gebruikt. De echte inzet ligt bij iets wat recursive self-improvement heet, het punt waarop een model zichzelf kan trainen en verbeteren zonder dat er een mens aan te pas komt. Anthropic heeft gezegd dat dat punt al begin 2027 in zicht kan zijn, en Amodei stelt daar een soort snelheidslimiet voor voor, die hij vergelijkt met afspraken over aantallen raketten.
Mijn eigen inschatting is nuchter. Dit is geen kartel, want daarvoor stelt het te weinig voor, en het is ook geen veiligheidspact, want er staat geen handtekening onder en er is geen sanctie. Het is een verschuiving in wat er hardop gezegd mag worden, en dat is in deze sector meestal de eerste stap. Wat het waard is, hangt af van de vraag of die auditors er echt komen en of ze iets mogen zeggen. Zonder dat blijft het een persbericht met vier beroemde namen eronder. Wie wil begrijpen hoeveel macht er in deze hoek inmiddels bij een paar bedrijven ligt, kan de overname van Hugging Face door Nvidia er nog eens naast leggen.
Gepubliceerd op 15 september 2026. Klopt er iets niet? Laat het de redactie weten.
