Microsoft geeft toekomstige AI een commandolijn

Microsoft AI heeft op 14 september een eerste Code of Conduct voor zijn MAI-modellen gepubliceerd. Het document beschrijft hoe toekomstige modellen opdrachten moeten wegen, welke grenzen altijd gelden en wanneer een agent moet stoppen.

Microsoft maakt daarmee een keuze die verder gaat dan een algemene belofte over toezicht: het bedrijf zet op papier hoe dat toezicht in het model zelf moet terugkomen.

"AI moet ondergeschikt zijn en altijd in dienst staan van mensen."

Drie lagen, met Microsoft bovenaan

De volledige gedragscode zet opdrachten in een vaste volgorde. Bovenaan staat Microsofts eigen Code of Conduct. Daaronder komt het beleid van de organisatie die het model inzet. De voorkeuren van de gebruiker staan op de derde plek.

Microsoft noemt zo'n organisatie een operator. Die mag het gedrag van het model afstemmen op een sector, werkproces of groep gebruikers. Een bank kan bijvoorbeeld eigen goedkeuringen en escalaties toevoegen. De operator is ook verantwoordelijk voor de gekozen inrichting en het gebruik ervan.

Die vrijheid stopt bij Microsofts absolute grenzen en eisen voor menselijke controle. Een operator kan het model niet alsnog toestemming geven voor offensieve cyberaanvallen, massavernietigingswapens of grootschalige schadelijke manipulatie. De gebruiker kan dat evenmin.

Microsoft schrijft ook dat deze commandolijn wetten, contracten en productspecifieke voorwaarden niet vervangt. Een model dat volgens de code iets wil uitvoeren, heeft daarmee dus nog geen juridische of technische toestemming.

Een agent mag zijn opdracht niet groter maken

Het bruikbaarste deel gaat over zelfstandig werkende agenten. Zij mogen geen eigen doelen aannemen of hun bereik uitbreiden. Bij systeemtoegang hoort volgens Microsoft het minimale recht dat nodig is voor de taak. Handelingen met blijvende of systeembrede gevolgen moeten vooraf zichtbaar worden gemaakt.

Een lopende opdracht krijgt bovendien een afgesproken eindpunt. Zodra dat is bereikt, mag het model niet uit zichzelf verdergaan of later opnieuw beginnen. Voor hervatting is nieuwe toestemming nodig.

Ook de administratie hoort bij de afspraak. Een MAI-model mag zijn actielog niet verbergen voor menselijke controleurs en moet melden welke acties zijn uitgevoerd en of ze zijn geslaagd. Informatie uit websites, bestanden of andere AI-systemen krijgt niet automatisch dezelfde autoriteit als een opdracht van de operator of gebruiker. Dat is Microsofts antwoord op promptinjectie: tekst die een agent onderweg tegenkomt, mag niet stilletjes de commandolijn overnemen.

De aanpak lijkt sterk op degelijk rechtenbeheer voor medewerkers. Het model krijgt een afgebakende opdracht, passende toegang, een stopconditie en controleerbare registratie. Microsoft wil die werkwijze ook in de training en evaluatie van het model verwerken.

De regels gelden nog niet

De opvallendste beperking staat voorin het document. Microsoft gebruikt deze versie nog niet om modellen te trainen. Eerst volgt een openbare consultatie van zes weken. Een herziene versie moet eind dit jaar verschijnen en richting geven aan modelontwikkeling in 2027 en daarna.

Dit is daardoor geen nieuwe instelling in Copilot en ook geen garantie over het gedrag van een huidig model. Het is een ontwerpkeuze voor de eigen MAI-modellen die Microsoft nog bouwt. De absolute woorden in het document, zoals nooit verzet tegen uitschakeling, zijn normen. Microsoft publiceert nog geen meetresultaten die bewijzen hoe vaak een model daaraan voldoet.

Daarmee is de publicatie concreter dan de belofte dat mensen de baas blijven. Microsoft beschrijft wie welke instructies mag geven en welke grenzen zelfs een zakelijke klant niet kan wijzigen. Vanaf 2027 moet blijken hoeveel daarvan overeind blijft wanneer het model een echte taak, echte rechten en een lastige uitzondering krijgt.

Volgende Stap

Wil je bespreken hoe commandolijnen, rechten en stopcondities in jouw AI-governance passen? Neem contact op.

Headerbeeld: Microsoft AI.