Inleiding

Je gebruikt al jaren hetzelfde roostersysteem, EPD of klantportaal. Dan meldt de leverancier dat de volgende update “slimme functies” bevat. Of je merkt het pas achteraf. Steeds vaker komt AI een organisatie binnen via een update, zonder dat er een inkoopbeslissing aan voorafging. Daardoor ontbreekt het systeem vaak in het overzicht van AI-toepassingen, terwijl de risico’s wel veranderen.

Waar moet je als organisatie aan denken? Wij zetten de vier belangrijkste vragen op een rij.

---

Verandert het doel van het systeem?

Een systeem dat aanvragen registreert, is iets anders dan een systeem dat beslisvoorstellen doet. Ga na wat de AI-functie precies doet en of de verwerking nog past binnen het doel waarvoor je de gegevens verzamelt (art. 5 lid 1 sub b en art. 6 lid 4 AVG). Let vooral op voorstellen die medewerkers in de praktijk standaard overnemen. Dan kan er feitelijk sprake zijn van een geautomatiseerd besluit, en daarvoor gelden strenge regels (art. 22 AVG).

---

Wat gebeurt er met je gegevens?

• Wordt jouw data gebruikt om het model te trainen? Dan bepaalt de leverancier zelf het doel van die verwerking. Hij wordt daarvoor verwerkingsverantwoordelijke (art. 28 lid 10 AVG) en heeft een eigen grondslag nodig. Jij moet op jouw beurt kunnen verantwoorden dat je die gegevens aan je leverancier verstrekt.
• Welk model zit erachter? AI-functies draaien vaak op een model van een derde partij. Dat is een nieuwe subverwerker, waarvoor vooraf jouw toestemming nodig is (art. 28 lid 2 AVG). Staat dat model buiten de EER, dan gelden de regels voor doorgifte (hoofdstuk V AVG).
• Wat gebeurt er met prompts, uitkomsten en logs? Wie bewaart ze, hoe lang en waarvoor?

Controleer daarna of je DPIA nog klopt (art. 35 lid 11 AVG) en of je privacyverklaring betrokkenen goed informeert (art. 13 en 14 AVG).

---

Welke regels uit de AI-verordening gelden?

De AI-verordening werkt met risicocategorieën. De meeste AI-functies in bestaande software zijn geen hoog-risico. Daarvoor gelden vooral transparantieregels, zoals de plicht om duidelijk te maken dat iemand met AI te maken heeft (art. 50). Die gelden sinds 2 augustus 2026.

Valt de functie wel in een hoog-risicocategorie, bijvoorbeeld bij werving, toegang tot zorg of essentiële diensten, dan wordt het zwaarder. De leverancier is de aanbieder, maar jij hebt als gebruiksverantwoordelijke eigen verplichtingen (art. 26). Denk aan gebruik volgens de instructies, menselijk toezicht, monitoring en het informeren van medewerkers. Voor de meeste hoog-risicosystemen gelden die verplichtingen vanaf 2 december 2027, voor AI in gereguleerde producten zoals medische hulpmiddelen vanaf 2 augustus 2028. Dat lijkt ver weg, maar contracten die je nu sluit of verlengt, lopen dan vaak nog.

---

Heb je het vastgesteld?

Een addendum bij je verwerkersovereenkomst helpt. Denk aan:

• nieuwe AI-functies pas na jouw akkoord, met een meldplicht vooraf;
• geen training op jouw data;
• de mogelijkheid om de functie uit te zetten;
• een actuele lijst van subverwerkers en de locatie van de data;
• bewaartermijnen voor prompts, uitkomsten en logs;
• een exitmogelijkheid als uitzetten niet kan.

---

Leveranciersmanagement is een van de tien thema’s in het AI Volwassenheidsmodel van Privacy1. Benieuwd hoe jouw organisatie ervoor staat, van inzicht in AI-gebruik tot transparantie richting betrokkenen? Plan vrijblijvend een gesprek via hallo@privacy1.nl.

Wil je dat de sleutelfiguren in jouw organisatie dit zelf leren herkennen en aanpakken? Bekijk dan onze AIPV-training.

---

Geschreven door Dirk Walgien

30 oktober 2026