Hoog-risico AI gebruiken: checklist in negen punten

In het kort

• Een AI-systeem is hoog-risico als het valt onder een van de acht domeinen van bijlage III (zoals werving, kredietbeoordeling en onderwijs) of als veiligheidscomponent in een gereguleerd product uit bijlage I.
• De zwaarste plichten liggen bij de aanbieder. Maar artikel 26 legt ook de gebruiker negen concrete verplichtingen op, van menselijk toezicht tot het bewaren van logbestanden.
• Wie een systeem onder eigen naam aanbiedt of het doel wezenlijk verandert, wordt zelf aanbieder en krijgt alle bijbehorende plichten.

Wanneer AI hoog-risico is

De AI Act kent twee routes naar de klasse hoog-risico. De eerste (artikel 6, lid 1, bijlage I) betreft AI die als veiligheidscomponent zit in producten die al onder Europese productwetgeving vallen: machines, medische hulpmiddelen, liften, speelgoed, voertuigen. De tweede (artikel 6, lid 2, bijlage III) betreft toepassingen in acht domeinen, ongeacht het product:

1. 01Biometrie: identificatie op afstand, categorisering, emotieherkenning.
2. 02Kritieke infrastructuur: energie, water, verkeer, digitale infrastructuur.
3. 03Onderwijs: toelating, beoordeling, toezicht bij examens.
4. 04Werk en HR: werving, selectie, promotie, ontslag, taakverdeling, monitoring.
5. 05Essentiële diensten: uitkeringen, kredietbeoordeling, levens- en zorgverzekeringen, nooddiensten.
6. 06Rechtshandhaving: risicobeoordeling, bewijsanalyse, profilering.
7. 07Migratie en grenzen: asiel, visa, grenscontrole.
8. 08Rechtspraak en democratie: ondersteuning van rechters, beïnvloeding van verkiezingen.

Voor het mkb zijn vooral de domeinen werk en HR, essentiële diensten en onderwijs relevant. Een uitzondering (artikel 6, lid 3): een systeem in deze domeinen is niet hoog-risico als het geen significant risico vormt voor gezondheid, veiligheid of grondrechten, bijvoorbeeld omdat het alleen een smalle procedurele taak uitvoert of menselijk werk voorbereidt zonder de uitkomst te bepalen. Wie zich hierop beroept, moet die beoordeling documenteren.

Aanbieder of gebruiker

De aanbieder van een hoog-risicosysteem regelt risicobeheer, datakwaliteit, technische documentatie, logging, transparantie naar gebruikers, menselijk toezicht, nauwkeurigheid en cyberbeveiliging, en doorloopt een conformiteitsbeoordeling voordat het systeem op de markt komt (artikelen 9 tot en met 17). Dat is niet uw werk als u een systeem inkoopt.

Wat wel uw werk is, staat in artikel 26. De gedachte erachter: de aanbieder weet hoe het systeem werkt, u weet hoe het in uw organisatie wordt gebruikt en wie erdoor wordt geraakt. De verplichtingen hieronder volgen die logica.

De checklist: negen punten

1. 01Gebruik volgens de gebruiksinstructies. Neem technische en organisatorische maatregelen om het systeem te gebruiken zoals de aanbieder voorschrijft. Leg vast waar u van de instructies afwijkt en waarom niet.
2. 02Wijs menselijk toezicht toe. Aan mensen met de nodige bekwaamheid, opleiding, bevoegdheid en ondersteuning. Dit is waar AI-geletterdheid een harde eis wordt.
3. 03Zorg voor relevante en representatieve inputdata. Voor zover u controle heeft over de gegevens die het systeem ingaan, moeten die passen bij het beoogde doel.
4. 04Monitor de werking en meld problemen. Volg het systeem op basis van de gebruiksinstructies. Bij een risico of ernstig incident informeert u de aanbieder of distributeur en de toezichthouder, en staakt u het gebruik.
5. 05Bewaar de logbestanden. De logs die het systeem automatisch genereert en die onder uw controle staan, bewaart u minimaal zes maanden, tenzij andere wetgeving een langere termijn vraagt.
6. 06Informeer medewerkers en hun vertegenwoordigers. Vóór u een hoog-risicosysteem op de werkvloer inzet, laat u werknemers en de ondernemingsraad weten dat en waarvoor het wordt gebruikt.
7. 07Informeer betrokkenen. Neemt het systeem beslissingen over mensen of helpt het daarbij, dan laat u die mensen weten dat een hoog-risicosysteem is gebruikt. Zij hebben recht op een uitleg van de rol van het systeem in het besluit (artikel 86).
8. 08Gebruik de informatie van de aanbieder voor uw DPIA. Verwerkt het systeem persoonsgegevens, dan is meestal ook een gegevensbeschermingseffectbeoordeling onder de AVG nodig. De documentatie van de aanbieder is daarvoor de basis.
9. 09Doe een grondrechteneffectbeoordeling als dat voor u geldt. Artikel 27 verplicht een FRIA voor overheidsorganen, organisaties die publieke diensten leveren, en private partijen die AI inzetten voor kredietbeoordeling of levens- en zorgverzekeringen.

Wanneer u zelf aanbieder wordt

Artikel 25 noemt drie situaties waarin een gebruiker de aanbiedersverplichtingen overneemt: u brengt een bestaand hoog-risicosysteem onder eigen naam of merk op de markt; u brengt een substantiële wijziging aan waardoor het systeem hoog-risico blijft; of u verandert het beoogde doel zodanig dat een systeem dat dat eerst niet was, hoog-risico wordt.

Dat laatste gebeurt sneller dan gedacht. Een algemene chatbot die u traint om sollicitanten te beoordelen, verandert van doel. Een planningsassistent die u inzet om medewerkers te beoordelen, ook. Bespreek zulke uitbreidingen met uw leverancier en leg de afspraken vast in het contract.

Vanaf wanneer

Door de Digital Omnibus (Verordening (EU) 2026/1744, van kracht sinds 27 juli 2026) gelden de verplichtingen voor bijlage III-systemen vanaf 2 december 2027 en voor bijlage I-systemen vanaf 2 augustus 2028. In de oorspronkelijke tekst waren dat 2 augustus 2026 en 2 augustus 2027.

Ons advies. Wacht niet tot december 2027. De negen punten hierboven zijn ook zonder wettelijke plicht de minimale zorgvuldigheid die u van een systeem mag verwachten dat over mensen beslist. Wie ze nu invoert, heeft straks geen inhaalslag.

Veelgestelde vragen

Verder lezen