Artificiële intelligentie: hoe zit het met wetgeving?

Als je met AI aan de slag wilt, moet je volgens de Nederlandse AI-verordening, die in april 2021 voor het eerst is opgetekend, aan vier voorwaarden voldoen:

1. Minimaliseer de bias (vertekening door systematische fouten): bouw in je AI verantwoordelijkheid in om ervoor te zorgen dat de algoritmen (en onderliggende data) zo onbevooroordeeld en representatief mogelijk zijn.
2. Zorg voor transparantie van AI: om vertrouwen op te bouwen bij medewerkers en klanten, ontwikkel je verklaarbare AI die transparant is voor alle processen en functies.
3. Bescherm de privacy en beveiliging van de gebruikte gegevens: gebruik een privacy- en security-first-benadering om ervoor te zorgen dat persoonlijke en/of gevoelige gegevens nooit onethisch worden gebruikt.
4. Houd algoritmen ethisch: door een ethische onderbouwing voor AI te creëren, kun je risico's beperken en systemen opzetten waar jouw aandeelhouders, medewerkers en de maatschappij als geheel baat bij hebben.

De aankomende regelgeving (de AI-verordening wordt een wet zodra deze verder is uitgewerkt en bekrachtigd) wijst ook in de richting van het verplichtstellen van uitleg over het gebruik van algoritmen binnen de Nederlandse overheid. Een Nederlands nationaal algoritmenregister is al operationeel.

Grote spelers als Microsoft maken eveneens flinke stappen op het terrein van richtlijnen. Lees hier hoe Microsoft denkt over verantwoorde AI.

Regelgeving AI Europese Commissie

Ook onze Europese Commissie werkt al enkele jaren aan wetgeving om de risico's van het werken met AI te beperken (zie de AI Act timeline). Binnen Europa wordt erop aangedrongen de ondoorzichtigheid, complexiteit, bias, een zekere mate van onvoorspelbaarheid en gedeeltelijk autonoom gedrag van bepaalde AI-systemen aan te pakken. Op die manier zijn AI-systemen verenigbaar met de grondrechten en wordt de handhaving van de wettelijke voorschriften makkelijker.

De Europese wetgeving is gericht op risicobeperking voor veiligheid, democratie en mensenrechten bij het gebruik van AI, onderverdeeld in vier categorieën:

1. Onaanvaardbaar risico

Systemen met deze algoritmen zijn verboden:

• Social Scoring algoritmes (bijvoorbeeld het monitoren van persoonlijk gedrag in openbare ruimtes)
• Voorspellen van persoonlijk crimineel of frauduleus gedrag
• Cognitieve gedragsmanipulatie van personen en kwetsbare groepen in het bijzonder, zoals speelgoed dat reageert op een stem en gevaarlijk gedrag uitlokt
• Persoonlijke classificaties op basis van geslacht, seksualiteit, etniciteit of politieke voorkeur
• Gezichtsherkenning in openbare ruimtes

2. Hoog risico

Deze systemen moeten zich houden aan beperkende regels en voorschriften, zoals een beoordeling van de mensenrechten en het elimineren van vooroordelen in de gebruikte gegevens en algoritmen. Dit betekent volledige transparantie in de gebruikte gegevensbronnen en de manier waarop de algoritmen werken. Menselijk toezicht op de systemen is verplicht.

Voorbeelden:

• Besturing van kritieke infrastructuur, zoals wegverkeer en nutsvoorzieningen
• Bepalen van het opleidingsniveau of bijvoorbeeld een zorgverzekeringspremie
• Aanbevelingsalgoritmen met sociale impact
• Geschiktheid van mensen beoordelen, bijvoorbeeld voor een sollicitatie of promotie

IT-inzichten die je niet mag missen

Als eerste op de hoogte zijn van de laatste IT-ontwikkelingen? Schrijf je in voor onze maandelijkse nieuwsbrief.

3. Beperkt risico

Deze systemen moeten transparant zijn. De resultaten mogen zonder menselijk toezicht worden gebruikt:

• Systemen voor Chatbots op commerciële websites

4. Minimaal risico

Er worden geen regels opgelegd aan systemen, zoals:

• Aanbevelingssystemen voor webwinkels
• Aanbevelingen voor het luisteren naar muziek, het kijken naar films et cetera
• Gebruik van AI in de stroom van computerspellen

Generatieve AI-systemen

Generatieve AI-systemen, zoals ChatGPT, vielen buiten de scope van het oorspronkelijke ontwerp van de Europese Commissie (april 2021). Basisregels voor de toepassing van generatieve systemen, werden niet gegeven en vereisen extra aandacht, omdat hun toepassing bijzonder breed is. Hiervoor is onlangs een apart hoofdstuk in de verordening opgenomen.

Het Europees Parlement is akkoord gegaan met het opnemen van regels voor generatieve AI. Aanbieders hiervan dienen mogelijke risico's op het gebied van gezondheid, veiligheid, fundamentele rechten en/of democratie te beoordelen en te beperken. Zo moet duidelijk worden welke datasets zijn gebruikt tijdens de training van het AI-systeem. De gegevens moeten objectief, divers en accuraat zijn en het moet duidelijk zijn dat de uitkomst is gegenereerd door AI.

Generatieve AI zal moeten voldoen aan een aantal transparantievereisten:

• De toepassingen moeten de vermelding bevatten dat de inhoud is gegenereerd door AI.
• Het model moet zodanig worden ontworpen dat er geen illegale inhoud kan worden gegenereerd.
• Er moet een overzicht worden gegeven van auteursrechtelijk beschermde gegevens die voor het trainen van het systeem zijn gebruikt.

IT-inzichten die je niet mag missen

Als eerste op de hoogte zijn van de laatste IT-ontwikkelingen? Schrijf je in voor onze maandelijkse nieuwsbrief.

Balanceren tussen potentieel en risico’s

Ondanks alle aandacht voor AI, is de wereld overvallen door de snelle opkomst van met name generatieve AI. Deze techniek vindt inmiddels brede toepassing, doordat OpenAI zijn ChatGPT-oplossing gratis ter beschikking stelt. Dit geldt ook voor dienstverlening op terreinen als stemgeneratoren, beeldgeneratoren en muziekgeneratoren.

Vragen als wat is waar en wat is fantasie? en is dit echt of niet? zijn nu aan de orde van de dag. Het wordt de uitdaging misbruik van het ongebreidelde enthousiasme van innovatieve organisaties te voorkomen, zonder de meerwaarde van AI te kort te doen.

Een goed voorbeeld van hoe je met onzekerheden en waarschijnlijkheden omgaat, is de toepassing van het op OpenAI gebaseerde Copilot van Microsoft dat nu in Europa zijn intrede doet. Het laatste woord is hierover voorlopig nog niet gezegd.