Transparantieverplichtingen AI Act nu van kracht 

Wat is de AI Act?

De Europese AI Act is de eerste uitgebreide wetgeving ter wereld die specifiek gericht is op kunstmatige intelligentie. De wet wordt gefaseerd ingevoerd. Eén van de eerste onderdelen waar organisaties direct mee te maken krijgen, zijn de transparantieverplichtingen. Deze regels moeten ervoor zorgen dat gebruikers begrijpen wanneer zij te maken hebben met een AI-systeem en wanneer informatie of content met behulp van AI is gemaakt of aangepast.

Voor veel organisaties lijkt dit op het eerste gezicht een beperkte administratieve verplichting. In de praktijk kan de impact echter groter zijn. AI wordt steeds vaker ingezet voor klantenservice, marketing, documentverwerking, softwareontwikkeling en interne ondersteuning. Daardoor raken de nieuwe regels verschillende afdelingen binnen een organisatie.

Wat houden de transparantieverplichtingen in?

Een belangrijk uitgangspunt van de AI Act is dat gebruikers niet misleid mogen worden. Wanneer iemand communiceert met een AI-systeem, moet dit duidelijk kenbaar zijn. Denk bijvoorbeeld aan een chatbot op een website die vragen van klanten beantwoordt. In dat geval moet de gebruiker weten dat hij of zij communiceert met een geautomatiseerd systeem en niet met een medewerker.

Ook voor AI-gegenereerde content gelden verplichtingen. Wanneer afbeeldingen, audio, video of tekst door AI worden gemaakt of substantieel worden aangepast, kan een vorm van herkenbare aanduiding noodzakelijk zijn. Het doel hiervan is om transparantie te bieden en het risico op misleiding te verminderen.

Concreet gelden de transparantieverplichtingen vooral in vier situaties. Ten eerste wanneer mensen rechtstreeks communiceren met een AI-systeem, bijvoorbeeld via een chatbot op de website, een virtuele assistent in een klantportaal of een AI-gestuurde telefonische assistent. Ten tweede wanneer AI wordt gebruikt om content te genereren of wezenlijk te bewerken, zoals afbeeldingen, audio, video of teksten die naar buiten worden gebracht. Ten derde wanneer sprake is van deepfakes of ander beeld-, geluids- of videomateriaal dat echt lijkt, maar kunstmatig is gemaakt of aangepast. Tot slot gelden specifieke verplichtingen bij AI-systemen voor emotieherkenning of biometrische categorisering, bijvoorbeeld wanneer gedrag, gezichtsuitdrukking of stemgeluid wordt geanalyseerd om conclusies te trekken over personen. Ook AI-gegenereerde tekst over onderwerpen van publiek belang kan onder de regels vallen, vooral wanneer deze zonder duidelijke menselijke beoordeling of redactionele controle wordt gepubliceerd.

Wilt u meer informatie over de AI Act? Of bent u benieuwd hoe uw organisatie aan de transparantieverplichtingen kan voldoen? Neem dan contact op met één van onze specialisten via onderstaande button of per e-mail: digitalsolutions@vanoers.nl.