Werk jij met AI? Vanaf 2 augustus gelden deze regels

Vanaf 2 augustus geldt de EU AI Act. Een hele mond vol, maar het komt erop neer dat je aan je klanten duidelijk moet uitleggen wanneer je AI gebruikt, waarvoor je het gebruikt en hoe je ervoor zorgt dat je klanten niet de dupe worden van fouten van AI-systemen.

De vier profielen

De EU AI Act kent vier risicoprofielen: verboden AI, hoog-risico-AI, beperkt-risico-AI en minimaal risico. Onder de eerste categorie vallen systemen die kwetsbare groepen uitbuiten, sociale scores genereren voor overheden of die biometrisch toezichthouden in openbare ruimtes. Vooral overheden hebben hier mee te maken.

Gebruik je AI bij je sollicitatieprocedures, om kredieten te beoordelen, medische diagnoses te stellen, rechtsbeslissingen te verifiëren of in het onderwijs? Dan gelden er heel strenge eisen. Dit is ‘hoog-risico-AI’. Je moet dan documenteren wat je doet, vastleggen hoe je aan risicobeheersing doet, welk menselijk toezicht er plaatsvindt én je moet transparant zijn richting gebruikers.

Beperkt-risico-AI houdt in dat je wel moet vermelden wat je doet, maar dat er geen zware compliance-eisen gelden. Vaak voldoet het zinnetje: ‘De antwoorden van deze chatbot zijn gegenereerd door AI’ of bij AI-gegenereerde content een vermelding dat het met AI gemaakt is.

Is het risico minimaal, dan zijn er geen wettelijke verplichtingen. We hebben het dan over het gebruik van spamfilters, aanbevelingssystemen en productiviteitstools.

De regels voor het gebruik van ChatGPT, Claude en Gemini

Gebruik je ChatGPT, Claude of Gemini voor de teksten op je website, om teksten samen te vatten of analyses te maken? Dan is het risico laag. Je hoeft eigenlijk alleen maar aan te geven dat je AI voor deze doeleinden gebruikt. Gebruik je de output voor beslissingen over mensen, dan moet je wel aan allerlei wettelijke eisen voldoen.

Vermeld dit bij AI-gegenereerde afbeeldingen

Vroeger gebruikten we veel stockfoto’s, nu maakt AI ze bijna gratis. Handig, maar dan moet je wel vermelden dat deze content door kunstmatige intelligentie is gemaakt. Zet in het bijschrift dat dit een AI-gegenereerde afbeelding is of plak er een label op. Dat hoeft overigens alleen als het gaat om een afbeelding van een persoon die voor een echt mens kan worden aangezien, als er publiek belang is of als de kijker redelijkerwijs kan denken dat het een echte foto betreft.

Voor creatief en satirisch werk gelden de regels in mindere mate. In algemene visuals of een creatieve illustratie waarbij duidelijk is dat de inhoud nep is, hoef je geen label te plaatsen.

Hier moet je aan denken als je een AI chatbot op je site gebruikt

Een chatbot op je site die automatisch antwoord geeft op de vragen van je klant, is superhandig. Maar het is ook een risico. Wel een beperkt risico, volgens de Europese Unie. Je AI-bot kan immers fouten maken en verkeerd advies geven. Dat moet je vermelden. En ook moet je duidelijk bij je klant aangeven dat deze niet met een mens spreekt.

Vraag je aan ons wat de beste oplossing is voor je klantenservice, dan kiezen we toch altijd voor menselijk contact. Dat kost misschien meer tijd, geld en moeite, maar dan weet je wel dat je klant ook écht is geholpen en voorkomt gedoe met wetgeving.

AI-scoring in je webshop voor krediet of betalingsgedrag

Bied je diensten (zoals een webshop) aan waarbij AI bepaalt of een klant een betalingsrisico is? Dan gelden zware verplichtingen. Dit is namelijk de categorie die het strengst wordt beoordeeld. Er is een goede reden voor: AI neemt levensbepalende beslissingen over je klant.

Onthoud altijd dat jij degene bent die verantwoordelijk blijft. Dat is voor veel ondernemers een onaangename verrassing. Onder de verantwoordelijkheden valt het volgende:

●     Zorgen voor menselijk toezicht bij beslissingen die mensen raken.

●     Transparant zijn richting klanten, sollicitanten of andere betrokkenen.

●     Meldplichten naleven als er iets misgaat met een hoog-risico systeem.

●     Bijhouden welke systemen je gebruikt en met welk doel.

●     Begrijpen waarvoor je AI gebruikt.

Wat gebeurt er als ik me niet aan de EU AI Act houd?

Volgens juridisch bureau EBH Legal kunnen overtredingen in de hoogste categorie oplopen tot wel 15 miljoen euro of 3 procent van de wereldwijde omzet. Voor verboden AI gaat het zelfs om 35 miljoen euro of 7 procent van de omzet. Dan hebben we het wel over grote bedrijven en overheden.

Voor het mkb en startups geldt dat boetes worden afgestemd op de omzet. Een boete krijgen is nooit leuk en het zorgt voor reputatieschade. Daarom is het beter om het maar gewoon te voorkomen en je aan de wet te houden. Dat zorgt ook weer voor een stukje klantvriendelijkheid.