Balans tussen bescherming en innovatie
De wet bepaalt in welke omstandigheden AI wel of niet gebruikt mag worden. Hiervoor wordt gewerkt met risicocategorieën waaraan een aantal voorwaarden gekoppeld worden. De mate waarin de gebruikte AI de rechten van burgers in gevaar kan brengen, is leidend om te bepalen in welke categorie deze valt.
Er komen 4 risicocategorieën met specifiek te volgen regels:
- Minimaal risico: bijvoorbeeld een spamfilter
- Beperkt risico: bijvoorbeeld chatbots o.b.v. AI
- Hoog risico: bijvoorbeeld zelfrijdende auto’s
- Onaanvaardbaar risico: bijvoorbeeld emotieherkenning op de werkvloer
Systemen die een onaanvaardbaar risico vormen, worden verboden. Verder zijn er meer en striktere regels al naargelang de grootte van het risco. Zo kan realtime gezichtsherkenning wel nog onder strikte voorwaarden en met toestemming van een rechter (bijvoorbeeld om aanslagen te voorkomen), maar is emotieherkenning in een school verboden.
Hierbij enkele concrete voorbeelden uit deze nieuwe wet:
- Meer openheid over AI-systemen: In de toekomst komt er meer duidelijkheid over welke systemen gebruikmaken van AI, hoe ze functioneren en welke gegevens ze gebruiken voor hun training.
- Duidelijkheid rond AI-gebruik: Het wordt verplicht voor chatbots en andere AI-toepassingen (zoals deepfakes) om duidelijk aan te geven dat ze AI gebruiken.
- Watermerken voor door AI gegenereerde content: Content die volledig is gemaakt door AI (vb. teksten, afbeeldingen en video’s), moet worden voorzien van een soort watermerk zodat deze content met behulp van speciale tools herkend kan worden.
Fasering van de wetgeving
De wet zal gefaseerd worden ingevoerd nadat deze ook door de lidstaten is goedgekeurd. Men verwacht dat de wet pas in 2026 volledig van kracht zou zijn. Verboden AI-systemen moeten binnen zes maanden worden uitgefaseerd, terwijl bepalingen met betrekking tot generatieve AI na twaalf maanden van kracht worden. Na 24 maanden zullen alle andere aspecten van de wet in werking treden, behalve voor hoogrisico-AI, waarvoor 36 maanden de tijd wordt genomen.