De EU AI Act: Een Nieuw Tijdperk in AI-Regelgeving
In een baanbrekende beweging met wereldwijde implicaties, hebben de wetgevers in Brussel deze week een mijlpaal bereikt met de voorgestelde AI Act van de Europese Unie. Deze wet vormt de aanzet voor een significante verandering in het digitale landschap. Na fervente & langdurige discussies, markeert een ‘voorlopige overeenkomst’ de ambitie van de EU om voorop te lopen in regelgeving op het zich snel ontwikkelende gebied van kunstmatige intelligentie. De AI Act, die naar verwachting zal dienen als een wereldwijd model, staat op het punt ongekende normen in te voeren. Normen die mogelijk de werking van AI-bedrijven zoals OpenAI, de maker van generatieve tools zoals ChatGPT, zullen transformeren door deze bedrijven strenge transparantiemaatregelen op te leggen.
Versterking van Individuele Rechten en Bedrijfsverantwoordelijkheid
De AI Act is mede bedoeld om het gebruik van AI-toepassingen die inbreuk maken op individuele rechten in te dammen. De AI Act stelt zware boetes vast op basis van de ernst van de inbreuk. OpenAI behoort tot de bedrijven die zich zullen moeten aanpassen. Aangezien de wet ‘gedetailleerde samenvattingen van de content die gebruikt is om de AI-toepassing te trainen’ vereist. Dit is een niveau van openbaarmaking dat nog niet is omarmd. Opmerkelijk is dat de wet ook het recht van een burger versterkt om AI-beslissingen met een hoog risico (dat wil zeggen met aanzienlijke consequenties) te kunnen begrijpen en aan te vechten. Dat legt meer druk op de verantwoordingsplicht van de ondernemingen.
Richtlijnen voor AI-Gebruik en Bescherming van Privacy
Terwijl de exacte benchmarks van de wet nog niet bekend zijn gemaakt, is het duidelijk dat het gebruik van AI voor onbeperkte surveillance zal worden verboden. Dat betreft dan toepassingen zoals het verzamelen van gezichtsbeelden uit CCTV-beelden of het creëren van sociale scoresystemen. Deze beperkingen onderstrepen het besluit van de EU om zowel het potentieel van AI te benutten als fundamentele rechten te beschermen. Verwacht wordt dat de AI Act voor het einde van het jaar zal worden afgerond, maar waarschijnlijk pas effectief zal zijn vanaf 2025. Daardoor krijgt de industrie tijd om zich aan te passen aan de ingrijpende veranderingen. Dit wetgevingsinitiatief herziet het oorspronkelijke ontwerp uit 2021 dat voorafging aan AI-doorbraken zoals ChatGPT en Stable Diffusion. Dat zal ook tot gevolg hebben dat updates noodzakelijk zullen zijn om de hedendaagse evolutiesnelheid van de AI-omgeving bij te houden.
Europese Strijd om AI-Regulering: Zelfregulering versus Regelgebaseerd Toezicht
Ook doordat Frankrijk, Duitsland en Italië op een gegeven moment zelfregulering van generatieve AI voorstelden, is het pad naar overeenstemming tumultueus geweest. Dat blijkt onder andere uit de last-minute debatten over live biometrie monitoring en algemene AI-modellen die de aankondiging vertraagden. De houding van deze groep weerspannige Europese landen bracht de voltooiing en effectiviteit van deze wetgeving zelfs in gevaar. Uiteindelijk kozen wetgevers voor een traject dat de nadruk legt op regelgebaseerd toezicht in plaats van zelfregulering. Daarmee bevestigt de EU haar toewijding om het voortouw te nemen in het opzetten van een verantwoordelijk AI-kader. Er is gekozen voor een risicogebaseerde aanpak, waarbij bedrijven bewijs moeten leveren dat zij risicobeoordelingen hebben uitgevoerd. Ook moeten bedrijven ervoor zorgen dat hun AI geen vooroordelen (biases) in stand houdt.
De Laatste Hordes naar Goedkeuring en Implementatie
Hoewel de overeenkomst een belangrijke stap is, moet deze nog worden afgerond en door het EU-parlement worden goedgekeurd. Voordat er sprake zal zijn van afdwingbaarheid zijn verdere verduidelijkingen en parlementaire goedkeuringen nodig, inclusief stemmingen door de Commissies Interne Markt en Burgerrechten van het EU-Parlement. Te midden van deze beraadslagingen blijft er een voelbare spanning bestaan tussen de gewenste uitgebreide toepassing van AI voor sectorale vooruitgang en stevige privacy- en rechtenbehartiging, wat kenmerkend is voor de genuanceerde discussies die de uiteindelijke versie van deze AI Act vormgeven.