EU bereikt voorlopige overeenkomst over baanbrekende AI-wetgeving

De EU AI Act: Een Nieuw Tijdperk in AI-Regelgeving

In een baanbrekende beweging met wereldwijde implicaties, hebben de wetgevers in Brussel deze week een mijlpaal bereikt met de voorgestelde AI Act van de Europese Unie. Deze wet vormt de aanzet voor een significante verandering in het digitale landschap. Na fervente & langdurige discussies, markeert een ‘voorlopige overeenkomst’ de ambitie van de EU om voorop te lopen in regelgeving op het zich snel ontwikkelende gebied van kunstmatige intelligentie. De AI Act, die naar verwachting zal dienen als een wereldwijd model, staat op het punt ongekende normen in te voeren. Normen die mogelijk de werking van AI-bedrijven zoals OpenAI, de maker van generatieve tools zoals ChatGPT, zullen transformeren door deze bedrijven strenge transparantiemaatregelen op te leggen.

Versterking van Individuele Rechten en Bedrijfsverantwoordelijkheid

De AI Act is mede bedoeld om het gebruik van AI-toepassingen die inbreuk maken op individuele rechten in te dammen. De AI Act stelt zware boetes vast op basis van de ernst van de inbreuk. OpenAI behoort tot de bedrijven die zich zullen moeten aanpassen.  Aangezien de wet ‘gedetailleerde samenvattingen van de content die gebruikt is om de AI-toepassing te trainen’ vereist. Dit is een niveau van openbaarmaking dat nog niet is omarmd. Opmerkelijk is dat de wet ook het recht van een burger versterkt om AI-beslissingen met een hoog risico (dat wil zeggen met aanzienlijke consequenties) te kunnen begrijpen en aan te vechten. Dat legt meer druk op  de verantwoordingsplicht van de ondernemingen.

Richtlijnen voor AI-Gebruik en Bescherming van Privacy

Terwijl de exacte benchmarks van de wet nog niet bekend zijn gemaakt, is het duidelijk dat het gebruik van AI voor onbeperkte surveillance zal worden verboden. Dat betreft dan toepassingen zoals het verzamelen van gezichtsbeelden uit CCTV-beelden of het creëren van sociale scoresystemen. Deze beperkingen onderstrepen het besluit van de EU om zowel het potentieel van AI te benutten als fundamentele rechten te beschermen. Verwacht wordt dat de AI Act voor het einde van het jaar zal worden afgerond, maar waarschijnlijk pas effectief zal zijn vanaf 2025. Daardoor krijgt de industrie tijd om zich aan te passen aan de ingrijpende veranderingen. Dit wetgevingsinitiatief herziet het oorspronkelijke ontwerp uit 2021 dat voorafging aan AI-doorbraken zoals ChatGPT en Stable Diffusion. Dat zal ook tot gevolg hebben dat updates noodzakelijk zullen zijn om de hedendaagse evolutiesnelheid van de AI-omgeving bij te houden.

Europese Strijd om AI-Regulering: Zelfregulering versus Regelgebaseerd Toezicht

Ook doordat Frankrijk, Duitsland en Italië op een gegeven moment zelfregulering van generatieve AI voorstelden, is het pad naar overeenstemming tumultueus geweest. Dat blijkt onder andere uit de last-minute debatten over live biometrie monitoring en algemene AI-modellen die de aankondiging vertraagden. De houding van deze groep weerspannige Europese landen bracht de voltooiing en effectiviteit van deze wetgeving zelfs in gevaar. Uiteindelijk kozen wetgevers voor een traject dat de nadruk legt op regelgebaseerd toezicht in plaats van zelfregulering. Daarmee bevestigt de EU haar toewijding om het voortouw te nemen in het opzetten van een verantwoordelijk AI-kader. Er is gekozen voor een risicogebaseerde aanpak, waarbij bedrijven bewijs moeten leveren dat zij risicobeoordelingen hebben uitgevoerd. Ook moeten bedrijven ervoor zorgen dat hun AI geen vooroordelen (biases) in stand houdt.

De Laatste Hordes naar Goedkeuring en Implementatie

Hoewel de overeenkomst een belangrijke stap is, moet deze nog worden afgerond en door het EU-parlement worden goedgekeurd. Voordat er sprake zal zijn van afdwingbaarheid zijn verdere verduidelijkingen en parlementaire goedkeuringen nodig, inclusief stemmingen door de Commissies Interne Markt en Burgerrechten van het EU-Parlement. Te midden van deze beraadslagingen blijft er een voelbare spanning bestaan tussen de gewenste uitgebreide toepassing van AI voor sectorale vooruitgang en stevige privacy- en rechtenbehartiging, wat kenmerkend is voor de genuanceerde discussies die de uiteindelijke versie van deze AI Act vormgeven.

zie ook: NYT NRC

 

Praktische Wijsheid: Emotieregulering, een Noodzaak voor Effectief Bestuur


Wiersma’s Vertrek: een Belangrijke Les in Praktische Wijsheid
Het aftreden van Minister Wiersma komt een belangrijk thema opnieuw onder de aandacht: de noodzaak van praktische wijsheid in het openbaar bestuur. Praktische wijsheid, ook wel bekend als ‘phronesis’, is een begrip uit de oude Griekse filosofie. Het vertegenwoordigt het soort wijsheid dat nodig is om complexe problemen op te lossen.Deze wijsheid balanceert kennis, vaardigheden, en de kunst om emotioneel afstand te houden van situaties.”

De aankondiging van het aftreden van Minister Wiersma is een kantelpunt dat verdient nader beschouwd te worden. Enerzijds vormt zijn besluit een les in persoonlijke wijsheid. Anderzijds werpt het licht op een essentiële vereiste voor openbaar bestuur: praktische wijsheid.

De Kracht van Emotieregulering in Leiderschap”
Emotieregulering – of ‘emotionele homeostase’ – is het vermogen om onze emoties effectief te beheren en te moduleren. Dit is belangrijk voor iedereen. Echter, voor degenen in leidinggevende posities, met name in het openbaar bestuur, is dit cruciaal.Onderzoek toont aan dat emotieregulering leidt tot betere besluitvorming, beter beheer van stress, en een verbeterd welzijn. Het is de sleutel tot het behouden van een evenwichtig perspectief, zelfs in moeilijke en stressvolle situaties.

Openbaar Bestuur: Emotieregulering is Cruciaal
Het openbaar bestuur vormt een arena waar zware beslissingen genomen moeten worden. Dit gebeurt vaak onder grote druk, waarbij veel op het spelstaat. De kwaliteit van deze beslissingen hangt nauw samen met het vermogen van een leider om emoties effectief te reguleren. Dit geldt ook voor zijn reacties op de onvermijdelijke obstakels en mislukkingen die zich voordoen.

Minister Wiersma’s aftreden is dan ook een herinnering aan het belang van het streven naar praktische wijsheid in het openbaar bestuur. Het illustreert het gevaar van het ontbreken van een vitale component, zoals emotieregulering, in het vermogen van een leider om effectief te besturen.

Leiders Selecteren en Ontwikkelen: De Noodzaak van Praktische Wijsheid
Deze situatie dwingt ons om opnieuw te overwegen wat we van onze leiders verwachten. Wiersma’s gedrevenheid en daadkracht waren bewonderenswaardig en zullen ongetwijfeld gemist worden in het onderwijsveld. Echter, zijn gedrevenheid en daadkracht hebben zijn vermogen om emoties effectief te reguleren niet kunnen compenseren.

Het is daarom noodzakelijk om te heroverwegen hoe we leiders selecteren en ontwikkelen in het openbaar bestuur. Praktische wijsheid moet niet alleen worden gewaardeerd, maar moet ook expliciet worden gezocht in degenen die we kiezen om ons te leiden. Naast technische
competenties, ervaring en visie, moeten we ook kijken naar hoe kandidaten omgaan met stress en emoties, zowel die van henzelf als van anderen.

Dit is niet alleen relevant voor de selectie van nieuwe leiders, maar ook voor hun voortdurende professionele ontwikkeling. Het zou een essentieel onderdeel moeten zijn van leiderschapsontwikkeling en -training in het openbaar bestuur.

Wiersma’s Aftreden: Een Waardevolle Les in Leiderschap
Het aftreden van Wiersma biedt ons ook een waardevolle les. Het toont aan dat effectieve emotieregulatie een cruciaal aspect van praktische wijsheid is. Dit is onmisbaar voor het succesvol uitoefenen van een bestuurlijke functie. Het is dan ook hoog tijd dat we dit inzicht erkennen en een prominente plaats geven in onze visie op leiderschap in het openbaar bestuur.

Zie ook: Onderwijsminister Dennis Wiersma stapt op FD en Dennis Wiersma, de sociaal betrokken liberaal die ook een hork kon zijn Volkskrant