S09E01 - Toezicht op AI: wat de Autoriteit Persoonsgegevens al mag en wat nog komt

Sven Stevenson, directeur toezicht en coördinatie op AI en algoritmes bij de Autoriteit Persoonsgegevens, ziet organisaties twijfelen over wat er nu al geldt voor Artificial Intelligence. De AI-act is deels van kracht, maar de handhaving en de standaarden die de wet praktisch maken laten nog op zich wachten. Hij legt uit dat toezicht nu draait om uitleg en dat je ethiek kunt toetsen door grondrechten tegen elkaar af te wegen.

Bij AI in werving en selectie ligt de lat hoger: een systeem dat leert van wie eerder is aangenomen, bootst dat plaatje na en moet daarom een of twee keer per jaar worden gecontroleerd op nauwkeurigheid en discriminatie. Ook systemen die je als gewoon algoritme beschouwt kunnen onder de wet vallen. Deze week kun je al je AI- en algoritme-toepassingen op een rij zetten en per toepassing vastleggen welke grondrechten in het geding kunnen komen.

Onderwerpen

• Stand van zaken van de AI-act en de voorbereiding van het toezicht door de Autoriteit Persoonsgegevens
• Ethiek als toetsbare afweging van grondrechten, met werving en selectie als hoog-risico-voorbeeld
• Het vloeiende onderscheid tussen algoritmes en AI en het belang van een register van toepassingen
• AI-geletterdheid als verzwarende factor en de scheve balans bij solliciteren en klachten
• Toekomstige risico's zoals AI companions en de AP-sandbox voor innovatie

Links

• Organisatie: Home | Autoriteit Persoonsgegevens
• Wetgeving: EU Artificial Intelligence Act | Up-to-date developments and analyses of the EU AI Act
• Wetgeving: AVG algemeen | Autoriteit Persoonsgegevens
• Organisatie: Home | Rijksinspectie Digitale Infrastructuur (RDI)
• Organisatie: European AI Office | Shaping Europe’s digital future
• Wetgeving: Kids Act (Europees voorstel)
• Platform: Het algoritmeregister van de Nederlandse overheid
• Kaartspel: AI Game Changer - Generative AI editie

Genoemde entiteiten: Autoriteit Persoonsgegevens - World Summit AI - OpenAI - ChatGPT - Europese Unie

Stuur ons een bericht

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!