S08E50 - Uitlegbaarheid bij taalmodellen: wat kun je echt weten?

Hoe weet je of je een AI-systeem kunt vertrouwen, en wat doe je als je dat niet kunt controleren? Het probleem is dat taalmodellen zoals ChatGPT geen simpele rekensom hebben die je kunt terugvolgen: ze hebben miljarden verbanden geleerd uit tekst, en dat maakt uitlegbaarheid fundamenteel anders dan bij klassieke AI-systemen. Joop Snijder laat zien welke drie instrumenten je hebt om toch grip te houden: bronvermelding, gestructureerde databronnen en monitoring van agents.

Een juridisch team dat AI koppelt aan een vaste clausule-database, ziet de tijd voor een eerste contractcheck dalen van anderhalf uur naar twintig minuten, zonder dat de kwaliteitscontrole wegvalt. Morgen kun je voor je drie meest gebruikte AI-toepassingen een korte risicoafweging maken: wat zijn de consequenties als de output fout is, en hoeveel uitlegbaarheid heb je daarvoor nodig?

Onderwerpen

• Uitlegbaarheid bij taalmodellen versus klassieke machine learning
• Bronvermelding en de beperkingen ervan
• Structuur toevoegen aan AI-systemen voor betere controleerbaarheid
• Monitoring van AI-agents die zelfstandig acties uitvoeren
• Risicogestuurd bepalen van het benodigde niveau van uitlegbaarheid

Links

• AI Tool: Perplexity

Genoemde entiteiten: ChatGPT - Perplexity - Anthropic - Claude

Stuur ons een bericht

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!