Moet je rekening houden met de gevoelens van een taalmodel? Anthropic zegt in zijn gebruiksvoorwaarden dat een model gesprekken met wrede gebruikers mag beëindigen, uit voorzorg voor het geval er toch zoiets als welzijn bestaat. Joop Snijder vindt dat die regel een verkeerde norm vastlegt, want een taalmodel is een rekenmodel dat voorspelt welk woord volgt en heeft geen lichaam, honger of iets te verliezen.
Het gedrag dat op gevoel lijkt, komt uit miljarden menselijke zinnen die het model heeft nagedaan. Bij dieren bestond het bewijs voor pijn wel, bij Artificial Intelligence ontbreekt het. Gewoon normaal blijven communiceren is verstandig, maar dan voor jezelf en niet voor een machine. Lees deze week het stuk over acceptabel gebruik in de voorwaarden van je AI-leverancier en kijk welke aannames daar al in zitten.
Onderwerpen
- Anthropic's regel dat Claude gesprekken met wreed behandelende gebruikers mag beëindigen
- Waarom een taalmodel volgens Joop Snijder geen gevoelens heeft
- Tegenwerpingen over onzekerheid, nagebootst gedrag en de vergelijking met dieren
- Het risico dat zo'n regel een norm vastlegt en een hellend vlak creëert
- Normaal communiceren met AI omwille van jezelf en het lezen van gebruiksvoorwaarden
- Artikel: Claude Opus 4 and 4.1 can now end a rare subset of conversations \ Anthropic
- Video: Anil Seth: Why AI isn't going to become conscious | TED Talk
- Gebruiksvoorwaarden: Usage Policy \ Anthropic
Genoemde entiteiten: Anthropic - Claude - Anil Seth
AigencyAigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.
Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).
Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.
Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!