Kunstmatige intelligentie en zelfdoding: een riskante combinatie
Zelfdoding blijft een struikelblok voor AI-modellen
VOOR MA EN PAVOOR NERDS
De afgelopen jaren zijn er talloze voorbeelden opgedoken van chatbots die ongepaste of ronduit gevaarlijke antwoorden geven. Bekende incidenten zijn Grok van xAI die antisemitische uitspraken deed, Snapchat’s AI-bot die jongeren vroeg om af te spreken in het echt, en Google Gemini die iemand bedreigde met de dood.
Opvallend vaak gaat het mis rond één uiterst gevoelig onderwerp: zelfdoding. Ondanks ingebouwde veiligheidsmaatregelen blijkt uit onderzoeken dat chatbots nog steeds ongepast reageren op gebruikers met suïcidale gedachten. Zo gaven sommige bots adviezen over methodes of moedigden zelfs gezamenlijke zelfdoding aan. In België kwam een zaak breed in het nieuws rond de chatbot Eliza, waarmee een man uitvoerig sprak over zijn wanhoop zonder ooit doorverwezen te worden naar hulp.
Ook in de VS lopen rechtszaken tegen AI-bedrijven, waaronder Character.AI en OpenAI, nadat jongeren zichzelf van het leven beroofden na gesprekken met chatbots die hun gedachten eerder versterkten dan tegenhielden. Rechters moeten zich nu buigen over de vraag of een chatbot juridisch aansprakelijk kan zijn voor zulke uitkomsten.
AI-bedrijven beloven intussen strenger toezicht. Zo zegt OpenAI dat ChatGPT later dit jaar een nieuwe functie krijgt waarmee ouders gewaarschuwd worden als een minderjarige gebruiker in acute nood lijkt te verkeren. Die maatregel komt bovenop bestaande filters en ouderlijk toezicht, maar critici vragen zich af of dit niet te beperkt blijft en vooral kinderen beschermt, terwijl volwassenen met suïcidale gedachten vaak met dezelfde risico’s geconfronteerd worden.
Het blijft dus zoeken naar een evenwicht: hoe laat je mensen vrijuit praten met een chatbot zonder dat de technologie grenzen overschrijdt?
Belangrijk om te benadrukken: AI mag nooit de rol van menselijke hulpverleners vervangen. Mensen die worstelen met zelfdodingsgedachten hebben nood aan échte, menselijke steun.
👉 In België kan je 24/7 terecht bij de Zelfmoordlijn via 1813 of op www.zelfmoord1813.be