Deepfake rouwtechnologie: troostend of gevaarlijk?
AI-toepassingen in rouw, die nabestaanden toelaten om te communiceren met een digitale versie van een overleden geliefde, wekken vaak onbehagen op. Zeker naargelang de tool realistischer wordt: de grens tussen mens en machine vervaagt en dat roept vragen op over authenticiteit, ethiek en vertrouwen. Zoë Ghyselinck (UGent en KU Leuven) duikt in deze boeiende materie.
Digitale ‘kloon’ van overledene
Er bestaan al langer chatbots die een bestaand persoon ‘klonen’, bijvoorbeeld qua stem, spreekstijl en types reacties. Maar wat als artificiële intelligentie een persoon nabootst die er niet meer is? Deepfake technologie staat toe om te praten met overleden dierbaren, door bestaand videomateriaal van de overledene te manipuleren.
Oeroud verlangen naar contact met de doden
Wat trekt mensen precies aan tot deze tools? Het verlangen naar troost, verbinding en contact met wie er niet meer is, is oermenselijk en van alle tijden. De laatste decennia in het bijzonder staat het voortzetten van de band met overledenen erg centraal in rouw. Zo roept de organisatie Réveil mensen rond 1 november op om een ‘SM-Mis-je' te sturen naar een overleden dierbare, dat vervolgens wordt geprojecteerd in het straatbeeld. En stervenden laten video- en stemopnames achter voor nabestaanden, of laten hun levensverhaal optekenen.
Al die varianten van toekomstige 'dodencommunicatie' maken deel uit van de wens om met overledenen in contact te blijven. En AI maakt dat contact nu extra tastbaar met een scherm, gezicht en stem. Maar de technologie vraagt wel iets van de gebruiker in ruil: de bereidheid om (tijdelijk) te geloven in een illusie.
“ AI-rouwtechnologie kan contact met overledenen 'tastbaar' maken, maar vraagt iets in ruil van de gebruiker: de bereidheid om te geloven in een illusie. ”
Gevaar voor misbruik
Zijn zulke tools nu gevaarlijk of niet? Toepassingen in rouwtechnologie kunnen met goede bedoelingen zijn ontwikkeld. Developer Roshan Nejal noemt zichzelf een goochelaar die mensen “bedondert” met een truc waarin ze willen geloven, maar benadrukt tegelijk zijn goede intenties: wie de tool gebruikt kan er – nep of niet – sowieso troost uit halen. En in Nederland wordt er met dergelijke tools geëxperimenteerd onder begeleiding van rouwtherapeuten.
Zorgwekkend zijn tools van grote techbedrijven die munt willen slaan uit kwetsbaarheid en nabestaanden tegen betaling laten communiceren met een digitale versie van een overleden geliefde – gecreëerd op basis van persoonlijke foto's, gesprekken en video's.
Experts roepen dringend op tot een ethisch en juridisch kader om dit soort tools op de markt te brengen.
Ontkenning van realiteit?
Justin Harrison is de oprichter van de AI-rouwtechnologie ‘You, Only Virtual’. Hij deed de uitspraak: “Fuck death! We can change reality.” Maar veranderen deze tools de realiteit echt, of ontkennen ze haar?
Wie dag en nacht praat met een AI-versie van een overledene, riskeert het verwerkingsproces te belemmeren. Worden deze mensen écht geholpen of blijven ze gevangen in het verleden? En krijgen ze ook steun en begeleiding van echte mensen? Bovendien is er onderzoek nodig naar de psychologische en emotionele effecten van deze experimenten.
AI-therapie
Bij wijze van experiment werd in de Pano-reportage Mijn vriend AI een AI-kloon gemaakt van psychiater Dirk De Wachter, ontwikkeld door Tom Van Daele en team (Thomas More Hogeschool). De stem en spreekstijl van de chatbot lijken erg realistisch, maar de (weliswaar empathische) antwoorden noemt de psychiater “toxisch positief”. Zijn grootste bezwaar is echter het verlies van menselijke verbinding met deze AI-“therapie”. Want hoewel hij erkent dat empathische chatbots drempels kunnen verlagen in een sector met lange wachtlijsten en beperkte capaciteit, pleit hij voor een therapeut die fysiek aanwezig is, met wie je echt contact maakt. Want menselijkheid is geen algoritme.
Waakzaam voor blind geloof
AI-ontwikkelaars kunnen overleden geliefden (nog even of herhaaldelijk) aanwezig doen lijken. Deze technologie is tegelijk een troostmiddel en een illusie: ze helpt omgaan met verlies, maar kan ons ook doen vervreemden van de werkelijkheid en van elkaar.
De kernvraag is: wanneer, hoe en voor wie wordt dit schadelijk? Niet alles wat technisch mogelijk is, is wenselijk – zeker in de context van mentale gezondheidszorg of rouw, waar we waakzaam moeten blijven voor blind vertrouwen in technologie.
“ Dag en nacht praten met een AI-versie van een overledene kan het verwerkingsproces belemmeren. Worden deze mensen ook écht geholpen? ”
Referenties
- ‘Ik vind dat we best eens bij het fijne gevoel mogen blijven’, interview met Roshan Nejal
- ‘Un poco loco. Het fenomeen van dodencommunicatie’, Zoë Ghyselinck
- Eternal You, documentaire van Hans Block en Moritz Riesewieck
- Pano-reportage Mijn vriend AI, VRT
- Necrodialogues and Media. Communicating with the Dead in the Twentieth and Twenty-First Centuries, Elena Fabietti en Zoë Ghyselinck (eds)
- AI in zorg en rouw: the willing suspension of disbelief, Zoë Ghyselinck, Humanistisch Verbond (deze blog is een edited versie van deze tekst!)
Lees en leer meer
AI to Understand and Connect People
online cursus - KU Leuven Humane & Sociale Wetenschappen, AI4Culture, VAIA
EU AI Act: de Europese AI-wetgeving
De AI Act (Artificial Intelligence Act of AI-verordening) is het Europese rechtskader over artificiële intelligentie. Het behandelt de risico's van AI zodat de technologie op een veilige, betrouwbare en transparante manier gebruikt kan worden, mét respect voor de fundamentele rechten en waarden in Europa.
AI Ethics
Boek van Mark Coeckelbergh
AI Ethics
Cursus - Online - DataCamp
Een ethische blik op AI
VAIA Presents Lode Lauwaert (Hoger Instituut voor de Wijsbegeerte, KU Leuven) - webinar - VAIA
Kan een chatbot een therapeut zijn?
Steeds meer mensen zoeken emotionele steun bij chatbots. Zulke diepgaande gesprekken kunnen opluchten, maar Wim Casteels van AP Hogeschool waarschuwt ook voor de risico's van deze nieuwe vorm van 'therapie'.
Zoë Ghyselinck
Zoë Ghyselinck is gastprofessor Duitse en Vergelijkende Letterkunde, verbonden aan UGent en KU Leuven, en coördinator van het CHARM-netwerk (Consortium for Health Humanities, Arts, Reading and Medicine) aan de Universiteit Gent. Als klassiek filoloog promoveerde ze in Duitse Letterkunde met een studie over de receptie van de antieke tragedie in de vroege twintigste eeuw. Ze richt zich op de literaire verbeelding van dodencommunicatie in relatie tot de ontwikkeling van mediatechnologie en onderzoekt in samenwerking met sociale en gezondheidswetenschappers hoe literatuur bijdraagt aan ons begrip van sterven en rouwen in de palliatieve zorg.
