Empathische AI en robots

Een week nadat ik het interview met Margo van Kemenade had gepost, dat ging over robots als gezelschap, hoorde ik in een podcast over chatbot Evi van het bedrijf Hume (genoemd naar de filosoof David Hume). Evi is een afkorting van Empathic Voice Interphase. Het is de eerste AI met emotionele intelligentie. Op de website kun je in het Engels praten met de AI. Op een klein scherm zie je de emoties die worden herkend in je stem.

EVI is getraind met een empathisch taalmodel (eLLM), dat onder andere de toon en intonatie van een stem begrijpt en kan nabootsen om de interactie tussen mens en AI te optimaliseren. Het kan menselijke emoties begrijpen zoals blijdschap, woede, ongemak, verveling, kalmte, verwarring en pijn. Het kan zelfs leugens detecteren. Het bedrijf beweert dat het 53 menselijke emoties kan herkennen. Als je met deze chatbot praat, is het alsof je met een mens praat. Zeer indrukwekkend, is te lezen in reviews. “The next ChatGPT moment”.

Hume ziet toepassingen in allerlei gebieden. Kunst, onderwijs, onderzoek, onderwijs, vervoler en gezondheid. Als persoonlijke assistent kan Evi je opbeuren als je in een sombere bui bent of kalmeren als je onrustig bent. Een commerciële toepassing zou kunnen zijn dat de chatbot je in een conversatie op basis van je emotie tot een bepaalde aankoop verleid.

Maar je kunt Evi ook in een robot stoppen, lijkt mij. Dat gaat vast gebeuren. Conversaties en interacties met de robot worden dan nog menselijker. We zagen al recent een paar fraaie staaltjes van ‘menselijke’ interacties met humanoids, maar stop deze Evi in een robot en we betreden een nieuwe dimensie.

Het kan ook een andere kant opgaan. Dat het juist makkelijker wordt om bijvoorbeeld een humanoid of misschien ook andere typen robots als een echte companion of partner te gaan zien, waar je zelfs een soort relatie mee hebt. De robot als gezelschap voor eenzame ouderen komt hiermee ineens een stap dichterbij. Oei, denk ik dan. Het is makkelijk het idee te opperen, er kritisch over te zijn of voorzichtig positief zolang het toch nog niet kan. Maar het gaat zo maar ineens echt zo kunnen zijn. Zijn we daar klaar voor? Of wanneer zijn we daar als mensheid überhaupt klaar voor? Is dit een soort giant-leap-for-mankind-moment?

Hume vindt het een kwalijke zaak als mensen een ‘relatie’ met Evi zouden hebben en die verkiezen boven een relatie met echte mensen. Ze hebben een organisatie opgericht, Hume Initiative, die ethische richtlijnen voor het gebruik van empathische AI opstelt. Ik heb het opgezocht. De AI inzetten als gezelschap voor (eenzame) mensen staat niet in de toepassingen die worden ondersteund.

Hume wil als volgende stap het eLLM trainen om verschillende gezichtsuitdrukkingen te herkennen. Het model moet dus emoties gaan begrijpen op basis van gezichtskenmerken. De ontwikkelingen gaan snel. 10 jaar geleden zat nog iemand in de keuken een robotpop met paars haar die niks kon, zoals Margo van Kemenade het treffend verwoordde, te bedienen. Nu zijn er mensachtige robots die met je kunnen praten als een mens en moeten we gaan nadenken over hoe we hiermee omgaan.