Un modèle mathématique souhaite aider l’IA à anticiper les émotions humaines

Les humains forment une société parce qu’ils sont capables de communiquer et de se comprendre. « Quand un interlocuteur est frustré ou manifeste une certaine émotion, l’autre peut adapter son interaction », explique Jussi Jokinen, professeur associé en sciences cognitives à l’Université de Jyväskylä, en Finlande. Pour le chercheur, les intelligences artificielles devraient avoir les mêmes capacités. Dans un contexte où les citoyens utilisent de plus en plus des outils d’IA, il estime que « le risque est que le fonctionnement des IA devienne de plus en plus différent du nôtre, ce qui causera des frictions et des frustrations chez les utilisateurs ». Introduire dans les modèles informatiques des solutions qui permettraient aux ordinateurs de prédire et de s’adapter aux émotions des interlocuteurs humains pourrait ainsi favoriser la fluidité des interactions. « C’est un sujet sensible, car cela soulève également le risque que les IA puissent manipuler les humains. »

Un modèle mathématique calé sur le fonctionnement du cerveau

L’équipe de recherche finlandaise a décidé d’employer des principes de psychologie mathématique pour aider les ordinateurs à comprendre les émotions humaines, comme l’irritation, la colère, le bonheur, etc. L’idée est de développer un modèle mathématique qui se base sur le fonctionnement du cerveau : notre esprit fait des calculs et déploie des prédictions ou des stratégies pour atteindre un objectif. S’il obtient des erreurs, il pourra faire mieux la prochaine fois dans une situation similaire. Ces calculs sont directement associés aux émotions : quand on expérimente un signal positif, on éprouve des émotions positives, et inversement pour les émotions négatives. « L’objectif est d’avoir un modèle informatique qui est capable de prédire l’émotion de l’utilisateur, par exemple si une erreur informatique survient pendant une tâche. Cela permet à l’outil informatique de déployer une interaction pour atténuer une émotion négative chez l’utilisateur, en lui proposant par exemple une instruction spécifique. » Ainsi, si ce type de modèle est intégré dans des chatbots, il sera possible pour l’IA d’adapter ses interactions en fonction de l’utilisateur. « Notre modèle n’est pas un modèle compliqué et il peut en effet être intégré dans des outils d’IA, mais la question est davantage de savoir à quoi peut ressembler cette intégration, et quel environnement créer dans lequel ce modèle sera simulé. Ce sont des questions qui méritent davantage d’études. »

Vers des données synthétiques plus qualitatives 

Pour Jiayi Eurus Zhang, membre de l’équipe de recherche et chercheuse doctorante en sciences cognitives, il serait par ailleurs intéressant de comprendre comment ces recherches peuvent être utilisées pour aider les utilisateurs dans des situations réelles. « Que ce soit dans une interface ou sur le plan émotionnel, on doit se demander comment on peut aider les utilisateurs à gérer leurs émotions au quotidien. » En d’autres termes, outre la prédiction, la finalité de ce type de recherche est également de savoir si ces systèmes sont en mesure d’aider les utilisateurs à influencer et mieux gérer leurs émotions quand ils utilisent un service en ligne, ouvrent un courriel, etc.

Jussi Jokinen estime que ces modèles mathématiques peuvent aider à améliorer la qualité des données synthétiques, c’est-à-dire des données générées par l’IA. « Aujourd’hui, les modèles de deep learning arrivent à bout des données disponibles pour s’entraîner et les éditeurs cherchent donc à les entraîner avec des données synthétiques. Ce n’est pas forcément une bonne idée mais, si un modèle est davantage en phase avec le fonctionnement psychologique du cerveau humain, les données synthétiques produites seront plus pertinentes. »