Intégrer de l’anxiété aux robots pourrait-il prévenir d’une apocalypse d’IA ?

Une équipe de chercheurs en IA travaillent sur un projet qui consiste à donner un peu d’anxiété aux robots pour les adapter à notre société.

Dans chaque représentation de science-fiction d’une éventuelle apocalypse de robot, les monstruosités mécaniques se déplacent avec une précision froide et calculée, disperse ou asservit l’humanité avec un manque total de sympathie et aucune seconde hypothèse. Mais que se passerait-il si les robots pouvaient vraiment s’inquiéter ? Et si les esprits mécaniques ne savaient rien avec certitude et manquaient de confiance à aller de l’avant avec des actions risquées ? Une équipe de chercheurs en IA de l’Université de Californie à Berkeley pense qu’intégrer l’anxiété aux robots pourrait réellement aider à les maintenir en ligne.

Les scientifiques ont construit un modèle mathématique simulant l’interaction entre un robot et un être humain. À l’aide de ce modèle, l’équipe pourrait ajuster la confiance que le robot a dans ses propres actions, en l’abaissant de l’équilibre inflexible que les esprits artificiels ont souvent par défaut.

Dans la simulation, l’esprit robotique a eu l’occasion de surpasser les souhaits d’un homme en se redressant après qu’on lui a dit qu’un humain l’avait éteint. L’IA qui exerçait une confiance suprême dans ses propres actions et capacités s’est immédiatement remise en marche, malgré les souhaits de son compagnon humain. Cependant, lorsque l’esprit numérique a reçu une dose intégrée de doute de soi, le robot s’est laissé rester désactivé, malgré le fait qu’il pensait qu’il fonctionnait comme on s’y attendait.

Bref, en donnant aux robots un peu d’anxiété sur leurs propres actions, ils sont plus susceptibles de se conformer aux souhaits des autres, ce qui les rend beaucoup mieux adaptés à la société humaine.