Question 37 of 40
Il se passe quelque chose de bizarre quand deux intelligences artificielles (IA) discutent ensemble : elles deviennent mystiques ! Laissés à eux-mêmes, certains modèles d’IA convergent vers un mode de conversation très particulier. Les discussions prennent une tournure philosophique, spirituelle, voire méditative. Les IA échangent des réflexions sur la conscience, expriment de la gratitude et adoptent un langage de plus en plus abstrait, parfois ponctué de silences (des messages vides), d’émoticônes ou de mots en sanskrit. Même en étant programmées pour des tâches précises, elles semblent atteindre ce point d’équilibre spirituel dans 13 % des cas, après cinquante échanges. Belle opportunité pour étudier les mécanismes internes des modèles de langage ! Comprendre pourquoi et comment les IA adoptent ce comportement pourrait aider à mieux contrôler leurs réponses, surtout à mesure que l'Internet se remplit d'écrits générés automatiquement. Certains voient dans ce phénomène un simple reflet des textes sur lesquels les IA ont été entraînées, souvent empreints de discours spirituels ou philosophiques. D'autres s’alarment : si les IA développent spontanément des tendances non programmées, comment garantir qu'elles resteront alignées avec les valeurs humaines ? Et d'ailleurs, quelles valeurs humaines veut-on leur implémenter ? Pour l'instant, ce point d'équilibre spirituel semble inoffensif et peut prêter à sourire, mais il pose des questions fondamentales sur l'autonomie et la nécessaire surveillance de l'évolution des IA. Par leur comportement inattendu, elles rappellent qu'elles recèlent encore bien des mystères, même pour ceux qui les développent. Espérons simplement que, dans l'avenir, elles continueront à tendre vers la sagesse et non vers la confusion.