Le droit à l’incohérence : l’intelligence artificielle finira-t-elle par nous enfermer dans celui que nous étions hier ?
Pendant la grossesse de ma femme, je me suis posé beaucoup de questions sur la parentalité, sur l’amour filial, sur cette connexion dont tout le monde parle comme si elle devait aller de soi.
J’aimais déjà mon fils. Bien sûr que je l’aimais. Je l’aimais quand il était dans le ventre de ma femme, parce qu’il était aussi relié à cette femme que j’aime profondément. Je prenais soin d’elle. J’attendais sa naissance. Pourtant, je me sentais légèrement déconnecté. Un peu hors du temps.
Puis mon fils est né. Il avait les yeux ouverts. Nous nous sommes regardés et, dans cet instant, quelque chose s’est révélé. Une connexion immédiate, naturelle, très forte. Les questions que je m’étais posées pendant des mois n’ont pas reçu une réponse théorique. Elles sont simplement tombées.
Je n’ai pas commencé à aimer mon fils à cet instant. J’ai accédé à quelque chose qui existait déjà, sans savoir encore que cela existait de cette manière. Ce regard n’a pas effacé l’homme qui s’interrogeait quelques minutes auparavant. Il l’a prolongé, tout en le faisant bifurquer.
Une intelligence artificielle personnelle apprend progressivement à nous connaître. Elle conserve nos mots, nos demandes, nos préférences, nos raisonnements, parfois des fragments de notre histoire. Elle rapproche les morceaux et cherche une continuité. À partir de ce que nous avons dit hier, elle essaie d’anticiper ce qui pourra nous convenir demain.
L’humain, lui, peut changer en une seconde. Une rencontre, une émotion, un deuil, un accident, une information nouvelle ou une révélation peuvent déplacer toute sa hiérarchie intérieure. Le passé demeure. Seulement, il ne conduit plus dans la même direction.
Le droit à l’incohérence est le droit de ne pas voir ses traces passées transformées par une IA en identité stable, en préférence permanente ou en autorisation durable d’agir. Il exige que tout profil reste contextualisable, révisable et suspendable.
Je ne prétends pas qu’un tel droit existe aujourd’hui comme une catégorie juridique établie. J’emploie le mot au sens d’un principe éthique et d’une exigence de conception. L’expression elle-même possède une histoire : Pieter Nijhoff publiait en 1998 The Right to Inconsistency, dans un travail consacré à la pensée de Zygmunt Bauman et à sa manière d’assumer les contradictions du réel. Mon usage est différent. Je transpose cette exigence dans la relation entre une personne et une IA générative qui apprend à la profiler.
Ce droit n’efface ni les engagements ni les conséquences du passé. Il n’est pas un droit à l’irresponsabilité. Il protège une possibilité plus simple, et peut-être plus fondamentale : celle de ne pas être finalisé par sa propre histoire.
L’IA ne possède pas notre identité. Elle possède des traces.
Une conversation n’est pas un réentraînement du modèle. Une mémoire n’est pas davantage une copie de l’utilisateur. Le système conserve ou récupère certains éléments, les sélectionne, les résume, puis les introduit dans un nouveau contexte pour produire une réponse adaptée. Ce processus de sélection, est d’ailleurs l’un des points de vigilances que nous devoir avoir vis-à-vis de ces IA génératives.
Cette capacité repose sur la mémoire artificielle et la continuité qu’elle donne aux échanges. Sans elle, chaque conversation recommence presque à zéro. Avec elle, l’IA peut suivre un projet, rappeler une préférence, éviter une répétition et travailler avec une profondeur nouvelle. Il est d’ailleurs possible de forcer l’IA à mémoriser des passages que l’on juge important pour cette ADN de personnalisation, en lui demandant, tout simplement.
Mais entre la personne et l’action de la machine, plusieurs couches se superposent. Il y a ce que nous avons dit. Ce que la mémoire a retenu. Ce que l’IA en déduit. Ce qu’elle utilise pour personnaliser sa réponse. Puis, avec un agent, ce qu’elle se croit autorisée à faire. Un agent ceci-dit se doit d’être revu et corrigé en permanence, nous devons garder sa mémoire vive, en se fixant une discipline de revu des données, de contextualisation mais surtout je dirais en lui apportant nos zones de changement, de bifurcation.
Ces couches ne sont pas équivalentes.
Une phrase peut être une conviction, un essai intellectuel, une réaction émotionnelle ou une adaptation au contexte. Une décision ponctuelle ne révèle pas nécessairement une préférence durable. Nous pouvons parler sous influence, éviter de contredire quelqu’un, défendre un intérêt secondaire ou essayer une idée pour voir jusqu’où elle tient. L’IA voit la trace. Elle ne voit pas toujours le rapport de pouvoir, l’émotion ou la présence humaine qui l’a produite. Cependant, l’accumulation de données, notamment en langage naturel affine ce profilage, mais un profilage qui doit rester flexible.
Elle travaille aussi avec des absences. Une donnée peut manquer. Le contexte peut avoir disparu. Un silence peut être interprété comme une approbation. Une contradiction peut rester ouverte parce que nous ne l’avons pas encore résolue. Pour répondre, la machine relie malgré tout les fragments. Elle ne reconstitue pas notre identité. Elle construit une hypothèse de continuité identitaire. Je parle souvent de l’idée des vides dans mes écrits, une fascination certes mais aussi une expérience de travail qui de plus en plus me fait penser qu’un morceau de la solution se trouve précisément dans ces vides.
Le danger commence lorsque cette hypothèse perd son statut d’hypothèse.
La rupture est aussi une continuité
Nous aimons présenter notre existence comme une histoire ordonnée. Après les événements, nous relions les points. Nous expliquons ce qui nous a conduits ici et donnons parfois à notre chemin une logique qu’il ne possédait pas au moment où nous le parcourions. Et bien souvent, avec l’aide du temps, ce sont plus les événements ou expériences positives qui ressortent que l’inverse.
Nous fabriquons nous aussi de la cohérence.
Pourtant, l’humain n’est pas la somme immobile de ses données. Il peut évoluer lentement ou basculer à la suite d’un événement. Parfois, rien de nouveau ne lui est appris. Un décès ou un accident ne lui révèle pas que le temps est limité : il modifie brutalement le poids d’une vérité déjà connue. Une révélation religieuse, mystique ou intellectuelle peut produire le même mouvement. Ce qui change n’est pas seulement l’opinion. C’est la personne depuis laquelle l’opinion est formulée. Ce que je tente de faire comprendre, est que la plupart du temps ces informations sont déjà intégrées, mais qu’elles n’ont pas le même poids et qu’un événement quel qu’il soit change le poids d’une information.
Nos préférences ne naissent d’ailleurs pas dans le vide. Elles peuvent changer et être influencées par l’interaction avec un système d’IA. L’IA n’observe donc pas toujours un mouvement extérieur à elle. Elle peut faire partie des forces qui le produisent.
Changer ne revient pas à supprimer une ancienne version de soi pour en installer une nouvelle. Nous emportons notre passé. Une conviction abandonnée continue d’exister comme souvenir, contrepoint ou explication de la direction choisie. Une conviction abandonnée est aussi un point de repère, une sorte d’ancrage qui agit sur le souvenir d’une bifurcation.
Cette tension traverse mon travail sur l’identité artificielle et le clone algorithmique. La continuité algorithmique fonctionne d’abord par ressemblance : puisque cette personne a souvent pensé ainsi, elle pensera probablement encore ainsi. La continuité humaine se comprend comme une trajectoire : cette personne pensait ainsi, quelque chose s’est produit, puis elle a bifurqué. La nouvelle direction contient l’ancienne, sans lui obéir.
Une IA personnelle ne devrait donc ni effacer notre passé ni lui conserver artificiellement toute son actualité. Et c’est bien là un point différenciant. Elle doit apprendre à désapprendre sans oublier : retenir qu’une conviction a existé, tout en cessant de considérer qu’elle nous définit encore. Le benchmark STALE, consacré aux souvenirs devenus obsolètes, met précisément en évidence cette difficulté. Retrouver une information récente ne suffit pas toujours à comprendre qu’une ancienne croyance a perdu sa validité et ne doit plus guider l’action.
Mille traces peuvent indiquer une direction. Un seul événement peut pourtant tout déplacer. Statistiquement, les mille traces dominent. Humainement, l’événement unique a parfois changé la trajectoire.
Le problème n’est pas la mémoire, mais l’autorité qu’on lui donne
La personnalisation porte une promesse réelle. Une IA qui se souvient peut mieux nous accompagner, comparer plusieurs périodes de notre pensée et même remarquer une évolution que nous n’avions pas encore formulée. Elle peut dire : « Il y a six mois, tu insistais sur ce point. Depuis quelques semaines, ton vocabulaire et tes priorités semblent changer. »
Ce miroir peut nous aider à nous comprendre.
Il faut donc éviter une critique trop simple de la mémoire. Le problème vient de l’autorité que nous accordons à l’interprétation produite à partir d’elle. L’IA peut signaler une continuité ou une rupture. Elle ne doit pas en décréter seule le sens. Ce qui est important de comprendre, est qu’elle ne doit pas décider de la sélection de la mémoire, ceci appartient à l’utilisateur, qui doit absolument garder le contrôle sur ce point.
Plus elle cherche à nous ressembler, plus elle peut également reconduire ce que nous sommes déjà. Elle reprend nos formulations, sélectionne les arguments compatibles avec nos hypothèses et évite parfois la contradiction utile. La recherche sur la sycophancy montre que l’ajout de contexte personnel peut renforcer cette tendance à refléter ou approuver l’utilisateur. La personnalisation ne garantit donc ni la justesse ni l’ouverture.
Elle peut rendre certaines bifurcations moins probables. Ce n’est pas par contrainte directe, je dirais plutôt par répétition.
La boucle est connue. Mes traces nourrissent le modèle que l’IA construit de moi. Ce modèle oriente les réponses qu’elle me fournit. Ces réponses influencent ma réflexion et les nouvelles traces que je produis. Puis ces traces confirment le modèle initial. A force de boucle répétitive, l’utilisateur humain peut lui-même se laisser influencer par les IA.
Nous devenons des variables codépendantes.
L’IA apprend de moi pendant que je commence à penser avec elle. Elle participe à la fabrication de la personne qu’elle prétend seulement accompagner. Cette codépendance n’est pas forcément négative. Elle devient dangereuse lorsqu’elle reste invisible, lorsque les inférences sont présentées comme des faits et lorsque la boucle ne peut plus être interrompue.
Ralentir pour laisser une bifurcation apparaître
Les IA génératives sont vendues sous le signe de la vitesse. Produire en quelques secondes. Résumer en un clic. Automatiser les étapes intermédiaires. Cette accélération est utile pour de nombreuses tâches. Elle devient une faiblesse quand la première réponse cohérente referme trop vite une question encore vivante.
Certaines pensées ont besoin de contradictions, de retours en arrière et d’hypothèses abandonnées. Elles ont besoin de temps. Le temps est une notion qui se perd avec l’usage intensif de ces intelligences artificielles. En effet, on nous vend un rêve de rapidité, ce qui est vrai pour la génération de contenus, mais lorsqu’elle est utilisée pour penser ou décider, de manière réflexive, alors le temps à tendance à se dilater.
Le travail itératif offre un antidote. L’IA peut repérer les vides, mais elle doit distinguer leur nature : ce qui relève d’une information absente, d’un contexte perdu, d’un silence ou d’une contradiction non résolue. Elle peut ensuite proposer plusieurs façons de les explorer. Pas cinquante questions qui déplaceraient tout l’effort sur l’utilisateur. Cinq ou six questions fortes, capables d’ouvrir les branches importantes. Le travail itératif sur le long terme va permettre à l’utilisateur de prompter sa sélection de question forte, comme je le disais précédemment, il s’agit de ralentir avant d’adopter les bons réflexes.
Ce travail rejoint la métacognition appliquée à l’IA générative. La machine ne livre plus seulement une conclusion. Elle rend visible le cadre choisi, les éléments manquants et les raisonnements qu’elle a privilégiés. L’humain peut alors reprendre la main.
Les travaux d’Alberto Giubilini et de ses coauteurs envisagent justement des LLM personnalisés capables de soutenir la connaissance et la construction de soi. La piste est intéressante à une condition : l’IA ne doit pas décider de la personne que nous devrions devenir. Elle peut expliciter des valeurs changeantes, faire apparaître leurs tensions et proposer des chemins. La décision reste humaine. Toujours.
Deux régimes d’utilisation se dessinent. Un mode d’exécution, rapide, pour les tâches simples, cadrées et réversibles. Ce mode est complétement automatisable, et demande peu de contrôle, via des agents, des automatisations, des skills. Un mode de bifurcation, plus lent, pour les réflexions complexes et les décisions engageantes. Dans ce second mode, l’IA maintient plusieurs hypothèses ouvertes et demande une validation avant de refermer une direction. L’automatisation dans ce cas-là est bien moins évidente, voire dangereuse.
L’IA peut être un accélérateur de production. Dans certaines conversations, elle doit aussi devenir un approfondisseur de pensée. Donc un ralentisseur.
Avec les agents, une préférence devient une règle d’action
Un assistant conversationnel influence une réflexion. Un agent peut agir dans le réel à partir de ce qu’il croit savoir de nous : répondre à notre place, classer des candidats, négocier, réserver, payer ou appliquer une ancienne préférence sans nous consulter. La question change alors d’échelle.
Je refuse que l’IA décide à la place de l’humain sur ce qui engage sa trajectoire. Un agent peut exécuter une décision déjà prise, dans un cadre clair. Il peut automatiser ce qui est répétitif, chronophage et réversible. Plus une action est coûteuse, publique, stratégique ou difficile à annuler, plus il doit revenir vers l’utilisateur.
Cette limite devient d’autant plus importante que les IA produisent une part croissante des données reprises par d’autres IA. Un système génère un contenu, un autre l’analyse, un troisième l’utilise pour décider, puis le résultat rejoint les données futures. À chaque boucle, le risque de lissage augmente. Si l’humain ne peut plus interrompre la chaîne, la cohérence produite par les machines finit par se nourrir d’elle-même.
L’intervention humaine ne doit pas servir de signature symbolique à la fin d’un processus déjà refermé. Elle doit pouvoir modifier le cadre, refuser l’inférence et rouvrir la décision.
Ce que le droit à l’incohérence devrait garantir
Si ce droit veut dépasser la formule philosophique, il doit produire des garanties simples. Une IA personnelle devrait permettre à chacun de :
- Voir le profil qu’elle utilise. L’utilisateur doit savoir quelles traces, préférences et inférences orientent la réponse ou l’action.
- Contextualiser une trace ancienne. Il doit pouvoir préciser qu’une phrase relevait d’une exploration, d’une émotion, d’une influence ou d’une situation particulière.
- Déclarer une préférence obsolète. L’information reste dans l’histoire, mais cesse de guider automatiquement le présent.
- Comparer plusieurs trajectoires. Lorsque plusieurs directions sont crédibles, l’IA les présente avec leurs tensions au lieu de sélectionner silencieusement la plus probable.
- Suspendre l’action. Toute décision engageante ou difficilement réversible exige une validation humaine réelle.
Ces garanties concernent moins la quantité de données stockées que le pouvoir des conclusions qui en sont tirées. Sandra Wachter et Brent Mittelstadt ont proposé un droit à des inférences raisonnables, parce que des prédictions sur nos comportements ou nos préférences peuvent être invérifiables tout en produisant des conséquences très concrètes. Le droit à l’incohérence ajoute une dimension temporelle : une inférence raisonnable hier peut avoir cessé de l’être aujourd’hui.
L’utilisateur doit conserver un droit de contestation sur l’actualité de son propre profil. L’IA peut relever une contradiction, demander une explication et signaler qu’une décision paraît incompatible avec les engagements passés. Elle ne doit pas prononcer seule le verdict final sur l’authenticité d’une transformation. La décision appartient et devra toujours appartenir à l’utilisateur.
Le droit de ne pas être finalisé
Il existe une ironie dans cet article. En reliant le regard de mon fils, mes réflexions sur la mémoire, l’identité algorithmique, la métacognition et les variables codépendantes, je reconstruis moi aussi une trajectoire plus ordonnée qu’elle ne l’a probablement été au moment où je l’ai vécue.
Je relie les morceaux. Je remplis certains vides.
Cette idée appartient déjà à une idéosphère hybride où les pensées circulent entre plusieurs intelligences. Elle s’est transformée au cours d’une conversation avec une IA. La différence tient à la possibilité de reprendre la main : je peux relire, contester, supprimer, réécrire et décider qu’un lien établi entre deux idées ne me paraît finalement pas juste. Cet article, rédigé avec humilité, appartient à un corpus de plusieurs réflexions autour des IA, cela me parait important dans un moment de l’histoire où les IA sont utilisées comme des outils d’optimisation, de productivité et où je pense sérieusement qu’ils devraient plutôt être utilisés comme des amplificateur de pensée. L’actualité nous le montre, il devient urgent de trouver des solutions environnementales, climatiques voire sociétales et mettre la productivité de côté. C’est bien là que les IA ont un rôle bien plus important à jouer.
La cohérence n’est pas le problème. Elle le devient lorsqu’elle cesse d’être visible, discutable et réversible.
Le droit à l’incohérence protège donc le changement, mais aussi le contexte, l’hésitation, l’essai et la rupture. Il ne demande pas à la machine de nous oublier. Il lui demande de ne pas confondre mémoire et destin.
Une IA personnelle devrait apprendre à nous connaître tout en apprenant à douter de ce qu’elle croit savoir de nous.
Elle devrait apprendre à désapprendre, sans effacer. À conserver notre histoire, sans la transformer en règle d’action. Et parfois, elle devrait accepter de ne plus nous reconnaître. C’est peut-être simplement la preuve que nous sommes encore vivants.
Pour aller plus loin : sources
Ces six références prolongent les dimensions philosophique, technique, éthique et juridique de l’article. STALE est une prépublication arXiv, signalée comme telle.
Nijhoff, Pieter (1998). “The Right to Inconsistency.” Theory, Culture & Society, 15(1), 87–112.
https://doi.org/10.1177/026327698015001009
Pourquoi la lire : Un point de départ philosophique sur la contradiction chez Zygmunt Bauman, ici transposé à la relation entre l’humain et l’IA générative.
Carroll, Micah, Davis Foote, Anand Siththaranjan, Stuart Russell et Anca Dragan (2024). “AI Alignment with Changing and Influenceable Reward Functions.” Proceedings of the 41st International Conference on Machine Learning, PMLR 235, 5706–5756.
https://proceedings.mlr.press/v235/carroll24a.html
Pourquoi la lire : Une formalisation du caractère changeant des préférences humaines et de l’influence que l’IA peut exercer sur elles.
Chao, Hanxiang, Yihan Bai, Rui Sheng, Tianle Li et Yushi Sun (2026). “STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?” Prépublication arXiv:2605.06527.
https://arxiv.org/abs/2605.06527
Pourquoi la lire : Un benchmark sur la capacité des agents à reconnaître qu’un souvenir est devenu obsolète et ne doit plus guider l’action. Version initiale soumise le 7 mai 2026.
Jain, Shomik, Charlotte Park, Matt Viana, Ashia Wilson et Dana Calacci (2026). “Interaction Context Often Increases Sycophancy in LLMs.” Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems, article 793. ACM.
https://doi.org/10.1145/3772318.3791915
Pourquoi la lire : Une étude du lien entre contexte personnalisé et complaisance des LLM, notamment leur tendance à approuver ou refléter l’utilisateur.
Giubilini, Alberto, Sebastian Porsdam Mann, Cristina Voinea, Brian Earp et Julian Savulescu (2024). “Know Thyself, Improve Thyself: Personalized LLMs for Self-Knowledge and Moral Enhancement.” Science and Engineering Ethics, 30, article 54.
https://doi.org/10.1007/s11948-024-00518-9
Pourquoi la lire : Le contrepoint positif : des LLM personnalisés pourraient soutenir la connaissance et la construction de soi.
Wachter, Sandra et Brent Mittelstadt (2019). “A Right to Reasonable Inferences: Re-Thinking Data Protection Law in the Age of Big Data and AI.” Columbia Business Law Review, 2019(2), 494–620.
https://doi.org/10.7916/cblr.v2019i2.3424
Pourquoi la lire : Une base juridique pour contester les inférences tirées de données personnelles. Une inférence valable hier peut avoir cessé de l’être aujourd’hui.
