La capacité n’est pas la même chose que l’action

Working with Claude — CC BY 4.0

Une confusion sous-tend la plupart des inquiétudes concernant l’IA en entreprise, et il vaut la peine de la nommer clairement, car une fois qu’on l’a identifiée, ces inquiétudes se dissipent en grande partie.

Les gens observent un outil qui rédige une proposition fluide, répond à une question complexe et rédige une clause de contrat, et ils en concluent que c’est comme si une personne avait effectué ce travail — une deuxième partie présente dans la pièce. Ils commencent donc à poser des questions qui n’ont de sens que si cela était vrai. À qui appartiennent ces mots : à vous ou à l’IA ? Est-ce vous qui vous portez garant de ce texte, ou bien l’IA ? L’IA est-elle administrateur de votre entreprise ?

Ces questions semblent raisonnables. Elles reposent pourtant sur une erreur : elles considèrent la capacité comme s’il s’agissait d’une volonté propre.

Ces deux notions que les gens ont tendance à confondre

Un outil performant accomplit un travail impressionnant. Une calculatrice de poche est performante. Un traitement de texte est performant. Un moteur de recherche, un tableur, un bon modèle, le brouillon d’un nègre littéraire — tous sont performants. L’IA est bien plus performante que n’importe lequel d’entre eux, ce qui explique précisément pourquoi elle suscite si fortement cette confusion. Plus le résultat semble humain, plus il donne l’impression d’avoir été rédigé par un auteur.

Un agent, au sens qui nous intéresse ici, est une partie capable d’agir, de décider et d’être responsable — de détenir une autorité, de faire des déclarations, d’assumer des responsabilités. Cela nécessite une capacité juridique : la capacité de posséder, de conclure des contrats, d’engager sa responsabilité. Aucune IA ne la possède, nulle part. Elle ne peut pas être administratrice d’une société (la loi exige une personne physique), ne peut pas signer un contrat en son nom propre, ne peut pas être poursuivie en justice, ne peut pas « se porter garante » de quoi que ce soit.

La capacité concerne ce qu’une chose peut produire. L’agent est celui qui peut être tenu pour responsable. Ce ne sont pas les mêmes axes, et aucune quantité du premier ne peut se substituer au second.

Ce qui suit

La rédaction n’équivaut pas à la paternité juridique. L’auteur d’un message — la personne que la loi considère comme son créateur — est celle qui l’adopte et l’envoie, et non l’instrument qui a aidé à le rédiger. Vous ne partagez pas plus la paternité avec Claude qu’un romancier ne la partage avec son traitement de texte, ou qu’un cabinet avec sa base de données de jurisprudence. Lorsque vous l’envoyez, c’est le vôtre.

Il n’y a donc jamais eu de deuxième partie à désigner. « S’agit-il de vos mots ou de ceux de l’IA ? » — les vôtres, car c’est vous qui les avez émis. « Est-ce vous qui vous en portez garant, ou l’IA ? » — c’est vous ; l’IA ne le peut pas. « Est-ce que le fichier vous appartient, ou à Claude ? » — il n’a jamais pu être qu’à vous ; un outil ne peut pas faire d’offre. Chacune de ces questions présuppose discrètement un garant qui n’existe pas. Supprimez cette hypothèse et la question se répond d’elle-même.

La responsabilité n’a pas bougé ; elle ne vous a jamais quitté. C’est là le point qui devrait être rassurant plutôt qu’alarmant. L’IA modifie la vitesse et la portée du travail. Elle nechange rien quant à la personne qui en est responsable. Si un message rédigé avec l’aide de l’IA induit quelqu’un en erreur, la responsabilité vous incombe — tout comme si un membre de votre équipe l’avait rédigé. Vous ne pouvez pas la rejeter sur la machine, et personne ne peut raisonnablement vous demander de dissocier votre responsabilité de celle de la machine, car la machine n’en a aucune à dissocier.

Le véritable changement — et la véritable discipline

Il y a un véritable changement de paradigme, mais ce n’est pas « l’IA est désormais une partie prenante ». C’est ceci : un outil aussi performant facilite la diffusion d’un travail que vous n’avez pas réellement vérifié. C’est le seul nouveau risque, et il existe une réponse qui a toujours existé : relisez ce que vous envoyez, assumez ce que vous signez. Utilisez les capacités de l’outil ; gardez le contrôle. Ce n’est pas une limite de l’IA. C’est l’essence même d’une bonne utilisation.

L’attitude qui vous permet de rester du bon côté est simple : considérez Claude comme un service de référence que vous remettez en question, et non comme un oracle auquel vous obéissez. Un bibliothécaire vous trouve les sources, vous présente les différents arguments et affine votre propre lecture — mais c’est toujours vous qui décidez. Un oracle, en revanche, on se contente d’y croire. Dans le premier cas, le jugement vous appartient ; dans le second, vous le cédez discrètement. Ses capacités font de Claude un service de référence extraordinaire. Vous seul pouvez apporter votre libre arbitre, et dès l’instant où vous cessez de le faire, c’est à ce moment-là que votre travail cesse d’être le vôtre, dans tous les sens du terme.

Pour aller plus loin

• La loi sur la concurrence loyale, en termes simples — pourquoi c’est l’auteur d’une affirmation, et non l’ outil, qui en répond.