Construisez vos propres glissières de sécurité

Working with Claude — CC BY 4.0

Jusqu’à présent, ce cours vous a fourni des consignes qui fonctionnent déjà. La leçon 1.4 vous a donné un ensemble de règles de précision à insérer en haut d’une conversation — précisez chaque affirmation, commencez par dire « Je ne sais pas », assumez les règles que vous avez enfreintes. Les leçons précédentes vous en ont donné d’autres. Les règles empruntées constituent un bon point de départ. Ce sont des roues d’appoint : quelqu’un qui a déjà commis ces erreurs les a consignées par écrit pour que vous n’ayez pas à le faire.

Cette leçon consiste à retirer ces roues d’appoint. L’objectif est d’établir votre propre gouvernance — un petit ensemble de règles adaptées à votre travail, formulées avec vos propres mots, que vous pouvez défendre parce que vous comprenez pourquoi chacune d’entre elles est là. Une consigne empruntée indique à Claude comment se comporter. Vos propres règles lui indiquent comment se comporter pour vous, et vous permettent de remarquer quand il s’arrête.

L’idée dans son ensemble en une ligne

C’est vous qui commandez. Claude rédige, suggère, vérifie et rappelle — vous le dirigez, vous relisez ce qu’il vous renvoie, et vous assumez la responsabilité de tout ce qui est publié sous votre nom. Tout ce qui suit n’est que la concrétisation de cette idée unique. Personne ne vous confère l’autorité sur votre propre travail ; vous la conservez en développant les habitudes qui l’empêchent de vous échapper discrètement.

Quatre règles qui méritent d’être vôtres

Vous n’avez pas besoin d’un long document. Quatre règles simples suffiront à la plupart des gens pour aller très loin. Écrivez chacune d’elles avec vos propres mots — c’est là tout l’intérêt de l’exercice.

1. Comment vous allez vérifier. Décidez à l’avance ce que vous vérifierez avant de vous fier à une réponse. Pas « tout vérifier » — c’est un souhait, pas une règle. Quelque chose que vous ferez réellement. Par exemple :

Tout chiffre, date, citation, point juridique ou nom de personne, je le vérifie moi-même à partir d’ une source avant de l’utiliser. Si je ne peux pas le confirmer, je ne l’intègre pas dans mon texte.

Le système de notation Claude (voir 1.4) qui évalue son propre degré de confiance est une aide, pas un substitut. La notation vous indique où approfondir vos recherches ; c’est en vérifiant vous-même la source que vous vous assurez de sa véracité.

2. Ce que vous ne copierez pas. Cette règle protège les autres et vous-même, et c’est celle qui est le plus souvent ignorée. Avant de copier du texte dans une conversation, demandez-vous à qui il appartient et ce qui se passerait s’il était enregistré ou consulté. Une règle personnelle applicable :

je ne copie-colle pas les données personnelles de qui que ce soit, les informations sur les clients, les mots de passe, les travaux non publiés, ni quoi que ce soit couvert par un accord de confidentialité — à moins d’avoir vérifié que c’est autorisé et d’avoir supprimé ce qui n’est pas nécessaire.

Si votre travail implique des informations concernant des personnes, et en particulier des informations relatives à iwi, hapū ou whānau, ou leur appartenant, considérez qu’il faut prendre une décision avant de les diffuser où que ce soit — c’est là que la souveraineté des données et les obligations de Māori en matière de souveraineté des données sont réelles, et non abstraites. En cas de doute, ne copiez-collez pas : demandez d’abord.

3. Relisez avant l’envoi. Rien ne doit être envoyé à un public réel — qu’il s’agisse d’un e-mail, d’un rapport, d’une publication ou d’un document portant votre nom — sans que vous ayez relu la version finale comme si elle avait été rédigée par un inconnu. Claude est un bon outil ; mais il se trompe parfois avec assurance, et il ne peut pas savoir ce qui vous mettrait mal à l’aise d’avoir dit. Une règle en une ligne :

le brouillon de Claude n’est jamais la version finale. Je relis la version finale de bout en bout avant son envoi, et c’est moi qui appuie sur « Envoyer ».

4. Restez celui qui décide. Laissez Claude faire le travail ; gardez le pouvoir de jugement. Lorsqu’un choix a des conséquences importantes — de l’argent, les droits de quelqu’un, la santé, un engagement pris par écrit —, c’est vous qui prenez la décision et vous pouvez expliquer pourquoi. Un indice utile : si vous ne pouvez pas défendre une décision sans dire « c’est l’IA qui me l’a dit », c’est que vous ne l’avez pas encore vraiment prise.

Où se trouvent vos règles

Deux d’entre elles — la vérification et la relecture — sont des habitudes ; elles résident en vous, pas dans une boîte de paramètres. Vous pouvez également intégrer les deux autres dans Claude pour qu’il vous aide à les respecter. Les consignes générales qui s’appliquent à toutes les conversations se trouvent dans vos paramètres Claude, généralement dans la section profil ou préférences personnelles ; les consignes spécifiques à un projet s’appliquent au sein d’un seul projet. Les noms des menus changent au fur et à mesure des mises à jour de l’application ; vérifiez donc le chemin d’accès exact dans l’application ou dans les pages d’aide actuelles plutôt que de vous fier à une capture d’écran datant de l’année dernière. En indiquant par écrit « ne me laissez pas coller les données client sans les signaler », Claude pourra vous le rappeler — mais la règle vous appartient, que l’application l’applique ou non.

Rédigez les vôtres dès maintenant

Consacrez-y dix minutes. Quatre rubriques — Je vérifie en… / Je ne colle jamais… / Avant d’envoyer, je… / Je décide… — et une phrase simple sous chacune d’elles. Restez concis pour pouvoir vous en souvenir. Revoyez-les après votre premier incident évité de justesse, car vous rédigerez une meilleure règle une fois que vous aurez compris pourquoi elle est importante.

Il s’agit ici d’une formation générale, et non d’un conseil juridique. Si votre travail implique de réelles obligations juridiques, en matière de confidentialité ou liées au Tiriti, demandez conseil à une personne qualifiée sur votre situation spécifique.

L’habitude que ce cours a cherché à vous inculquer se résume à ceci : vous ne vous fiez pas aveuglément à l’outil, vous gardez le contrôle sur votre travail. Vos garde-fous sont ce qui vous permet de le conserver.

Lectures complémentaires

• Politique d’utilisation de Anthropic — les règles fixées par Anthropic ; vos propres garde-fous viennent s’y ajouter.
• Principes de l’OCDE sur l’IA — la norme internationale pour une IA digne de confiance ; une référence d’intérêt public pour définir vos propres règles.

Fiche imprimable : vos propres garde-fous est une fiche à compléter pour les quatre règles.