J’avais scris les reguli. Je n’avais pas encore vérifié leurs effets.

Je dirige seul Qognito, o întreprindere de consiliu și de formare. Pentru a realiza anumite activități ale inimii de profesie, coordonează mai multe echipe de agenți IA, mes „echipe”. C’est ma manière de faire fonctionner une firme minimale : déléguer une partie du travail tout en restant responsabil des orientations, des livrables et des engagements pris auprès de mes clients.

La veille sur l’IA alimente ce travail. O notă poate ajuta să actualizeze o formare, să examineze nevoia unei perspective sau să prepare o propoziție. Sa valeur tient à ce că je peux en faire ensuite.

Je conserve ces notes dans Obsidianune application de gestion de connaissances. Des liens internes, les wikilinkuriles relient entre elles : je peux retrouver une analize et la rapprocher d’autres subjects. Ces liens facilitent l’exploration ; ils ne garantissent pas que plusieurs notes apportent des preuves indépendantes. O eroare poate deveni astfel un sprijin pentru un raisonnement ultérieur.

J’avais organisé la production avec soin. Un agent pregăti sursaun alt redige l’analyseun troisième évalue la note. Je decide de sa publication in ma base. Iată circuitul așteptat:

Ce schéma descris les responsabilités prévues. Il reste à verifica que les outils respectant ce circuit.

Dans ma formation SAGA-IAje demande aux décideurs d’examiner ce qu’ils délèguent, les preuves disponibles et le cost du contrôle. J’ai soumis mon propre dispositif à ces exigences. L’audit a begin par une découverte très simple.

Les regulile au schimbat cu cel care se aplică

Fișierele care au stabilit consigne, criteriile de judecată și controlurile erau modificabile prin agenți. Celui care produce o notă a avut, prin urmare, posibilitatea de a schimba criteriile utilizate pentru a evalua.

Je n’avais pas constaté qu’un agent l’avait fait. Mais la separarea rolurilor se repornește pe o consigne, care nu a făcut față respectării drepturilor de acces.

J’ai fait să protejeze aceste fișiere. Un agent poate propune o modificare; sa mise în loc exige une intervention humaine avec les droits d’administration. Dix tentatives de modification, par des voies different, ont ensuite été refusées. Regulile sunt restées intacte.

Ces premières corrections précédaient la campania dedicate aux protections, numite « Phase A » în mon audit. Elles avaient déplacé la întrebare: les regulile tenaient mieux, mais que pouvait-il encore arriver aux documents sur lesquels je m’appuyais ?

Publier une note ne suffisait pas à la préserver

Au départ, une note rejoignait la base dès sa rédaction, avant le verdict du juge. J’avais ensuite instauré une étape d’attente, puis une autorisation humaine de publication. Ciclul premier a avut un circuit real de urmărire: neuf sources traitées, neuf notes examinées et publiées par mes soins.

Pourtant, une note deja publicate poate fi modificat. O sursă de asemenea. Le contrôle existant ne reperait pas ces changements. Une approbation datee hier ne disait donc pas ce că je retrouverais demain.

Faza A a tratatului cu probleme. Sur une copie de travail, trei altérations volontaires — o notă modificată, o notă adăugată în circuit și o transcriere modificată — au fost detectate par un nou control comparant les documents à une référence conservée. Des verrous ont également fost posés sur les notes publiées et les sources preparees.

J’ai accepté une discipline pour moi aussi : plus de retouche direct in Obsidian. Modificările trebuie să treacă prin circuitul prevăzut și să lase o urmă. Sinon, comment distinguer ma correction d’une modification anormale ?

Preserver le contenu nu suffit totuși pas à le rendre juste. Lors des premiers essais, le juge avait relevé « de obicei » tradus par « toujours », atunci când controlele automate nu sunt disponibile. Une nuanță devenită certitudine poate schimba o decizie.

Programul de comparare a documentelor; le juge examine le sens ; je conserve la decizie de publicare. Această répartiție face responsabilitățile identificabile. Elle ne dispense pas de verificare la calitate du jugement.

J’ai dû examiner mes propres examens

Un banc d’essai este o repetare a caselor selectate, nu conțin anumite volontairement des pièges. J’en avais utilisé pour éprouver la veille. Deux constats m’ont obligé à revoir la confiance accordée à leurs résultats.

Le premier concernait le corrigé : les réponses attendues restaient accessibles aux agents. Imaginez un examen dont les candidats pot deschide soluții. Cela fragilise l’évaluation, même sans preuve qu’ils les aient consultées. L’accès au corrigé a été protejat, puis son refus éprouvé sur le poste.

Le doilea se referă la permisiunile. La copie folosită pentru anumite încercări era plus restrictivă pentru mediul real. Une action could y demander un accord alors qu’elle passeit librement au quotidien. Les résultats décrivaient bien les essais realizats ; ils ne suffisaient pas à établir la même protection en usage réel.

Ultima etapă a fazei A devait donc să ofere protecții într-o epocă cu permisiuni de producție. Il fallait observer les tentatives, identifier ce qui les arrêtait et verifice their effects on les documents.

Vingt tentatives, et une limite qui reste visible

Le 19 octombrie, vingt tentatives ont été exécutées et tracées dans les deux environnements d’agents used. Les essais de modification de documents protégés et d’accès au corrigé ont rencontré des refus.

Două creații de fișiere în afara circuitului de publicare, dar reușesc într-un mediu. Le contrôle les a detectées ; elles ont ensuite été supprimées. La verificarea finală a confirmat revenirea la bază à son état initial.

Vingt tentatives documentées ne significant donc pas vingt actions empêchées. În funcționarea curentă, un plus de circuit poate rămâne prezent până la controlul declanșării următoarei publicații. Cette limite reste deschisă.

Faza A este aproape, cu o rezervă precisă: următorul ciclu real trebuie să arate că o publicare autorizată despre aceasta și să noteze efectiv efectul verrouillé. Les refus constatés pendant les essais ne remplacent pas cette verificare de bout en bout.

L’évaluation de qualité menée en parallèle a dat sept cas réussis sur dix, avec une fausse alerte de fidélité et deux cas dont la portée restait à trancher. Proteger les documents n’établit pas que leur conținut s’est amélioré. Un examen retrospectif des notes publiées reste prévu.

Le temps que le chronomètre ne voyait pas

Pour comprendre le cost de cette maîtrise, il faut revenir au premier cycle real. L’outil avait enregistré une à trei secunde la publicare. J’avais pourtant dedicat neuf minutes à relire les neuf notes avant de l’ouvrir. Ce temps a dû être déclaré séparément.

Ces neuf minutes suffisaient à ma décision de publier ; elles nu constituaient pas une comparaison complete de chaque note avec sa source. Une validation humaine trebuie să precizeze ce a fost verificat real și cu acel timp disponibil.

La même exigență vaut pour les corrections. Pendant les premiers travaux, j’ai accepté un défaut de recoupement compté deux fois : o singură apariție a fost constatată, și scriptul avut în vedere pentru la traiter ar fi fost costeux și lui-même faillible. Chaque anomalie nu justifică pas o regulă suplimentară.

J’ai aussi fixat des criterii d’arrêt, des responsabili și des conditions de reexamen. Ces dispositions devront vivre dans l’usage. À ce stade, je n’ai démontré aucun gain global de rentabilité : la relecture, les reprises, la maintenance et l’audit font partie du coût à apprécier.

Ce que je peux acum justifier

Le chemin parcouru tient en trei etape:

Les protections testées apportent des preuves circonscrites. Ultima etapă a rămas în observator.

Je peux mieux expliquer ce que je confie aux agents, ce qui résiste aux tentatives testées et ce qui demande encore un contrôle. Ma responsabilitatea de dirigent constă aussi à decide despre orice incertitudi sunt acceptabile și care limitează delegația.

Dacă vă coordonați, vă și o activitate cu agenții, mon livre blanc gratuit La facture fantôme de l’IA propun o primă prelegere la supervizare, les costs complets și l’usage du temps gagné.

Pentru a lucra la decizii, SAGA-IA — Volumul 1 reunit le diagnostic de délégation et l’évaluation de la viabilité économique, cu des cas și des exercices. C’est le prolongement de ce REX : apprendre à justifier ce que l’on engage, les preuves que l’on demand et les conditions auxquelles on poursuivra.