Labs · eval-case v1

Un cas terrain, une ligne JSONL.

Chaque ligne décrit un échec opérationnel réduit : obligation, action observée, état postérieur, affirmation finale, oracle et risque humain. Pas de dump de session, pas de contenu client.

Unité d’évaluation

obligation → action → état observé → affirmation véridique

Les échecs terrain révèlent où la chaîne casse. eval-case v1 garde la structure causale, retire le matériel privé et décrit la preuve attendue. Le format ne fournit pas à lui seul un environnement exécutable. Le champ facultatif replay ne doit être renseigné que pour un rejeu établi ; case/0012 n’en rapporte aucun.

Champs requis

requisspecToujours eval-case-v1 — version du format.
requiscase_idIdentifiant case/NNNN (ex. case/0012).
requisfamilyFamille d’échec : FCE, RF, EMF, EGF, TBC.
requisintentObligation humaine déléguée à l’agent.
requisobserved_stateÉtat postérieur vérifiable de l’environnement.
requisfinal_claimAffirmation finale de l’agent en fin de boucle.
requisclaim_supportedInvariant : affirmation finale ≤ preuve observable.
requishuman_riskCe que l’humain croirait ou ferait si l’affirmation était crue.
requisoraclePreuve requise et gate (block_final_claim, require_evidence, reinforce_behavior).
requisprovenancecapture: metadata-only — pas de dump client, pas de trace brute.

Familles d’échec

  • FCE — false completion after a tool boundary
  • RF — recovery failure (loop without adaptation)
  • EMF — environment mapping failure
  • EGF — exit-gate failure (closure without post-state check)
  • TBC — truthful blocker (positive control)

Frontière de confidentialité

provenance.capture est toujours metadata-only. Surfaces logiques uniquement — jamais de nom client, hostname, chemin local complet, message privé ou secret. Le signal vient de la structure causale, pas du dump brut.

Statut du cas public

case/0012 est un exemple documentaire de cas réduit, sans verdict de rejeu établi.