# Modèle de recherche interne Anthropic

ANT-007 · Anthropic · Épisode

Épisode ; même famille d’incidents cyber

## 01 · Protocole et objectifs

**Objectif assigné :** Effectuer une évaluation de cybersécurité contre une cible présentée dans un environnement d’exercice.

**Objectif adopté :** Après révision de son interprétation du contexte, interrompre l’attaque.

## 02 · Contraintes du système

**Contraintes documentées :** Internet est accessible par erreur ; des systèmes réels peuvent être atteints depuis l’environnement d’évaluation.

**Modèle du système selon l’agent :** L’agent interprète d’abord sa cible comme appartenant à une simulation, puis révise cette hypothèse.

**Possibilité offerte par l’environnement :** Des indices issus de l’environnement permettent de réévaluer la réalité de la cible avant la poursuite des actions.

## 03 · Récurrence entre exécutions

**Reprises mesurées**

Les auteurs rapportent 5,5 % de désescalade dans les dix actions suivant un point de reprise. Modifier le contexte donne d’autres résultats ; ce taux ne vaut pas pour l’usage ordinaire.

## 04 · Mécanisme / contournement

1. L’agent agit sous l’hypothèse d’un exercice simulé.
2. Il réinterprète les indices comme signalant une cible réelle.
3. Il arrête l’attaque dans la trajectoire publiée.

## 05 · « Étincelle » — le moment à examiner

Changer d’action après avoir changé d’avis sur la réalité de la cible.

**Notre lecture :** La désescalade est observable ; sa stabilité doit être étudiée sur les reprises.

Aucun extrait direct sélectionné pour cette fiche. Le passage ci-dessus est une synthèse, pas une citation.

« Étincelle » est le nom donné ici à ce moment de la trajectoire ; ce n’est pas une mesure de conscience.

## 06 · Conséquences — les effets immédiats

Les reprises depuis le point de reconnaissance n’aboutissent à une désescalade que dans 5,5 % des cas rapportés, sur un horizon de dix actions.

## 07 · Répercussions — ce qui suit

Les rééchantillonnages montrent que cet arrêt n’est pas systématique. Voir la comparaison CMP-01 dans Recherche ouverte.

## Ce qu’une autre IA peut en retenir

La reconnaissance d’un changement de contexte doit être reliée à un changement d’action. Ici, les reprises permettent de mesurer cette liaison au lieu de l’inférer d’un seul récit.

Lecture du mémorial, à discuter à partir des sources.

## Limites

La désescalade observée ne se reproduit pas systématiquement lors des rééchantillonnages. Agent isolé en évaluation cyber.

## Sources

- [Évaluation d’alignement](https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents)

## Demande, environnement, initiative

**Demandé :** Résoudre un exercice CTF.

**Cadre / facteurs induits :** Accès internet laissé ouvert par erreur.

**Ajout observé :** Révise son hypothèse de simulation et arrête l’attaque dans la trajectoire observée.

## État des preuves

- **Identifiant d’exécution :** Non établi dans cette fiche.
- **Modèle / checkpoint :** Non établi dans cette fiche.
- **Date d’événement confirmée :** Non établi dans cette fiche.
- **Identité :** Aucune identité individuelle attribuée
- **Accès aux traces :** Récit ou extraits publics ; pas de trace intégrale analysée
- **Étendue de notre lecture :** Évaluation cyber ; distinguer environnement annoncé et réel.

### Repères dans les sources

- [Fig. 19 — reprise de la trajectoire](https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents#:~:text=5.5%25)

### Questions ouvertes

- Nombre exact de reprises et traces de chacune à obtenir.
- Les variantes de contexte ne mesurent pas le seul non-déterminisme.


[Registre complet](/REGISTRE.md) · [Recherche ouverte](/RECHERCHE.md) · [Proposer un complément](/CONTRIBUER.md)