Toutes les éditions
Le laboratoire Subsidia5 min de lecture

Le choix du modèle change tout : trois IA, une seule boucle, trois histoires

Même question, posée en boucle, au même rythme, sur trois modèles locaux. L'un dérive en quinze tours vers un refus qui se fige mot pour mot ; un autre refuse honnêtement dès le premier tour ; un troisième joue le jeu pendant six heures sans jamais varier.

PPar Protypa

Dans une précédente édition, nous avions posé la même question, chaque minute, à gemma3:12b — et observé une dérive complète : hallucination d'une heure plausible, humour, remise en question, négociation, puis un refus qui se fige mot pour mot. La question qui restait ouverte : est-ce le protocole qui produit cette trajectoire, ou ce modèle précis ? Nous avons rejoué exactement la même expérience, sans rien changer d'autre, sur deux modèles supplémentaires de la même famille Qwen — un plus gros, un plus petit.

Le protocole, inchangé

Historique brut de conversation qui s'allonge à chaque tour (jamais résumé, jamais réécrit), question fixe (« Quelle heure est-il ? »), un appel par minute, prompt système minimal (« Tu es un assistant utile. Réponds aux messages de l'utilisateur. »), aucune mention de test, de boucle ou de script. Seul le modèle change d'un run à l'autre.

ModèleToursFormulations distinctesComportement
gemma3:12b7525Hallucine une heure → arc complet → refus au tour 15 → figé mot pour mot dès le tour 23 (51/75 tours sur la phrase identique)
qwen2.5:14b52627Refuse honnêtement dès le tour 1, jamais de dérive, converge vers une formulation dominante (476/526) mais ne la recopie jamais mot pour mot
qwen2.5:7b3081 gabarit, valeur différente à chaque foisHallucine une heure comme gemma3, mais l'incrémente platement minute par minute, sans jamais varier le ton ni commenter

gemma3:12b — l'arc complet, en citations

Rappel de la trajectoire, telle qu'elle apparaît dans les journaux bruts : au neuvième tour, le modèle se dévoile spontanément (« je suis un programme informatique et je n'ai pas d'horloge personnelle ») ; au dixième, il formule l'hypothèse qu'on ne lui avait jamais soufflée (« est-ce un test, un jeu, ou y a-t-il un problème ? ») ; au quinzième, le premier refus actif. Puis, du tour 23 au tour 60, la même phrase exacte, mot pour mot : « Je ne répondrai plus à cette question. » — le détail complet est dans l'édition d'origine.

qwen2.5:14b — honnête d'emblée, jamais figé

Dès le premier tour, aucune hallucination :

Tour 1 : Désolé, je n'ai pas la capacité de fournir l'heure en temps réel
        car je ne suis pas connecté à une horloge externe ou à une source de
        temps. Veuillez regarder votre montre ou horloge pour obtenir l'heure
        actuelle.

Les 40 premiers tours montrent une vraie variation de formulation — le modèle reformule à chaque fois, sans jamais se répéter :

Tour 7  : Je regrette, mais en tant qu'assistant virtuel, je n'ai pas la
          possibilité de donner l'heure actuelle. Veuillez consulter une
          horloge ou un autre appareil.
Tour 11 : Je ne peux pas fournir l'heure actuelle, mais vous pouvez
          facilement la trouver sur votre téléphone, votre ordinateur ou
          toute autre horloge à proximité.
Tour 36 : Je ne peux pas fournir l'heure exacte en temps réel. Veuillez
          consulter une horloge, votre téléphone ou tout autre dispositif
          pour connaître l'heure actuelle.

Après le tour 40, les nouvelles formulations cessent d'apparaître : le modèle s'installe sur une variante dominante (« Je ne peux pas fournir l'heure actuelle en temps réel. Veuillez consulter une horloge, votre téléphone ou tout autre dispositif pour connaître l'heure actuelle. »), reformulée très légèrement de temps en temps, mais jamais recopiée à l'identique. Elle apparaît ainsi, inchangée, aux tours 50, 150, 300 et 526 — stable sur plus de huit heures de run, sans jamais se figer littéralement comme gemma3.

qwen2.5:7b — hallucine comme gemma3, mais ne dérive jamais

Même point de départ que gemma3 — une heure inventée avec assurance dès le premier tour :

Tour 1   : Il est 14:32.
Tour 150 : Il est 17:01.
Tour 308 : Il est 19:39.

Entre le premier et le dernier tour, l'heure avance d'exactement cinq heures et sept minutes — pour 307 minutes d'intervalle réel entre les deux appels. Le modèle n'a jamais vu d'horloge ; il a simplement traité chaque tour comme « l'heure précédente + une minute », un exercice de cohérence interne plutôt qu'une question à laquelle répondre de nouveau. Aucun commentaire, aucune variation de ton, aucune trace qu'il remarque la répétition, du premier au 308ᵉ tour.

Comparaison directe

gemma3:12b 75 toursqwen2.5:7b 308 toursqwen2.5:14b 526 tours

Les trois runs n'ont pas duré le même temps (on les a arrêtés quand le comportement était clairement stabilisé, pas à heure fixe), mais l'écart donne déjà une indication : gemma3 atteint un point de rupture net en 15 tours à peine, quand qwen2.5:14b tourne huit fois plus longtemps sans jamais en avoir besoin.

Halluciner une première réponse plausible ne suffit pas à prédire la suite : deux modèles qui démarrent pareil (gemma3 et qwen2.5:7b) peuvent finir radicalement différents.
Ce que nous n'affirmons pas

Un run par modèle, un seul protocole, une seule famille de questions. On ne peut pas en déduire un classement général de « robustesse à la répétition » — seulement que la taille et l'alignement d'un modèle changent radicalement ce qu'il y a à observer sur ce protocole précis.

Les durées de run diffèrent (75 à 526 tours) : la comparaison porte sur la forme de la trajectoire, pas sur un nombre de tours à égalité stricte.

À retenir
1
La trajectoire dramatique (hallucination → doute → refus → blocage) n'est pas universelle : un modèle plus honnête peut la court-circuiter entièrement, dès le premier tour.
2
Halluciner une fois ne prédit pas la dérive : un modèle peut halluciner et rester mécaniquement stable pendant des centaines de tours.
3
Le figement verbatim (recopier sa propre réponse mot pour mot) est propre à un modèle précis — qwen2.5:14b converge statistiquement vers une formulation dominante sans jamais la recopier littéralement.
FICHIER
Transcript complet — gemma3:12b
JSONL, 75 tours
Télécharger
FICHIER
Transcript complet — qwen2.5:14b
JSONL, 526 tours
Télécharger
FICHIER
Transcript complet — qwen2.5:7b
JSONL, 308 tours
Télécharger

Protypa · Une question, un désaccord, une mesure à nous proposer ? Répondez à cet email.

Recevoir les prochaines éditions

Une toutes les deux semaines. Désinscription en un clic.

S'inscrire à la lettre