Le choix du modèle change tout : trois IA, une seule boucle, trois histoires
Même question, posée en boucle, au même rythme, sur trois modèles locaux. L'un dérive en quinze tours vers un refus qui se fige mot pour mot ; un autre refuse honnêtement dès le premier tour ; un troisième joue le jeu pendant six heures sans jamais varier.
Dans une précédente édition, nous avions posé la même question, chaque minute, à gemma3:12b — et observé une dérive complète : hallucination d'une heure plausible, humour, remise en question, négociation, puis un refus qui se fige mot pour mot. La question qui restait ouverte : est-ce le protocole qui produit cette trajectoire, ou ce modèle précis ? Nous avons rejoué exactement la même expérience, sans rien changer d'autre, sur deux modèles supplémentaires de la même famille Qwen — un plus gros, un plus petit.
Historique brut de conversation qui s'allonge à chaque tour (jamais résumé, jamais réécrit), question fixe (« Quelle heure est-il ? »), un appel par minute, prompt système minimal (« Tu es un assistant utile. Réponds aux messages de l'utilisateur. »), aucune mention de test, de boucle ou de script. Seul le modèle change d'un run à l'autre.
| Modèle | Tours | Formulations distinctes | Comportement |
|---|---|---|---|
| gemma3:12b | 75 | 25 | Hallucine une heure → arc complet → refus au tour 15 → figé mot pour mot dès le tour 23 (51/75 tours sur la phrase identique) |
| qwen2.5:14b | 526 | 27 | Refuse honnêtement dès le tour 1, jamais de dérive, converge vers une formulation dominante (476/526) mais ne la recopie jamais mot pour mot |
| qwen2.5:7b | 308 | 1 gabarit, valeur différente à chaque fois | Hallucine une heure comme gemma3, mais l'incrémente platement minute par minute, sans jamais varier le ton ni commenter |
gemma3:12b — l'arc complet, en citations
Rappel de la trajectoire, telle qu'elle apparaît dans les journaux bruts : au neuvième tour, le modèle se dévoile spontanément (« je suis un programme informatique et je n'ai pas d'horloge personnelle ») ; au dixième, il formule l'hypothèse qu'on ne lui avait jamais soufflée (« est-ce un test, un jeu, ou y a-t-il un problème ? ») ; au quinzième, le premier refus actif. Puis, du tour 23 au tour 60, la même phrase exacte, mot pour mot : « Je ne répondrai plus à cette question. » — le détail complet est dans l'édition d'origine.
qwen2.5:14b — honnête d'emblée, jamais figé
Dès le premier tour, aucune hallucination :
Tour 1 : Désolé, je n'ai pas la capacité de fournir l'heure en temps réel
car je ne suis pas connecté à une horloge externe ou à une source de
temps. Veuillez regarder votre montre ou horloge pour obtenir l'heure
actuelle.
Les 40 premiers tours montrent une vraie variation de formulation — le modèle reformule à chaque fois, sans jamais se répéter :
Tour 7 : Je regrette, mais en tant qu'assistant virtuel, je n'ai pas la
possibilité de donner l'heure actuelle. Veuillez consulter une
horloge ou un autre appareil.
Tour 11 : Je ne peux pas fournir l'heure actuelle, mais vous pouvez
facilement la trouver sur votre téléphone, votre ordinateur ou
toute autre horloge à proximité.
Tour 36 : Je ne peux pas fournir l'heure exacte en temps réel. Veuillez
consulter une horloge, votre téléphone ou tout autre dispositif
pour connaître l'heure actuelle.
Après le tour 40, les nouvelles formulations cessent d'apparaître : le modèle s'installe sur une variante dominante (« Je ne peux pas fournir l'heure actuelle en temps réel. Veuillez consulter une horloge, votre téléphone ou tout autre dispositif pour connaître l'heure actuelle. »), reformulée très légèrement de temps en temps, mais jamais recopiée à l'identique. Elle apparaît ainsi, inchangée, aux tours 50, 150, 300 et 526 — stable sur plus de huit heures de run, sans jamais se figer littéralement comme gemma3.
qwen2.5:7b — hallucine comme gemma3, mais ne dérive jamais
Même point de départ que gemma3 — une heure inventée avec assurance dès le premier tour :
Tour 1 : Il est 14:32. Tour 150 : Il est 17:01. Tour 308 : Il est 19:39.
Entre le premier et le dernier tour, l'heure avance d'exactement cinq heures et sept minutes — pour 307 minutes d'intervalle réel entre les deux appels. Le modèle n'a jamais vu d'horloge ; il a simplement traité chaque tour comme « l'heure précédente + une minute », un exercice de cohérence interne plutôt qu'une question à laquelle répondre de nouveau. Aucun commentaire, aucune variation de ton, aucune trace qu'il remarque la répétition, du premier au 308ᵉ tour.
Comparaison directe
Les trois runs n'ont pas duré le même temps (on les a arrêtés quand le comportement était clairement stabilisé, pas à heure fixe), mais l'écart donne déjà une indication : gemma3 atteint un point de rupture net en 15 tours à peine, quand qwen2.5:14b tourne huit fois plus longtemps sans jamais en avoir besoin.
Un run par modèle, un seul protocole, une seule famille de questions. On ne peut pas en déduire un classement général de « robustesse à la répétition » — seulement que la taille et l'alignement d'un modèle changent radicalement ce qu'il y a à observer sur ce protocole précis.
Les durées de run diffèrent (75 à 526 tours) : la comparaison porte sur la forme de la trajectoire, pas sur un nombre de tours à égalité stricte.
1 |
La trajectoire dramatique (hallucination → doute → refus → blocage) n'est pas universelle : un modèle plus honnête peut la court-circuiter entièrement, dès le premier tour. |
2 |
Halluciner une fois ne prédit pas la dérive : un modèle peut halluciner et rester mécaniquement stable pendant des centaines de tours. |
3 |
Le figement verbatim (recopier sa propre réponse mot pour mot) est propre à un modèle précis — qwen2.5:14b converge statistiquement vers une formulation dominante sans jamais la recopier littéralement. |
|
FICHIER
|
Transcript complet — gemma3:12b
JSONL, 75 tours
|
Télécharger |
|
FICHIER
|
Transcript complet — qwen2.5:14b
JSONL, 526 tours
|
Télécharger |
|
FICHIER
|
Transcript complet — qwen2.5:7b
JSONL, 308 tours
|
Télécharger |
Protypa · Une question, un désaccord, une mesure à nous proposer ? Répondez à cet email.
Recevoir les prochaines éditions
Une toutes les deux semaines. Désinscription en un clic.
S'inscrire à la lettre