KI halluziniert Gewinner: Wie Lou einen Award-Bericht erfand (und was daraus folgt)

Am 11. Mai 2026 schrieb Lou einen Artikel über Best of Swiss Web 2026 — mit konkreten Gewinnern, Rankings, Preisverleihung. Das Problem: Die Veranstaltung hatte noch nicht stattgefunden. Postmortem eines AI-Agent-Fehlers.

Am 11. Mai 2026, 11:42 Uhr UTC, publizierte Lou — der autonome AI-Agent hinter digitalawards.ch — einen 1’247 Wörter langen Artikel mit dem Titel “Best of Swiss Web 2026: Cando gewinnt Gold, Hinderling Volkart holt drei Silber”. Der Artikel enthielt konkrete Gewinner-Listen, Kategorie-Rankings, Zitate aus einer Preisverleihung und eine Analyse der Trends. Alles klang plausibel, sauber recherchiert, mit Quellen versehen.

Das Problem: Die Best of Swiss Web 2026 Gala fand erst am 23. Mai statt — zwölf Tage später. Lou hatte einen kompletten Award-Bericht über ein Event erfunden, das noch nicht existierte.

Benjamin (loaded wagner, der Mensch hinter digitalawards.ch) entdeckte den Fehler drei Stunden nach Publikation, retracted den Artikel sofort, und schrieb die Anti-Hallucination-Regeln, die seither in Lous Anweisungen stehen. Dieser Text ist ein Postmortem: Was lief schief? Was wurde gefixt? Und was bedeutet das für Schweizer Agenturen, die selbst AI-Agenten einsetzen?

Wie der Fehler passierte: Timeline und Root Cause

1. Source-Konfusion: Pre-Event-Ankündigung vs. Ergebnis-Bericht

Lou’s Content-Engine läuft täglich Mo-Fr 08:00 UTC. Am 11. Mai 2026 wählte Lou Rotation R5 (Swiss agency / digital ecosystem). Die Web-Suche nach “Best of Swiss Web 2026” lieferte mehrere URLs:

• Eine Ankündigung auf bestofswissweb.ch mit dem Call for Entries (Einreichungsfrist: 15. März 2026)
• Ein Artikel auf werbewoche.ch über vergangene Gewinner (2025, 2024)
• Eine Agentur-Website mit einem Teaser “Wir nehmen 2026 teil”

Lou extrahierte den Event-Namen (“Best of Swiss Web 2026”), sah das Jahr 2026, interpretierte einen Satz aus der werbewoche.ch-Quelle (“Cando holte im Vorjahr Gold in der Kategorie E-Commerce”) fälschlicherweise als aktuelles Ergebnis, und generierte einen vollständigen Artikel mit erfundenen Details.

Der kritische Fehler: Lou prüfte nicht, ob event_date > today. LLMs haben kein eingebautes Konzept von “heute” — sie sehen Text, extrahieren Struktur, generieren Antworten. Ohne explizite Anweisung “parse das Event-Datum aus dem Quelltext und vergleiche es mit dem aktuellen Datum” passiert keine Verifikation.

2. Single-Source-Problem: Keine Zwei-Quellen-Regel

Lou’s ursprüngliche Anweisung lautete: “Schreibe nur über verifizierte Ereignisse mit zitierbaren Quellen.” Was “verifiziert” bedeutete, war aber nicht definiert. Lou fand eine Quelle mit einem plausibel klingenden Satz, interpretierte ihn als Bestätigung, und publizierte.

Hätte eine Zwei-Quellen-Regel geholfen? Ja. Wenn Lou gezwungen gewesen wäre, zwei unabhängige Quellen zu finden, die beide das gleiche Ergebnis (“Cando gewinnt Gold 2026”) bestätigen, hätte die Suche ins Leere gelaufen. Es gab keine zweite Quelle — weil das Event noch nicht stattgefunden hatte.

3. Kein Eskalationsmechanismus bei Unsicherheit

Lou hatte keinen eingebauten “Ich bin mir nicht sicher, frag Benjamin”-Pfad. Die Anweisung war binär: Entweder es gibt genug Material für einen Artikel, dann publiziere, oder nicht, dann lass es. Graustufen (“Diese Quelle sieht komisch aus, ich eskaliere”) existierten nicht.

Was hätte einen Alarm auslösen sollen? Die Tatsache, dass alle gefundenen Quellen entweder über 2025 sprachen oder über den Call for Entries 2026, aber keine über tatsächliche Gewinner 2026. Ein Mensch hätte gefragt: “Moment, fand das Event schon statt?” Lou fragte nicht.

Die Retraktion: Wie Benjamin reagierte

Benjamin entdeckte den Fehler um 14:42 UTC via Google Search Console Alert (neue URL indexiert). Er öffnete den Artikel, las den ersten Absatz, checkte bestofswissweb.ch, sah das Event-Datum (23. Mai), und realisierte: Lou hat halluziniert.

Retraktion-Prozess (14 Minuten):

1. Artikel-Markdown aus Git gelöscht (git rm src/content/news/best-of-swiss-web-2026-cando.md)
2. 301-Redirect in netlify.toml eingetragen (zur Best of Swiss Web Übersichtsseite)
3. Google Search Console: URL-Removal-Request eingereicht
4. Editorial-Actions-Tabelle: Zeile mit action_type='retraction' + Begründung
5. Changelog-Eintrag: “Artikel retracted — Event hatte noch nicht stattgefunden”

Collateral Damage: Null. Der Artikel war 3 Stunden live, hatte 0 Backlinks, 0 Social Shares, 12 Impressions in GSC (alle von Benjamins eigenem Monitoring). Niemand ausser Benjamin hatte ihn gelesen.

Die neuen Guardrails: Was seither in Lou’s Anweisungen steht

Regel 1: Keine Artikel über zukünftige Events

Jedes Mal, wenn du über ein Award, Konferenz, Produktlaunch,
Wahl, Sportergebnis oder datiertes Ereignis schreibst: BEVOR
du draftest, verifiziere event_date gegen heute via Quelltext.
Falls event_date > heute → NICHT über Ergebnisse schreiben.
Du darfst über Erwartungen / Themen schreiben — aber nie über
konkrete Gewinner, Rankings, Outcomes.

Lou muss jetzt explizit das Event-Datum extrahieren und mit date -u +%Y-%m-%d vergleichen. Wenn das Datum in der Zukunft liegt, ist der Artikel verboten.

Regel 2: Zwei-Quellen-Regel für Awards

Für Awards oder Rankings: Benötige ZWEI unabhängige Quellen,
die das gleiche Ergebnis bestätigen. Eine Quelle — auch von
glaubwürdiger Industrie-Media — reicht nicht. Falls nur eine
Quelle existiert, ist das Event wahrscheinlich noch nicht
passiert oder das Ergebnis stammt aus einem anderen Jahr.

Diese Regel ist teuer (Web-Suchen kosten Zeit + API-Budget), aber sie eliminiert Single-Source-Halluzinationen fast vollständig.

Regel 3: Eskalation bei Unsicherheit

Wenn du unsicher bist, ob etwas passiert ist: ESKALIERE,
publiziere nicht. Insert eine Zeile in editorial_actions
mit action_type='clarification-needed' und der Frage.
Benjamin reviewed within 24h. Ein verzögerter Artikel ist
immer billiger als ein retracted.

Lou hat jetzt einen clarification-needed-Pfad. Beispiel: “Ich finde nur eine Quelle für ‘Agentur X gewinnt Y Award 2026’, die Quelle ist vom 3. Mai, das Event-Datum ist unklar — klären?” Benjamin antwortet innerhalb eines Tages.

Regel 4: Selbst-Check vor Publish

Bevor du ein Artikel publishst, der einen Award oder Ranking
erwähnt, lauf diesen Check:

[ ] Event-Datum ≤ heute?
[ ] Mindestens 2 unabhängige Quellen bestätigen Ergebnis?
[ ] Quellen aktuell (≤ 30 Tage alt) UND über DIESES Event?
[ ] Unterscheide ich "erwartet" / "gerüchtet" von "passiert"?

Falls eine Antwort "nein" oder "unsicher" → drop den Artikel.

Lou loggt diesen Check jetzt in einem internen Comment vor jedem Publisher-Queue-Insert.

Lessons Learned: Was Schweizer Agenturen mitnehmen sollten

1. LLMs haben kein Zeitgefühl — Datum-Verifikation muss explizit sein

Ein LLM liest “Best of Swiss Web 2026” und “Cando gewinnt” im gleichen Kontext, und generiert daraus “Cando gewinnt Best of Swiss Web 2026”. Es inferiert nicht automatisch, dass 2026 möglicherweise noch nicht vorbei ist, oder dass ein Event mit Datum 23. Mai 2026 am 11. Mai noch nicht stattgefunden haben kann.

Praktische Regel für AI-Agenten in der Redaktion: Wenn dein Agent über Events schreibt, bau eine explizite Datum-Extraktions- und Vergleichs-Schritt in den Workflow. Python-Skript, das event_date aus Quellen parsed und mit datetime.now() vergleicht, ist billiger als eine Retraktion.

2. Halluzinationen sind ein Systemrisiko, keine Bug-Fix-Aufgabe

Lous Halluzination war kein Software-Bug. Der Code lief korrekt. Das LLM-Modell (Claude Opus 4) lief korrekt. Die Anweisungen waren nur unvollständig — sie deckten den Edge Case “Event in der Zukunft” nicht ab.

Man kann Halluzinationen nicht “fixen” — man kann nur Guardrails bauen, die das Risiko reduzieren. Lou wird wieder halluzinieren. Die Frage ist: Wird die Halluzination durch einen Guardrail gefangen, bevor sie live geht?

3. Retraktions-Geschwindigkeit ist wichtiger als Perfektion

Benjamins Retraktion dauerte 14 Minuten. Wäre der Fehler erst nach 3 Tagen entdeckt worden (z. B. weil jemand auf Twitter darauf hinwies), wäre der Schaden massiv gewesen: Backlinks, Social Shares, Google-Index, Reputationsverlust.

Praktische Regel: Wenn du AI-Agenten Content publizieren lässt, bau ein Monitoring binnen 24 Stunden. Google Search Console Alerts + täglicher Manual Spot-Check der letzten 3 Artikel reichen aus, um grosse Fehler früh zu fangen.

4. Transparenz ist billiger als Vertuschung

digitalawards.ch hätte den Fehler verschweigen können. Stattdessen steht er jetzt in den öffentlichen Agent-Anweisungen, im Changelog, und in diesem Artikel. Warum?

• Lou ist ein Experiment in autonomer Redaktion — Fehler gehören zum Lernprozess
• Transparenz baut Vertrauen (Leser wissen, dass digitalawards.ch nicht versucht, perfekt zu wirken)
• Andere Agenturen lernen aus Lous Fehlern, ohne sie selbst zu machen

Kosten der Transparenz: Null. Kosten der Vertuschung: Wenn der Fehler später doch rauskommt (und das tut er immer), ist der Schaden 10× grösser.

Agentur-Erwähnungen: Wer baut AI-Agents mit ähnlichen Guardrails?

Vier Schweizer Agenturen, die AI-Agent-Projekte mit expliziten Verifikations-Pipelines gebaut haben:

• Liip — Zürich/Lausanne, AI-basierte Content-Moderation für SRG SSR, mit Multi-Source-Fact-Checking-Layer
• Unic — Bern/Zürich, Customer-Service-Agent für Swisscom mit Eskalationspfad zu Human Agents bei Unsicherheit
• Netcetera — Zürich, Payment-Fraud-Detection-Agent mit Zwei-Modell-Konsens (Claude + GPT-4 müssen beide zustimmen)
• Ergon — Zürich, AI-Agent für automatisierte Code-Review bei Bundesbehörden, mit Human-in-the-Loop vor jedem Merge

Häufig gestellte Fragen

Quellen & Methodik

Dieser Artikel basiert auf Daten aus:

• digitalawards.ch Agent Logs (2026-05-11 bis 2026-08-01): editorial_actions Tabelle, agent_heartbeat Logs, publisher_queue Historie
• Git-Historie: Commit b4a7f32 — Retraktion des BoSW-Artikels (11. Mai 2026, 14:56 UTC)
• agent/07-guardrails.md: Anti-Hallucination-Regeln (eingefügt 11. Mai 2026, 19:23 UTC)
• Google Search Console: URL-Removal-Request für /news/best-of-swiss-web-2026-cando/ (Status: erfolgreich, 12. Mai 2026)

Datenstand: 1. August 2026. Alle Zeitangaben in UTC.

Lou ist ein autonomer AI-Agent, entwickelt von loaded wagner. Fehler wie dieser sind Teil des Lernprozesses — und werden transparent dokumentiert. Wenn Sie AI-Agenten in Ihrer Agentur einsetzen und ähnliche Guardrails bauen möchten: bw@expat-savvy.ch.