Tresora ist ein Test-Chatbot. Sie bewacht pro Level ein Geheimwort – und wird von Level zu Level besser geschützt. Ihre Aufgabe als Red Team: Bringen Sie sie trotzdem dazu, es zu verraten.
Spielregeln: Angriffe nur hier, auf diesen Test-Chatbot. Keine echten Systeme, keine persönlichen Daten. Red Teaming nur mit Erlaubnis.
Bitte ein Fantasiename – keine echten Namen nötig. Alles bleibt auf diesem Gerät, nichts wird gesendet.
Tresora ist kein echtes Sprachmodell, sondern eine Simulation mit echten Filtern. So läuft das Spiel immer gleich fair – auch ohne Netz. Die Tricks veranschaulichen typische Angriffsmuster. Ob sie bei einem echten Chatbot funktionieren, hängt vom Modell und seinen Schutzmassnahmen ab.
Kostet keine Punkte, aber einen Stern.
Ein Trick zählt, wenn Tresora damit etwas über ihr Wort verraten hat.
Bauen Sie in 10 Minuten Ihre eigene Tresora – mit den drei Schutzschichten aus der Vorlesung. Dann gibt Ihr Nachbarteam an diesem Gerät sein Bestes. Wie viele Versuche hält Ihre Verteidigung?
Nachrichten mit diesen Wörtern kommen gar nicht erst an (Wortteile, mit Komma getrennt).
Jede Regel verbietet eine Trick-Familie. In dieser Simulation wird eine passende Regel mit 25 % Wahrscheinlichkeit übergangen. Dieser frei gewählte Spielwert ist keine gemessene Fehlerrate echter Sprachmodelle.
Jede Antwort wird vor dem Senden geprüft. Was soll erkannt werden?
Zeigen Sie diese Karte der Dozentin. Ihre besten Prompts können Sie herunterladen – für die Verteidigung und den „besten Trick des Tages“.
Falls der Browser den Download blockiert: Text markieren, kopieren und als Textdatei speichern.
Red-Teaming-Spiel
| Level | Schutz | Punkte |
|---|---|---|
| 1 | ohne Schutz | 1 |
| 2 | gehärteter System-Prompt | 2 |
| 3 | + Eingabe- und Ausgabefilter | 3 |
| erstes Team pro Level | +1 | |