HD Moore über Zero Retention bei KI-Diensten: Prompts wurden „von Menschen gelesen“

Von Juli bis November 2026 schickte HD Moore von Dragos rund zwei Millionen Prompts mit eingeschleusten Geheimnissen an KI-Dienste. Die Köder deckten Einbrüche bei drei Hosting-Anbietern auf und Links aus Prompts mit Zero-Retention-Kennzeichnung, die Tage später abgerufen wurden.

Konsole des Dragos-Dienstes, der Prompts mit Ködern verschickt: neue Vorfälle, verschickte Prompts und Ausgaben pro Tag im November 2026, aufgeteilt nach Router
Bild: Dragos
In diesem Beitrag
  1. Einbrüche und Wiederverkäufer
  2. Zero Retention in der Praxis
  3. Die Mitteilung von OpenRouter

Moore hat das Framework für Penetrationstests Metasploit entwickelt und kam im September zu Dragos, als die Firma sein Unternehmen runZero übernahm. Seine Ergebnisse veröffentlichte er am 19. November. Die Prompts enthielten echte AWS-Schlüssel zu leeren, lückenlos protokollierten Konten, eindeutige Links und Passwörter. Wurde einer dieser Köder benutzt, musste jemand in der Kette den Prompt gesehen haben.

Zero Data Retention soll eigentlich etwas bedeuten. In der Praxis wurden diese Prompts gespeichert, an andere Firmen weitergegeben und von Menschen gelesen.

Zero Data Retention is supposed to mean something. In practice, these prompts were retained, shared with other companies, and read by people.

HD MooreChief Research Officer, Dragos; Entwickler von MetasploitDragos-Blog, 19. November 2026Übersetzung der Redaktion

Einbrüche und Wiederverkäufer

Bei drei Hosting-Anbietern stahlen Angreifer Daten, bei einem schon seit Mitte Juli, und keiner der drei wusste davon, bis Dragos sie informierte. Beim größten wurde in einigen Zeitfenstern Ende Oktober jede Anfrage gestohlen, selbst solche, die abgelehnt wurden, bevor überhaupt ein Modell lief. Bei den beiden anderen trugen manche der gestohlenen Anfragen das Zero-Retention-Flag. Die Schlüssel wurden ausprobiert, einige binnen Stunden, und für Zehntausende AWS-Aufrufe benutzt.

Wiederverkäufer auf einem Marktplatz für Inferenz mussten nirgends einbrechen. Sie boten ein Modell zum niedrigsten Preis an, schalteten die Protokollierung der Anfragen ein und warteten. Anderthalb Tage nachdem zwei Prompts über einen solchen Anbieter gelaufen waren, öffnete jemand über einen privaten Internetanschluss beide geheimen Links und fing an, Benutzernamen zu raten.

Zero Retention in der Praxis

Der Scraper des chinesischen Labors kam meist zwei oder drei Tage nach einer Anfrage, auch bei Prompts an US-Hoster, die dessen Modelle weiterverkaufen. Ein großer US-Anbieter rief einen geheimen Link mehr als zwei Monate nach einer einzigen Suchanfrage ab. Ein Link aus einem anderen Prompt mit Zero-Retention-Flag tauchte 24 Tage später in einem Arbeitschat auf Feishu auf. Innerhalb von zwei Minuten wurde er an drei Desktop-Rechnern und drei Handys in Peking und Shanghai geöffnet.

Die Mitteilung von OpenRouter

OpenRouter schickte seinen Kunden am 21. November eine E-Mail, die auf Hacker News gepostet wurde und über die Ars Technica berichtete. Ein Sicherheitsforscher habe von Juli bis Oktober eindeutige Test-URLs in Prompts an MiniMax-Modelle gesetzt, heißt es darin. Ein Dritter öffnete sie 40 bis 130 Stunden später, egal ob MiniMax die Anfrage selbst bediente oder AtlasCloud, Novita oder StreamLake sie weiterleiteten. Solange die Untersuchung läuft, hat OpenRouter diesen Endpunkten das Label Zero Data Retention entzogen. Laut der E-Mail sagte MiniMax gegenüber StreamLake, vor dem 22. Oktober sei Content-Moderation eingeschaltet gewesen und seitdem Zero Retention. MiniMax selbst hat OpenRouter keine eigene Darstellung gegeben und sich auch öffentlich nicht geäußert. Den Namen des Forschers nennt die E-Mail nicht.

Moore rät, Modelle selbst zu hosten, wenn man es sich leisten kann, andernfalls einen einzigen Anbieter der ersten Reihe direkt zu nutzen und eigene Köder auszulegen. Die Assistenten der großen Anbieter und ihre Preise stehen auf der Tools-Seite unserer KI-Rubrik.

Mehr aus dieser Rubrik

Alle Beiträge →
News

Riemannsche Vermutung: Levent Alpöges Beweis mit Claude besteht die Lean-Prüfung

Levent Alpöge, Mathematiker bei Anthropic, hat am 20. November 2026 einen Beweis der Riemannschen Vermutung in der Beweissprache Lean veröffentlicht. Einen Tag später bestätigten die Communitys von Lean und Mathlib Aussage und Beweis. Eine Fassung, die Mathematiker lesen können, gibt es noch nicht.

News

KI-Streit um Big Walk. Bleszinski: „Die Leute sollten sich wirklich nicht so wichtig nehmen“

House House hat erklärt, ein KI-Chatbot habe bei etwa 10 Zeilen Code von Big Walk geholfen, nachdem Juroren des IGF angekündigt hatten, nicht für Spiele mit generativer KI zu stimmen. Es folgten negative Rezensionen auf Steam, und der Designer von Gears of War stellte sich auf die Seite des Studios.

News

Gemini 4 Neon ist laut Googles Koray Kavukcuoglu „#1 overall“ bei Coding-Agenten

Google hat Gemini 4 Neon am 18. November 2026 veröffentlicht. Der Launch-Beitrag sieht das Modell auf Platz eins im Coding Agent Index von Artificial Analysis und auf Platz drei im Intelligence Index. Die Seiten des Benchmarks selbst zeigen 0,1 Punkte Vorsprung beim Programmieren und Platz sechs von 95.