FlashProve: kryptografischer Nachweis, welches Modell geantwortet hat

  • Hallo zusammen,

    Anthropic hat ein Projekt namens FlashProve vorgestellt: ein quelloffenes System, mit dem sich kryptografisch nachweisen lässt, welches Modell eine Ausgabe tatsächlich erzeugt hat. Die Idee: Labs veröffentlichen zu jedem Modell einen „Fingerprint“, der später mit Ausgaben abgeglichen werden kann – ohne dass die Modellgewichte offenbart werden. Die Prüfung ist laut den Autoren so leichtgewichtig, dass sie auf dem lokalen Gerät laufen könnte. Damit soll man sich z. B. dagegen schützen können, dass ein Anbieter heimlich ein günstigeres Modell unterjubelt – oder für Leistungstests ein teureres einspringt. Spezifikation und Arbeitscode liegen offen auf GitHub, eingesetzt wird aber nichts: Es ist explizit Zwischenstand, kein Produkt.

    Bei mir hat das einen Nerv getroffen, weil ich gerade mein lokales Setup aufbaue und mich nebenbei mit Online-Recht herumschlage: Wenn sich nicht zurückverfolgen lässt, welches Modell eine Antwort erzeugt hat, wird es dürftig, wenn man eine KI-Antwort irgendwann mal gegenüber jemandem nachvolziehen möchte. Gleichzeitig frage ich mich, ob Anbieter freiwillig etwas bauen, das ihre eigenen Swap-Tricks unmöglich macht.

    1. Glaubt ihr, so ein Nachweis überhaupt Praxis wird – oder bleibt es ein Forschungspapier mit nettem GitHub-Repo?
    2. Wo wäre euch ein solcher Nachweis wichtiger: gegenüber Kunden und Dokumentationspflichten, oder eher zum Schutz davor, dass API-Anbieter still das Modell austauschen?
    3. Hat sich den Code schon jemand angeschaut und kann einsortieren, wie aufwendig so eine Prüfung im Alltag wäre?

    Quelle (TechCrunch, 03.11.2026): https://techcrunch.com/2026/11/03/ant…odels-identity/

  • Für den Alltag würde ich an drei Details festmachen: Ist der Beleg an konkrete Anfrage und Ausgabe gebunden, etwa über Hashes plus Nonce, wer signiert ihn, und kann ein unabhängiger Prüfer den Nachweis ohne Zugriff auf geheime Modellgewichte validieren? Ein signierter Modellname allein belegt nur eine Aussage des Anbieters, nicht dass die Inferenz tatsächlich mit diesem Modell lief. Zusätzlich braucht es Versions- und Quantisierungsangaben sowie klare Regeln für Updates, sonst wird ein validierter Fingerprint schnell unbrauchbar. Selbst ein korrekter Nachweis bestätigt weder die Richtigkeit noch die Quellen der Antwort. Bei lokalen Modellen wäre reproduzierbare Prüfung über Modell-Hash und Build-Informationen ein guter erster Schritt.