Hallo zusammen,
Anthropic hat ein Projekt namens FlashProve vorgestellt: ein quelloffenes System, mit dem sich kryptografisch nachweisen lässt, welches Modell eine Ausgabe tatsächlich erzeugt hat. Die Idee: Labs veröffentlichen zu jedem Modell einen „Fingerprint“, der später mit Ausgaben abgeglichen werden kann – ohne dass die Modellgewichte offenbart werden. Die Prüfung ist laut den Autoren so leichtgewichtig, dass sie auf dem lokalen Gerät laufen könnte. Damit soll man sich z. B. dagegen schützen können, dass ein Anbieter heimlich ein günstigeres Modell unterjubelt – oder für Leistungstests ein teureres einspringt. Spezifikation und Arbeitscode liegen offen auf GitHub, eingesetzt wird aber nichts: Es ist explizit Zwischenstand, kein Produkt.
Bei mir hat das einen Nerv getroffen, weil ich gerade mein lokales Setup aufbaue und mich nebenbei mit Online-Recht herumschlage: Wenn sich nicht zurückverfolgen lässt, welches Modell eine Antwort erzeugt hat, wird es dürftig, wenn man eine KI-Antwort irgendwann mal gegenüber jemandem nachvolziehen möchte. Gleichzeitig frage ich mich, ob Anbieter freiwillig etwas bauen, das ihre eigenen Swap-Tricks unmöglich macht.
- Glaubt ihr, so ein Nachweis überhaupt Praxis wird – oder bleibt es ein Forschungspapier mit nettem GitHub-Repo?
- Wo wäre euch ein solcher Nachweis wichtiger: gegenüber Kunden und Dokumentationspflichten, oder eher zum Schutz davor, dass API-Anbieter still das Modell austauschen?
- Hat sich den Code schon jemand angeschaut und kann einsortieren, wie aufwendig so eine Prüfung im Alltag wäre?
Quelle (TechCrunch, 03.11.2026): https://techcrunch.com/2026/11/03/ant…odels-identity/