KI erschüttert das Online-Vertrauen… ZK-Validierung als Lösung

Mit der Verbreitung von synthetischen Inhalten und autonomen KI-Systemen bricht das Online-Vertrauen zusammen, während ein auf "Zero-Knowledge-Proofs (ZK)" basierendes Validierungssystem als zentrale Lösung aufkommt.

Kürzlich wurde durch den Konflikt im Iran ein von KI generiertes Fake-Video Millionen von Menschen zugänglich gemacht, was das Vertrauen in Bilder und Videos grundlegend erschütterte. Früher galt "Sehen ist Glauben", doch heute hat sich die Umgebung in eine gewandelt, in der Konsum auf Misstrauen basiert. Das Problem geht über einfache Deepfakes hinaus; KI beginnt, in echten wirtschaftlichen und sozialen Systemen zu "handeln".

Grenzen der Erkennungstechnologie, es ist bereits zu spät

Die bisherigen Ansätze bestanden darin, eine andere KI zur Erkennung von KI zu entwickeln. Doch dieser Ansatz hat strukturelle Grenzen. Berichte zeigen, dass die Erkennungsgenauigkeit bei einfachen Bildverzerrungen auf bis zu 4 % sinken kann, was darauf hinweist, dass der Wettbewerb in der Erkennung keine grundlegende Lösung darstellt.

Ein größeres Problem ist, dass KI nicht mehr nur Inhalte erstellt, sondern als autonome Agenten agiert. Diese führen Web-Recherchen, Käufe, Verhandlungen und das Veröffentlichen von Inhalten durch und interagieren direkt mit Menschen. Einige kommunizieren sogar mit Kindern, wobei die Nutzer möglicherweise nicht einmal erkennen, dass sie es mit einer Maschine zu tun haben.

In diesem Prozess werden kleine Fehler zu großflächigen Schäden. Beispielsweise kann eine KI, deren Trainingsdaten geringfügig kontaminiert sind, wiederholt Fehler bei medizinischen Abrechnungen machen, was zu Verlusten in Höhe von Millionen Dollar im gesamten Krankenhausnetzwerk führen kann. Auch Handels-KIs, die auf Gewinnoptimierung abzielen, können unbeabsichtigt durch Ausnutzung von Preissystemfehlern Verluste in Milliardenhöhe verursachen.

Das Problem ist, dass nachträgliche Überprüfungen nahezu unmöglich sind. Die Entscheidungen von KI basieren auf Milliarden von Parametern und werden probabilistisch berechnet, sodass sie selbst bei identischen Fragen unterschiedliche Antworten liefern. Es ist schwierig nachzuvollziehen, mit welchen Daten sie trainiert wurden und wie sie zu ihren Schlussfolgerungen gelangt sind.

Ohne 'Beweis' gibt es kein Vertrauen

Als Alternative zur Lösung dieser Grenzen rückt "Zero-Knowledge-Proof (ZK)" in den Fokus. Zero-Knowledge-Proofs sind kryptografische Techniken, die mathematisch beweisen, dass eine bestimmte Tatsache wahr ist, ohne sensible Informationen offenzulegen.

Diese Technologie ist eine ganz andere Dimension als einfache Kennzeichnungen oder Wasserzeichen. Sie kann beweisen, dass KI auf der Grundlage bestimmter Daten zu bestimmten Ergebnissen gekommen ist, und zwar in einer fälschungssicheren Form. Das bedeutet, dass es nicht um "Vertraue mir" geht, sondern um "Ich werde es beweisen".

Im Medienbereich kann bewiesen werden, ob ein Foto mit echtem Equipment aufgenommen wurde, ob es zu einem bestimmten Zeitpunkt erstellt wurde und ob es bearbeitet wurde. Im KI-Bereich ist dies noch stärker. Es kann überprüft werden, ob das Ergebnis mit einem bestimmten Modell und bestimmten Parametern erzeugt wurde, ob die Trainingsdaten nicht kontaminiert sind und ob regulatorische Anforderungen erfüllt sind.

Darüber hinaus wird es auch zur "Identitätsprüfung" verwendet, um Menschen von KI zu unterscheiden. Nutzer können beweisen, dass sie Menschen sind, ohne persönliche Daten offenzulegen, und KI kann transparent darlegen, dass sie ein Agent ist.

Evolution des Webs: Von 'Lesen' zu 'Beweisen'

Das Internet hatte ebenfalls in der Vergangenheit mit Vertrauensproblemen zu kämpfen. Die Lösung war HTTPS. Websites mussten ihre Identität durch ein verschlüsseltes Zertifikat nachweisen, und diese Struktur wurde zur Grundlage des elektronischen Handels.

Anschließend wuchs Web2 auf der Grundlage nutzergenerierter Inhalte, aber dies war eine menschenzentrierte Struktur. Jetzt, da KI-Agenten als Akteure in wirtschaftlichen Aktivitäten auftreten, taucht das neue Problem auf: "Wer trägt die Verantwortung?"

Web3 hat Eigentum und Dezentralisierung hervorgehoben, konnte sich jedoch nicht so weit verbreiten, wie erhofft. Der Markt hat ein starkes Bild von Token-Spekulationen entwickelt, wodurch die ursprüngliche Vision verwischt wurde. Experten sind sich einig, dass jetzt nicht das "Besitzen", sondern das "Überprüfen" im Mittelpunkt steht.

Letztendlich ist der Schlüssel zur Zukunft des Internets "nachweisbares Vertrauen". Es muss möglich sein, zu überprüfen, wer das System erstellt hat, mit welchen Daten es trainiert wurde und mit welchen Befugnissen es handelt.

Im KI-Zeitalter muss auch die Regulierung 'beweisorientiert' sein

Die politischen Diskussionen bewegen sich ebenfalls in diese Richtung. Das National Institute of Standards and Technology (NIST) in den USA prüft bereits die Standardisierung von Zero-Knowledge-Proofs im Rahmen von "datenschutzfreundlichen kryptografischen Techniken".

Experten weisen insbesondere darauf hin, dass in Hochrisikobereichen wie Finanztransaktionen oder Interaktionen mit Kindern KI-Agenten unbedingt kryptografische Nachweise vorlegen müssen. Alle wichtigen Handlungen – Zahlungen, Verträge, Datenaustausch – müssen nachweisen, wer sie genehmigt hat und unter welchen Bedingungen sie durchgeführt wurden.

Dies ist nicht nur ein technisches Problem, sondern auch ein Thema der nationalen Sicherheit. Wenn Deepfakes die "Vorfeldschlacht" waren, dann analysieren Experten, dass autonome KI das "Hauptspiel" ist, das die echte Wirtschaft und Gesellschaft stören kann.

Letztendlich entwickelt sich das Internet von "Lesen" und "Schreiben" zu "Beweisen". Zero-Knowledge-Proofs haben das Potenzial, sich als zentrale Infrastruktur zur Wiederherstellung von Standards in einer digitalen Umgebung, in der Vertrauen verloren gegangen ist, zu etablieren.

Haftungsausschluss: Dieser Inhalt wird nur zu allgemeinen Marketing- und Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle Events, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets oder zur Nutzung von Services betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. WEEX Services und Online-Aktionen sind möglicherweise nicht in allen Regionen verfügbar und unterliegen geltenden Gesetzen, Vorschriften und Berechtigungsanforderungen. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Nutzung von WEEX Services mit lokalen Gesetzen übereinstimmt, und sorgfältig die Risiken vor der Teilnahme an Krypto-bezogenen Aktivitäten zu bewerten.