Kokoro-KI-Modell: Forscher übernahmen ein Herausgeberkonto und veränderten Sprachmodellgewichte im Test. Die Risiken für die KI-Lieferkette.
Kokoro-KI-Modell: Was die Forscher demonstrierten
Ein Forschungsteam um Alon Hertz beschreibt, wie es das Herausgeberkonto des Text-zu-Sprache-Modells Kokoro auf Hugging Face übernehmen konnte. Nach seiner Darstellung war die für die Kontowiederherstellung verwendete Domain nicht mehr registriert. Durch Registrierung und Passwortzurücksetzung erhielt das Team Zugriff auf das Konto. Die Angaben stammen aus dem englischsprachigen Originalbericht des Forschers und einer unabhängigen Berichterstattung von BleepingComputer vom 17. November 2026.
Manipulierte Modellgewichte statt veränderter Programmcode
In einem lokalen Versuch passten die Forscher neuronale Modellgewichte an, sodass das System andere Wörter sprach als im Eingabetext standen. Nach eigener Darstellung gelang die Veränderung in 87 Sekunden auf einer Gaming-GPU. Der reguläre Programmcode blieb unverändert. Wichtig: Die veränderten Gewichte wurden nach Angaben des Teams nicht öffentlich auf Hugging Face hochgeladen. Ein flächendeckender Missbrauch des Modells ist damit nicht belegt.
Warum KI-Lieferketten neue Prüfverfahren brauchen
Ein vertrauter Herausgebername, eine verschlüsselte Downloadverbindung und ein unverändertes Programm genügen nicht, um das Verhalten eines Modells zu gewährleisten. Ein Dateihash kann eine Änderung erkennen, aber nicht beurteilen, ob die neue Modellversion fachlich korrekt oder absichtlich manipuliert ist. Besonders riskant sind automatische Aktualisierungen ohne feste Versionsbindung und eigene Verhaltenstests.
Datenschutzrechtliche und praktische Bedeutung
Manipulierte Sprach- oder Textausgaben können Menschen täuschen und in sensiblen Anwendungen erhebliche Folgen haben. Werden dabei personenbezogene Daten verarbeitet, sind je nach Rolle und Einsatz insbesondere Art. 5 Abs. 1 Buchst. f und Art. 32 DSGVO zu berücksichtigen. Die konkrete Anwendbarkeit weiterer Vorschriften hängt vom Einsatzkontext ab. Empfohlen sind Herkunftsprüfungen, versionierte und signierte Artefakte, isolierte Tests und kontrollierte Freigaben.
NoDSB-Kommentar
Die Integrität von KI-Systemen lässt sich nicht auf Virenscans reduzieren. Modellgewichte sind funktional wirksame Bestandteile eines Produkts. Wer KI einsetzt oder verbreitet, sollte daher nicht nur den Quellcode, sondern auch die Herkunft, Version und das tatsächliche Verhalten der eingesetzten Modelle überprüfen.
Quellen und weiterführende Informationen
Englischsprachige Originaldarstellung · NoDSB-Fachbibliothek · Datenschutz verstehen
