16 Juni 2026 Was ist digitale Inzucht?
Beginnen wir beim Begriff der „Synthetischen Daten“: diese sind zuallererst einmal rein künstlich erzeugte Daten, die reale Daten nachbilden, ohne aber echte Einzelpersonen oder Ereignisse eins zu eins zu enthalten. Sie werden oft mit statistischen Verfahren, Simulationen oder KI erzeugt und dienen als Alternative oder Ergänzung zu echten Daten, etwa für Tests, Analyse oder KI-Training (Wikipedia). Warum gibt es sie? Sie können helfen, Systeme zu entwickeln, zu testen und Modelle zu trainieren, ohne direkt auf personenbezogene oder vertrauliche Originaldaten angewiesen zu sein.
Was aber, wenn dieser Mechanismus nicht nur bei Systemtests, sondern auch in der realen Welt greift?
Fotografie und Bearbeitung: J. Novotny
Wenn Künstliche Intelligenz ausschließlich mit Inhalten trainiert wird, die von anderen KIs generiert wurden, führt dies laut einer neuen Studie zu einem Modellkollaps. Die Systeme vergessen ursprüngliche Daten, wiederholen Fehler, erfinden ungenaue Fakten und werden in ihrer Ausgabe zunehmend fehlerhaft und eintönig.
Der folgende Vergleich mag zwar holprig erscheinen, aber er ist recht anschaulich: Was passiert, wenn Sie ein Bild als stark komprimiertes JPG abspeichern, um dieses dann erneut aufzurufen und dann wieder als JPG abzuspeichern? Und dies in der Folge – sagen wir mal – 100 Mal? Sie werden feststellen, dass dieses Bild kaum noch wiederzuerkennen ist. Wir sprechen – wie übrigens auch beim Klimawandel, aber das ist ein anderes Thema – von einer sogenannten Feedback Loop, also einem Rückkopplungseffekt: hier wirkt das Ergebnis eines Vorgangs (Output) als neue Ursache (Input) auf den Prozess zurück.
Ein LLM – also Large Language Model – wird auf menschlichen Daten trainiert, erzeugt neue Inhalte; diese landen wieder im Netz, werden später von der nächsten Modellgeneration eingesammelt und dienen dort wieder als Trainingsmaterial. Nicht ganz unpassend ist daher der Begriff der „digitalen Inzucht“: Fehler werden verstärkt, die Informations-Vielfalt leidet, jede neue Generation entfernt sich weiter von der Realität; es wird immer schwieriger, die Herkunft von Daten zu unterscheiden. Das Internet füllt sich auf diese Weise rasant mit KI-generierten Inhalten, und der Anteil an einzigartigen, menschlichen Originaldaten schrumpft und schrumpft.
„Wenn künstliche Intelligenz vor allem aus künstlicher Intelligenz lernt, wird sie nicht automatisch künstlich klüger. Sie wird zunächst glatter, dann enger und irgendwann falsch. Die Zukunft der KI hängt deshalb nicht nur von größeren Rechenzentren ab. Sie hängt auch daran, ob wir genug echte Welt in den Trainingsdaten bewahren.“ [Quelle: Report]
Eine Schlussfolgerung: Die Ressource „verlässliche, menschlich erzeugte Daten“ wird auch in Zeiten der KI immer wertvoller werden. Es wird immer wichtiger zu wissen, woher die Daten eigentlich stammen, ob sie menschlich erzeugt wurden oder KI-generiert sind und ob eine definierte Qualitätssicherung dahintersteht. Es werden Maßnahmen wie eine Kennzeichnungspflicht, die durchgehende Kontrolle von Trainingsdaten auf ihre Qualität und die Kontrolle der eingangs erwähnten synthetischen Daten diskutiert. Es gibt also Einiges zu tun, um die „echte Welt“ und ihre Wahrheiten zu bewahren.
Quellen:
Report
Tagesschau
Cornell University