
«Mit Daten aus dem Internet» hört auf, eine Antwort zu sein. Was Audits, Gesetz und Gerichte über die Herkunft der Daten sagen, mit denen KI trainiert wird.
Sagelix
Sagelix
Bild mit künstlicher Intelligenz erzeugt.
Jahrelang lautete die Antwort auf «Womit wurde das trainiert?»: «mit Daten aus dem Internet». Diese Antwort gilt immer weniger, aus Gründen, die sich belegen lassen.
Nicht einmal aufbereitete Daten bringen ihre Lizenz mit
Ein Audit prüfte mehr als 1.800 Textdatensätze, wie sie zum Trainieren und Anpassen von Modellen verwendet werden. In den meistgenutzten Repositorien gaben mehr als 70 % nicht an, unter welcher Lizenz sie verbreitet wurden, und mehr als 50 % gaben sie falsch an (Longpre et al., 2024).
Es geht dabei nicht um ungeordnet gecrawltes Material. Es geht um Sammlungen, die für die Wiederverwendung aufbereitet und veröffentlicht wurden. Nicht einmal dort ist bekannt, mit welcher Erlaubnis die Inhalte ankommen.
Wer veröffentlicht, zieht die Erlaubnis zurück
Eine weitere Studie prüfte 14.000 Web-Domains, die in drei großen Trainingskorpora enthalten sind. In einem einzigen Jahr wurden mehr als 28 % der wichtigsten und am besten gepflegten Quellen eines dieser Korpora eingeschränkt. Betrachtet man die Nutzungsbedingungen jeder Website, sind bereits 45 % dieses Korpus eingeschränkt (Longpre et al., 2024b). Diese Arbeit haben wir als Preprint eingesehen.
Das Internet ist also keine neutrale Quelle. Ein wachsender Teil derer, die dort schreiben, hat Nein gesagt.
Gesetz und Gerichte fragen bereits nach
- Europa. Seit August 2025 müssen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck eine Strategie zur Einhaltung des Urheberrechts haben und eine hinreichend detaillierte Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen (KI-Verordnung, Artikel 53). Die Kommission veröffentlichte im Juli 2025 die Vorlage für diese Zusammenfassung, die verlangt, die wichtigsten Datensammlungen aufzuzählen und die übrigen Quellen zu erläutern. Die Pflicht trifft den, der das Basismodell herstellt, nicht den, der darauf ein Produkt aufbaut.
- Vereinigte Staaten. Ein Gericht genehmigte im Juli 2026 einen Vergleich über 1,5 Milliarden Dollar zwischen einem KI-Unternehmen und Buchautoren, rund 3.000 Dollar pro Werk, mit der Verpflichtung, die Kopien aus zwei Schattenbibliotheken zu vernichten. Bezahlt wurde für die Herkunft des Materials. Die Angabe stammt vom Autorenverband, der Partei mit eigenem Interesse ist.
- Deutschland. Ein Gericht in München entschied im November 2025, dass das Memorieren von Liedtexten in einem Modell das Vervielfältigungsrecht verletzt. Das Urteil ist nicht rechtskräftig, und wir kennen es aus der Zusammenfassung einer Kanzlei, nicht aus dem Originaltext.
Der Rahmen ist nicht abgeschlossen. Das Urheberrechtsamt der Vereinigten Staaten stellt fest, dass es bereits Systeme gibt, die ausschließlich mit lizenzierten oder gemeinfreien Werken trainiert wurden. Zugleich räumt es ein, dass das Wachstum des Lizenzmarkts nicht beweist, dass es in großem Maßstab machbar ist, alles zu lizenzieren.
Warum es darauf ankommt, dass ein Mensch dahintersteht
Neben dem rechtlichen gibt es einen technischen Grund. Modelle mit Inhalten zu trainieren, die von anderen Modellen erzeugt wurden, führt zu Fehlern, die sich anhäufen und nicht korrigiert werden, und die Autoren dieser Arbeit kommen zu dem Schluss, dass Daten, die von realen Menschen stammen, immer wertvoller werden (Shumailov et al., 2023).
Es gibt auch Belege dafür, dass Material aus einem bestimmten Fachgebiet die Ergebnisse in diesem Gebiet verbessert: Ein Training ausschließlich mit biomedizinischen Texten brachte erhebliche Verbesserungen gegenüber dem Ausgangspunkt eines allgemeinen Modells (Gu et al., 2021). Diese Studie vergleicht Texte, nicht von Fachleuten eingebrachtes Wissen.
Gute Quellen garantieren keine richtigen Antworten
Man sollte nicht übertreiben.
- Juristische Werkzeuge, die auf professionellen Quellen aufbauen, lagen in 17 % bis 33 % der Fälle falsch, und ihre Autoren kommen zu dem Schluss, dass die Versprechen der Anbieter übertrieben waren (Magesh et al., 2024).
- Ein gut angeleitetes allgemeines Modell übertraf spezialisierte medizinische Modelle in Multiple-Choice-Prüfungen (Nori et al., 2023).
- Wir haben keine Studie gefunden, die in einem realen Produkt Wissen, das von erfahrenen Fachleuten eingebracht wurde, mit Daten aus dem Web vergleicht.
Eine klare Herkunft sorgt nicht dafür, dass ein System richtig liegt. Sie sorgt dafür, dass man wissen kann, woher stammt, was es sagt, und mit welcher Erlaubnis.
Was das für diejenigen bedeutet, die ihr Wissen einbringen
Was sich ändert, ist die Frage. Von einem KI-Produkt wird man verlangen, seitens seiner Kunden und zunehmend vor Gericht, dass es sagt, woher stammt, was es behauptet. Ein Wissen mit identifiziertem Urheber und schriftlicher Nutzungserlaubnis kann sie beantworten; eines, das einfach so gesammelt wurde, nicht.
Bei Sagelix trägt jeder Band den Namen der Fachperson, die ihn eingebracht hat, und bei jedem Kauf wird die Nutzungserlaubnis mit ihren Bedingungen festgehalten.
Quellen
- Longpre et al. (2024). «A large-scale audit of dataset licensing and attribution in AI». Nature Machine Intelligence 6. Preprint
- Longpre et al. (2024b). «Consent in Crisis: The Rapid Decline of the AI Data Commons». arXiv:2407.14933
- Verordnung (EU) 2024/1689, Artikel 53. Text
- Europäische Kommission (2025). Vorlage für die öffentliche Zusammenfassung der Trainingsinhalte
- Authors Guild (2026). Mitteilung zur Genehmigung des Vergleichs in Bartz v. Anthropic
- CMS (2025). Zusammenfassung des Urteils, Landgericht München I, 42 O 14139/24
- U.S. Copyright Office (2025). «Copyright and Artificial Intelligence, Part 3: Generative AI Training», Vorabfassung
- Shumailov et al. (2023). «The Curse of Recursion». arXiv:2305.17493
- Gu et al. (2021). «Domain-Specific Language Model Pretraining for Biomedical NLP». arXiv:2007.15779
- Magesh et al. (2024). «Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools». arXiv:2405.20362
- Nori et al. (2023). «Can Generalist Foundation Models Outcompete Special-Purpose Tuning?». arXiv:2311.16452


