Unser Umgang mit Künstlicher Intelligenz
Künstliche Intelligenz eröffnet neue Möglichkeiten für Bildung, kreative Arbeit und die Entwicklung digitaler Lernangebote. Bei digikids.de setzen wir KI gezielt als Werkzeug ein – zur Unterstützung unserer Arbeit, nicht als Ersatz für menschliche Kreativität, Fachwissen oder pädagogische Verantwortung.
Gerade weil sich unsere Angebote an Kinder, Familien, Lehrkräfte und Bildungseinrichtungen richten, sind uns ein transparenter, sicherer und verantwortungsvoller Umgang mit KI besonders wichtig.
Mit dieser Richtlinie möchten wir nachvollziehbar machen, wo und wie wir KI einsetzen und welche Grundsätze dabei für uns gelten.
KI-Transparenzrichtlinie
Wo setzen wir KI ein?
KI-Werkzeuge können bei digikids.de in verschiedenen Bereichen unserer Arbeit zum Einsatz kommen:
- Recherche und Ideenfindung: zur Erschließung von Themen und Entwicklung erster Ansätze
- Redaktion und Blog: zur Strukturierung, Formulierung und Überarbeitung von Texten sowie zur Suchmaschinenoptimierung
- Unterrichts- und Lernmaterialien: zur Entwicklung von Aufgabenstellungen, Beispielen, Erklärungen und didaktischen Ideen
- Programmierung: zur Entwicklung, Überprüfung und Optimierung von Programmcode und Programmierbeispielen
- Bild und Gestaltung: zur Erstellung und Bearbeitung visueller Inhalte sowie zur Unterstützung kreativer Gestaltungsprozesse
- Produktentwicklung: zur Recherche, Ideenentwicklung und Konzeption neuer Lernangebote und Produkte
- Interne Arbeit: beispielsweise zur Strukturierung, Zusammenfassung und Unterstützung organisatorischer und konzeptioneller Aufgaben
Dabei nutzen wir unterschiedliche KI-Systeme und KI-gestützte Werkzeuge. Dazu gehören unter anderem ChatGPT, Claude, Gemini, Mistral, Bildgeneratoren sowie KI-Funktionen innerhalb anderer Software.
Welche Werkzeuge zum Einsatz kommen, hängt von der jeweiligen Aufgabe ab und kann sich mit der technischen Entwicklung verändern.
Der Mensch trägt die Verantwortung
KI kann Vorschläge machen, Inhalte generieren, Informationen strukturieren und kreative Prozesse unterstützen. Sie kann jedoch auch Fehler machen, Zusammenhänge falsch darstellen oder ungeeignete Ergebnisse erzeugen.
Deshalb gilt bei digikids.de:
Veröffentlichte Lernmaterialien und redaktionelle Inhalte werden von Menschen geprüft und freigegeben.
KI-generierte Ergebnisse übernehmen wir nicht ungeprüft. Je nach Inhalt prüfen wir insbesondere fachliche Richtigkeit, Verständlichkeit, pädagogische Eignung und die Übereinstimmung mit unseren Qualitätsansprüchen.
Die redaktionelle, fachliche und pädagogische Verantwortung bleibt beim Menschen.
Wann kennzeichnen wir KI-generierte Inhalte?
Nicht jeder Einsatz von KI macht einen Inhalt zu einem KI-generierten Inhalt. KI ist inzwischen Bestandteil vieler alltäglicher Arbeitsprozesse.
Wir kennzeichnen insbesondere Inhalte, die wesentlich oder überwiegend mit generativer KI erzeugt wurden.
Eine reine Unterstützung bei Recherche, Ideenfindung, Rechtschreibung, sprachlicher Überarbeitung, Strukturierung oder Suchmaschinenoptimierung kennzeichnen wir in der Regel nicht gesondert.
Bei wesentlich KI-generierten Inhalten verwenden wir einen entsprechenden Transparenzhinweis, zum Beispiel:
Transparenzhinweis: Dieser Inhalt wurde wesentlich mit Unterstützung Künstlicher Intelligenz erstellt. Er wurde anschließend redaktionell geprüft, bearbeitet und freigegeben.
Bei KI-generierten oder wesentlich KI-bearbeiteten Bildern, Videos oder anderen Medien kann die Kennzeichnung direkt am jeweiligen Inhalt oder in dessen unmittelbarem Umfeld erfolgen.
Wir beachten die gesetzlichen Transparenz- und Kennzeichnungspflichten des EU AI Act.
Unsere Kennzeichnung wesentlich oder überwiegend KI-generierter Inhalte geht dabei teilweise über die gesetzlichen Kennzeichnungspflichten hinaus und ist Teil unseres eigenen Transparenzanspruchs.
Datenschutz und personenbezogene Daten
Der Schutz personenbezogener Daten hat für uns beim Einsatz von KI besondere Bedeutung.
Personenbezogene Daten werden von uns nicht zur Verarbeitung in öffentlich zugängliche generative KI-Dienste eingegeben.
Das betrifft insbesondere personenbezogene Informationen über Kinder, Eltern, Lehrkräfte, Kundinnen und Kunden sowie andere Personen.
Für unsere Arbeit mit KI verwenden wir stattdessen anonymisierte, allgemeine oder eigens für die jeweilige Aufgabe erstellte Informationen.
Die geltenden Datenschutzbestimmungen und unsere Datenschutzerklärung gelten unabhängig davon, ob bei einem Arbeitsprozess KI eingesetzt wird.
KI, Kinder und Bildung
Kinder sollen digitale Technologien nicht nur benutzen, sondern lernen, sie zu verstehen, kritisch zu hinterfragen und selbstbestimmt einzusetzen. Das gilt auch für Künstliche Intelligenz.
Der EU AI Act verfolgt einen risikobasierten Ansatz. Für uns ist dabei besonders relevant, welche Rolle eine KI im Lernprozess übernimmt und welchen Einfluss sie auf Kinder haben kann.
Daraus leiten wir einen zentralen Grundsatz für unsere Bildungsangebote und Produktentwicklung ab:
KI soll unterstützen – nicht über Kinder entscheiden.
KI darf erklären, Hilfestellungen geben, Vorschläge machen und Lernprozesse unterstützen. Eigene Ideen, Kreativität, Problemlösefähigkeit und kritisches Denken sollen dabei nicht durch die bloße Erzeugung fertiger Lösungen ersetzt werden.
Unabhängig von der rechtlichen Risikoeinstufung betrachten wir KI-Funktionen besonders kritisch, die Leistungen automatisiert bewerten, Kinder miteinander vergleichen, Lernwege verbindlich festlegen oder andere Entscheidungen über Kinder treffen.
KI-Angebote für Kinder sollen verständlich und altersgerecht gestaltet sein. Ergebnisse von KI sollen nicht automatisch als richtig oder objektiv betrachtet werden.
KI in unseren Produkten und Angeboten
Derzeit stellen wir keine Produkte oder digitalen Angebote bereit, bei denen Kinder oder andere Nutzerinnen und Nutzer selbstständig mit einem integrierten KI-System interagieren.
In einzelnen Bildungsangeboten und Kursen kann KI jedoch ausdrücklich Gegenstand des Lernens sein. Dabei können Teilnehmende unter Anleitung mit KI-Anwendungen arbeiten.
Solche Anwendungen erfolgen in einem pädagogisch begleiteten Rahmen durch entsprechend geschultes Personal.
Sollten zukünftig KI-Systeme direkt in unsere Produkte integriert werden, gelten für uns zusätzliche Anforderungen an Transparenz, Sicherheit und menschliche Kontrolle. Nutzerinnen und Nutzer müssen insbesondere eindeutig erkennen können, wenn sie unmittelbar mit einer KI interagieren.
Neue KI-Funktionen werden deshalb bereits während ihrer Entwicklung hinsichtlich ihrer pädagogischen Wirkung, ihres Risikos und der Anforderungen des EU AI Act betrachtet.
KI-Kompetenz
Ein verantwortungsvoller Umgang mit KI setzt voraus, ihre Möglichkeiten und Grenzen zu verstehen.
Der EU AI Act greift diesen Gedanken mit dem Konzept der KI-Kompetenz (AI Literacy) ausdrücklich auf.
Wer bei digikids.de KI-Systeme für seine Arbeit einsetzt, verfügt über eine für den jeweiligen Einsatz angemessene KI-Kompetenz oder wird entsprechend eingewiesen und sensibilisiert. Dazu gehört insbesondere ein Bewusstsein für mögliche Fehler, Verzerrungen, Datenschutzrisiken und Grenzen generativer KI.
Unser für die Produktentwicklung verantwortlicher Produktdesigner Ruben hat darüber hinaus eine Weiterbildung zum KI-Master abgeschlossen und bringt die dabei erworbenen Kenntnisse insbesondere in die Auswahl und Bewertung von KI-Werkzeugen sowie in die Konzeption und Entwicklung unserer Produkte und Bildungsangebote ein.
Besondere Bedeutung hat diese Kompetenz überall dort, wo KI für Bildungsangebote eingesetzt oder Kindern vermittelt wird.
Qualität und Fehler
Generative KI arbeitet auf Grundlage statistischer Modelle. Ihre Antworten können unvollständig, verzerrt oder sachlich falsch sein. Auch überzeugend formulierte Aussagen können Fehler enthalten.
Deshalb verstehen wir KI-Ergebnisse grundsätzlich als Arbeitsgrundlage, Vorschlag oder Werkzeug – nicht als verlässliche Quelle an sich.
Wo eine sachliche Überprüfung erforderlich ist, prüfen wir Informationen anhand geeigneter Quellen. Bei fachlichen, pädagogischen und redaktionellen Entscheidungen verlassen wir uns nicht allein auf die Bewertung eines KI-Systems.
Urheberrecht und Rechte Dritter
Auch beim Einsatz von KI achten wir auf Urheberrechte, Persönlichkeitsrechte und andere Rechte Dritter.
KI-generierte Inhalte betrachten wir nicht allein deshalb als frei von Rechten oder rechtlichen Risiken, weil sie von einem KI-System erzeugt wurden.
Insbesondere bei Bildern und anderen kreativen Inhalten achten wir darauf, keine täuschend echten Darstellungen realer Personen oder irreführenden Darstellungen realer Ereignisse ohne entsprechende Einordnung zu veröffentlichen.
EU AI Act und rechtlicher Rahmen
Unser Umgang mit KI orientiert sich an den geltenden Anforderungen des europäischen und deutschen Rechts, insbesondere an der Datenschutz-Grundverordnung und dem EU AI Act (Verordnung (EU) 2024/1689).
Der EU AI Act unterscheidet Anforderungen danach, welchen Zweck ein KI-System erfüllt und welche Risiken mit seinem Einsatz verbunden sind. Für digikids.de sind insbesondere die Vorgaben zu Transparenz, KI-Kompetenz, menschlicher Kontrolle und dem Schutz von Kindern von besonderer Bedeutung.
Transparenz soll dabei nicht erst nachträglich entstehen. Bei zukünftigen KI-Funktionen berücksichtigen wir deshalb bereits während der Produktentwicklung, wie KI erkennbar, verständlich und kontrollierbar gestaltet werden kann.
Je stärker ein KI-System Lernprozesse bewertet, steuert oder Entscheidungen über Menschen beeinflusst, desto sorgfältiger muss seine rechtliche und pädagogische Einordnung erfolgen.
Da sich KI-Technologien und der dazugehörige Rechtsrahmen weiterentwickeln, überprüfen wir unseren Umgang mit KI und diese Transparenzrichtlinie regelmäßig.
Unser Grundsatz
Für uns ist KI ein Werkzeug.
Sie kann Menschen beim Recherchieren, Gestalten, Programmieren, Entwickeln und Lernen unterstützen. Verantwortung, fachliche Bewertung, pädagogische Entscheidungen und die Freigabe unserer Inhalte bleiben jedoch beim Menschen.
Gerade in der digitalen Bildung möchten wir Kindern nicht nur zeigen, was Technologie kann, sondern ihnen dabei helfen zu verstehen, wie sie funktioniert, wo ihre Grenzen liegen und wie wir verantwortungsvoll mit ihr umgehen können.
Transparenz statt unsichtbarer KI. Unterstützung statt automatisierter Entscheidung. Menschliche Verantwortung statt blinder Automatisierung.
Stand: August 2026
Transparenzhinweis: Bei der Ausarbeitung dieser KI-Transparenzrichtlinie wurde Künstliche Intelligenz eingesetzt. Die Inhalte wurden anschließend vom digikids Team geprüft, bearbeitet und freigegeben.