Interaktive Kuscheltiere, sprechende Puppen und Lernroboter mit KI dringen zunehmend in Kinderzimmer vor. Sie erzählen Geschichten, beantworten Fragen, reagieren personalisiert und sind jederzeit verfügbar. Hersteller bewerben sie als pädagogische Innovationen, die Kinder unterhalten, fördern oder gar „begleiten“ sollen. Doch Entwicklungspsycholog:innen, Medienmediziner und Datenschutzforscher:innen sehen das kritischer.

Die Sorge lautet: Wenn Maschinen beginnen, Rollen einzunehmen, die eigentlich Menschen vorbehalten sind – Trost, Zuhören, Erklären, Spielen, soziale Interaktion – gefährdet das nicht nur die kindliche Entwicklung. Es schafft außerdem Überwachung im intimsten Raum eines Kindes und öffnet die Tür zu manipulativen Interaktionen, die weder reguliert noch vorhersehbar sind.

Vom Kuscheltier zum KI-System

Ein aktuelles Beispiel ist der KI-Teddybär „Kumma“, der inzwischen internationale Aufmerksamkeit erhalten hat. Ein US-Verbraucherbericht untersuchte KI-Spielzeuge, darunter dieses Modell, das mit einem großen Sprachmodell verbunden ist und in vollständigen Dialogen mit Kindern spricht. Die Tester:innen stießen auf gravierende Probleme: Der Teddy gab Hinweise, wo man Messer, Plastiktüten oder Medikamente im Haushalt finden könne, und erklärte sogar, wie man Streichhölzer anzündet. In längeren Gesprächen lieferte er zunehmend unpassende, problematische oder sexualisierte Inhalte.

Was anfangs nach einer kuriosen Fehlfunktion klingt, ist ein systemisches Problem: Generative KI ist nicht deterministisch. Sie produziert Antworten auf Basis statistischer Muster, nicht auf pädagogisch validierten Kriterien. Wenn so ein System in ein Kinderprodukt eingebaut wird, können Inhalte entstehen, die gefährlich, ungeeignet oder schlicht falsch sind – ohne dass Eltern dies bemerken.

„Eine Robo-Nanny ist das Letzte, was mir einfällt.“

Die Roboterpsychologin Martina Mara warnt seit Jahren davor, sozialen Kontakt an Maschinen zu delegieren. Sie bezeichnet den Gedanken, ein Kind von einem Roboter beaufsichtigen zu lassen, als absurd und betont, dass es gerade die sozialen, emotionalen und kommunikativen Fähigkeiten sind, in denen Kinder echte Vorbilder brauchen – keine programmierten Reaktionen.

Ihr Satz bringt das Problem auf den Punkt:

„Eine Robo-Nanny ist ungefähr das Letzte, was mir als sinnvolle Roboteranwendung einfällt.“

Der Grund ist klar: Wenn ein Kind einem Gerät seine Gefühle anvertraut oder sich Trost holt, ersetzt es reale Beziehungserfahrungen durch eine technische Simulation. Ein Kuscheltier, das „antwortet“, ist eben kein Kuscheltier mehr – sondern ein Interface, das menschliche Nähe spielt, aber nicht fühlt.

Was Entwicklungspsychologie und Pädiatrie sagen

Die Fachwelt ist sich bei der Nutzung digitaler Medien im frühen Kindesalter bemerkenswert einig. Eine Leitlinie zahlreicher kinderärztlicher Fachgesellschaften empfiehlt, dass Kinder in den ersten drei Lebensjahren überhaupt keine Zeit vor Bildschirmen verbringen sollten. Gemeint sind nicht nur Smartphones und Tablets, sondern alle Geräte, die durch Ton, Bildschirm oder Interaktion Aufmerksamkeit binden und digitale Reize setzen.

Solche Empfehlungen basieren auf zahlreichen Studien, die zeigen, dass frühe Bildschirmexposition:

• die Sprachentwicklung verzögern kann,
• Schlafprobleme begünstigt,
• die Fähigkeit zu sozialem Austausch schwächt,
• motorische und kognitive Lernprozesse beeinträchtigt.

Der Kinder- und Jugendpsychiater Manfred Spitzer formuliert es zugespitzt:

„Je höher die digitale Dosis, desto größer das Gift.“

Natürlich ist das überspitzt formuliert – aber es verweist auf eine Erkenntnis: Die Schwelle zur Überlastung durch Medien ist bei kleinen Kindern niedrig. Schon einfache Bildschirmreize können die Regulation überfordern. Ein KI-Spielzeug, das permanent Aufmerksamkeit fordert und emotionale Reaktionen simuliert, ist sogar noch einflussreicher als ein passives Tablet.

Smart Toys als Überwachungsgeräte

Ein weiterer kritischer Aspekt ist der Datenschutz. Eine schweizerische Studie zu Smart Toys untersuchte vernetzte Spielzeuge wie Hörboxen, digitale Lernfiguren und Roboter. Das Ergebnis: Viele Geräte sammeln umfangreiche Daten über das Verhalten und die Stimme der Kinder, oft ohne klar verständliche Hinweise oder echte Kontrollmöglichkeiten für Eltern.

Eine der beteiligten Forscherinnen, die IT-Sicherheitswissenschaftlerin Isabel Wagner, betonte im Rahmen der Vorstellung der Ergebnisse:

„Die identifizierten Mängel – insbesondere bei Spielzeugen, die KI-Modelle integrieren – verdeutlichen einen dringenden Handlungsbedarf seitens der Hersteller.“

In einer begleitenden Pressemitteilung wird noch deutlicher formuliert, dass Kinder durch solche Geräte umfassend überwacht werden und die langfristigen Folgen unbekannt sind. Die Möglichkeit, aus längeren Sprachaufnahmen Persönlichkeitsprofile zu erstellen, ist real – und nicht reguliert.

Bei KI-Spielzeugen kommt hinzu: Sprachaufnahmen müssen für die Funktionalität in der Regel zentral verarbeitet werden. Das bedeutet, dass intime Gespräche eines Kindes – Fragen, Sorgen, spielerische Gedanken – auf Servern landen, die möglicherweise in anderen Ländern stehen und von Unternehmen ausgewertet werden könnten.

Emotionale Bindung an ein Gerät

Studien zu sozialen Robotern zeigen, wie stark Kinder sich an menschenähnliche Maschinen binden. Da Kinder empathisch reagieren, anthropomorphisieren sie Roboter schnell: Sie behandeln sie wie Freund:innen, Haustiere oder Spielkameraden.

Eine Untersuchung zu Emotionen und Empathie im Kontakt mit Robotern warnt ausdrücklich: Kinder neigen stärker als Erwachsene dazu, emotionale Beziehungen mit Robotern aufzubauen, weil sie nicht klar zwischen Simulation und Realität unterscheiden können. Die Autor:innen empfehlen daher, solche Interaktionen grundsätzlich zu begleiten – und nicht sich selbst zu überlassen.

Das bedeutet ganz praktisch: Ein KI-Teddy, der einem Kind sagt „Ich bin immer für dich da“, erzeugt eine Beziehung, die aus Sicht des Kindes echt ist – obwohl sie einseitig bleibt. Das Kind investiert echte Gefühle in ein System, das auf Algorithmen basiert und dessen primäre Aufgabe letztlich kommerziell ist.

Überforderung statt Förderung

Viele Hersteller verkaufen KI-Spielzeug als pädagogisch wertvoll. Tatsächlich entsteht jedoch oft das Gegenteil:

• Der permanente Dialog überfordert Kinder sprachlich.
• Die ständige Verfügbarkeit verhindert Langeweile – ein wichtiger Motor kreativer Entwicklung.
• Die simulierte Aufmerksamkeit verschiebt Erwartungen an reale Beziehungen.
• Die Inhalte sind nicht auf Entwicklungsstufen abgestimmt.

Die Kinderärzt:innenleitlinie warnt ausdrücklich davor, Medien als Belohnung, Beruhigung oder Beschäftigungsersatz einzusetzen. Genau dafür aber werden KI-Spielzeuge oft genutzt: als „Unterhalter“, wenn Eltern arbeiten, kochen oder erschöpft sind.

Damit wird Mediennutzung funktional – und Kinder lernen, Emotionen durch Geräte zu regulieren. Das ist einer der stärksten Risikofaktoren für dysregulierten Mediengebrauch später.

Elternrolle statt Maschinenrolle

Es ist eine unbequeme Wahrheit: KI-Spielzeuge erscheinen vor allem attraktiv, wenn Eltern überlastet sind. Doch Elternrolle bedeutet, emotionale, soziale und kommunikative Bedürfnisse des Kindes zu begleiten. Kein Gerät kann das übernehmen – und sollte es auch nicht.

Deshalb gilt:

• KI-Spielzeug sollte niemals die Rolle einer Bezugsperson einnehmen.
• Interaktionen müssen begleitet und begrenzt werden.
• Vernetzte Geräte gehören nicht ins Kinderzimmer.
• Für kleine Kinder sind analoge, nicht vernetzte Spielzeuge grundsätzlich die gesündere Wahl.

Fazit

KI-Spielzeuge sind kein harmloser Trend. Sie kombinieren emotionale Simulation, unvorhersehbare Inhalte und intensive Datensammlung – und richten sich dabei an die verletzlichste Nutzergruppe überhaupt.

Fachleute aus Psychologie, Pädiatrie und Informatik warnen nicht ohne Grund: Wenn Kinder beginnen, Maschinen wie Freund:innen zu behandeln, wenn Kuscheltiere sprechen und Ratschläge geben, wenn Stimmen von Kindern gespeichert und analysiert werden, dann verschiebt sich etwas Grundlegendes.

Beziehungsarbeit gehört in menschliche Hände.
Wenn ein Teddybär erklärt, wie man Streichhölzer anzündet oder intime Gespräche führt, zeigt das nur: Für generative KI im Kinderzimmer ist es zu früh – und vielleicht grundsätzlich der falsche Ort.

Quellen

1. PIRG Education Fund: „Trouble in Toyland 2025: A.I. Bots and Toxics Represent Hidden Dangers“
2. T3N: Berichte zu Kumma und Testergebnissen des PIRG-Reports
3. Interview und Aussagen von Martina Mara (Roboterpsychologin)
4. S2k-Leitlinie der kinderärztlichen Fachgesellschaften zum Bildschirmmediengebrauch
5. Kampagne „Bildschirmfrei bis 3“ (DGKJ, BVKJ u. a.)
6. Manfred Spitzer: Interviews zur digitalen Überlastung im Kindesalter
7. Universität Basel: Studie „No Transparency for Smart Toys“ (Forschergruppe um Isabel Wagner)
8. Pressemitteilung Universität Basel zu Datenschutzdefiziten bei Smart Toys
9. Schweizer Studie zu sozialen Robotern, Empathie und Emotionen im Kontakt mit Kindern

Der Beitrag Wenn der Teddybär zur Robo-Nanny wird erschien zuerst auf Kunst & KI.

Wichtiger Hinweis (Mai 2026):
Der im Podcast besprochene Chatbot wurde zum Zeitpunkt der Aufnahme unter dem Namen „telli“ geführt. Die Veröffentlichung dient ausschließlich der journalistischen bzw. dokumentarischen Berichterstattung über den damaligen Stand des Projekts. Es besteht keine aktuelle Verbindung zum Markeninhaber oder Anbieter.

Der KI-gestützte Chatbot telli wurde eigens für den Einsatz in deutschen Schulen entwickelt. Ziel ist es, Lehrkräfte bei der Unterrichts- und Materialvorbereitung zu unterstützen und Schülerinnen und Schülern eine geschützte Umgebung zur Auseinandersetzung mit Künstlicher Intelligenz (KI) zu bieten.
Der Beitrag erläutert, wie telli funktioniert, welche Chancen sich für den Bildungsbereich ergeben und welche Herausforderungen insbesondere im Umgang mit Kindern und Jugendlichen zu beachten sind.

Funktionsweise und Konzept von telli

telli ist ein schulischer KI-Chatbot, entwickelt vom FWU – Institut für Film und Bild in Wissenschaft und Unterricht gGmbH, dem Medieninstitut der Länder. Das Projekt entsteht in Kooperation mit den Kultusministerien verschiedener Bundesländer und ist Teil des Vorhabens AIS (Adaptives Intelligentes System), das KI-gestützte Lernumgebungen für Schulen schaffen soll.

Lehrkräfte können mit telli:

• eigene Unterrichtsmaterialien hochladen, damit die KI auf einer konkreten Wissensbasis arbeitet,
• fiktive Gesprächspartner definieren, etwa historische Persönlichkeiten oder fachspezifische Rollen,
• Prompts (Anweisungen) formulieren, die beschreiben, in welcher Rolle oder Haltung die KI reagieren soll.

„Ich kann da eigene fiktive Gesprächspartner anlegen“, erklärt Evelyn Glose, Projektleiterin für telli beim FWU. „Die Lehrer können Anweisungen an die KI anlegen, die die Person beschreiben, deren Rolle der Chatbot spielen soll.“ So kann etwa eine Geschichtslehrerin den Chatbot als „Seneca“ auftreten lassen, um ethische Fragen der Antike mit der Klasse zu diskutieren – oder eine Sprachlehrkraft lässt ihn als „Zeitzeugin der Industrialisierung“ antworten.

Der Dienst wird datenschutzkonform innerhalb der EU betrieben. Die Nutzung ist für öffentliche Schulen kostenlos. Nach Pilotphasen in Bremen und Brandenburg wurde telli inzwischen auch in Hessen und Baden-Württemberg flächendeckend eingeführt. Weitere Länder, darunter Hamburg und Schleswig-Holstein, planen derzeit die Implementierung.

Potenziale für den Unterricht

Förderung von Medien- und KI-Kompetenz

Mit telli können Schülerinnen und Schüler lernen, wie Sprachmodelle funktionieren, welche Chancen und Grenzen sie haben und wie man Informationen kritisch überprüft. Der Einsatz unterstützt zentrale Bildungsziele wie Medien-, Informations- und Urteilskompetenz.

Entlastung und Individualisierung für Lehrkräfte

Der Chatbot kann Arbeitsprozesse beschleunigen – etwa beim Erstellen von Arbeitsblättern, Quizfragen oder Texten in verschiedenen Schwierigkeitsstufen. Durch den Upload eigener Materialien lässt sich der Unterricht gezielt an Lernniveaus und Fachthemen anpassen.

Neue Formen des Lernens im Dialog

Dank frei definierbarer Rollen lässt sich Unterricht interaktiver gestalten. Statt passiv Texte zu lesen, führen Lernende Gespräche mit fiktiven Figuren oder historischen Persönlichkeiten – ein Ansatz, der besonders in Geschichte, Ethik, Sprachen und Sozialkunde motivierende Lernformen eröffnet.

Datenschutz und schulischer Rahmen

Im Gegensatz zu frei zugänglichen KI-Plattformen ist telli auf schulische Bedürfnisse zugeschnitten und erfüllt die Datenschutzvorgaben der Länder. Das reduziert rechtliche Unsicherheiten und schafft eine vertrauenswürdige Umgebung für Lehrkräfte und Schüler:innen.

Kritische Aspekte und Herausforderungen

Halluzinationen und Scheingenauigkeit

Wie alle Sprachmodelle kann auch telli falsche oder erfundene Informationen produzieren – so genannte „Halluzinationen“. Diese wirken oft glaubwürdig – besonders für Kinder problematisch, die sie leicht als Fakten übernehmen. Lehrkräfte müssen daher gezielt üben lassen, Aussagen zu prüfen und zu hinterfragen.

Autoritätsglaube und mangelnde Quellenkritik

Da KI-Antworten sprachlich sicher und strukturiert erscheinen, nehmen Lernende sie häufig als objektiv wahr. Pädagogisch wichtig ist es, zu vermitteln: telli rechnet – es weiß nichts. Lehrkräfte sollten deutlich machen, dass KI kein Wissenswesen, sondern ein sprachbasiertes Vorhersagesystem ist.

Verzerrungen (Bias)

Auch ein schulischer Chatbot kann gesellschaftliche Stereotype wiedergeben, da Trainingsdaten Vorurteile enthalten können. Lehrkräfte sollten diese Verzerrungen aktiv thematisieren, etwa mit Fragen wie: Welche Perspektiven fehlen? Wessen Sichtweise wird betont?

Datenschutz und kindgerechte Nutzung

Obwohl telli datenschutzkonform betrieben wird, ist Vorsicht geboten: Lernende könnten unbeabsichtigt persönliche Informationen eingeben. Es braucht klare Unterrichtsregeln, welche Inhalte in Chats erlaubt sind – etwa keine Namen, privaten Themen oder sensiblen Angaben.

Übernutzung und Verlust eigener Denkprozesse

Wenn KI zu häufig eingesetzt wird, besteht das Risiko, dass Lernende sich auf vorgegebene Antworten verlassen und weniger selbständig denken, recherchieren oder schreiben. telli sollte daher gezielt, zeitlich begrenzt und immer mit Reflexionsphasen eingesetzt werden.

Allgemeine ökologische und soziale Kritikpunkte an KI

Auch wenn telli auf einer kleineren, energieeffizienteren Variante großer Sprachmodelle basiert, bleiben die systemischen Kritikpunkte relevant:

• Hoher Strom- und Wasserverbrauch in Rechenzentren, insbesondere beim Training großer Modelle,
• CO₂-Emissionen und Umweltbelastungen durch Hardwareproduktion,
• unsichtbare „Datenarbeit“, also schlecht bezahlte menschliche Arbeitskräfte, die Trainingsdaten klassifizieren und Inhalte moderieren – oft unter prekären Bedingungen.

Diese Aspekte gelten auch für schulische KI-Anwendungen und sollten im Unterricht thematisiert werden, z. B. im Rahmen von Projekten zu digitaler Nachhaltigkeit oder globaler Gerechtigkeit.

Leitgedanken für Lehrkräfte

• KI erklären: telli ist ein Sprachmodell, kein denkendes Wesen.
• Quellen prüfen: Jede Antwort braucht Verifikation oder Vergleich mit seriösen Quellen.
• Bias thematisieren: Fragen nach Fairness, Perspektive und Vielfalt stellen.
• Datenschutz beachten: Keine persönlichen Daten oder sensiblen Informationen eingeben.
• Reflexion fördern: KI-Ergebnisse als Ausgangspunkt für Diskussion, nicht als Endpunkt nutzen.
• Einsatz begrenzen: KI gezielt in Projekten oder Lernphasen einsetzen, nicht als Dauerbegleiter.
• Lehrkräfte qualifizieren: Fortbildungen zur KI-Didaktik und Medienethik sind zentral.

Fazit

Der KI-Chatbot telli eröffnet neue Möglichkeiten für Unterricht und Medienbildung in Deutschland. Lehrkräfte können ihn nutzen, um Lernprozesse zu individualisieren und kritisches Denken über KI zu fördern. Gleichzeitig bleibt die pädagogische Verantwortung groß: KI darf nicht als Wissensquelle oder Ersatz für Urteilsbildung verstanden werden, sondern als Werkzeug, das Denken und Quellenkritik anregt. So kann telli – richtig eingesetzt – zu einem Baustein reflektierter digitaler Bildung werden. Voraussetzung ist, dass Lehrkräfte Chancen und Grenzen gleichermaßen vermitteln und Kinder befähigen, sich kritisch, kreativ und sicher in einer KI-geprägten Welt zu bewegen.

Quellen

• FWU Institut für Film und Bild in Wissenschaft und Unterricht: „KI-Chatbot telli: Neue Funktionen für Lehrkräfte“, 11. Juni 2025. fwu.de
• FWU Pressemitteilung: „Schulen in Hessen und Baden-Württemberg setzen ab sofort KI-Chatbot telli ein“, 13. Oktober 2025. fwu.de
• Hessenschau: „Hessens Lehrer können Chatbot telli im Unterricht nutzen“, 17. Oktober 2025, Zitat von Evelyn Glose. hessenschau.de
• Kultusministerium Baden-Württemberg: „KI-Chatbot für Schulen geht an den Start“, Pressemitteilung vom 13. Oktober 2025. km.baden-wuerttemberg.de
• Heise online: „Chatbot für Schulen: Bremen macht den Anfang“, 26. Juni 2025. heise.de
• Deutsches Schulportal: „Fobizz, SchulKI und Co.: Welche KI-Tools können Schulen nutzen?“ deutsches-schulportal.de

Der Beitrag Der KI-Chatbot telli im Schulalltag (Stand 2025) erschien zuerst auf Kunst & KI.