Künstliche Intelligenz gehört für viele Jugendliche und junge Erwachsene inzwischen selbstverständlich zum Alltag. Chatbots helfen bei Hausaufgaben, erklären komplizierte Sachverhalte, beantworten Fragen und unterstützen bei alltäglichen Entscheidungen. Doch ihre Rolle geht zunehmend über die eines digitalen Informationswerkzeugs hinaus. Immer häufiger werden KI-Anwendungen auch zu Gesprächspartnern bei persönlichen Problemen, gesundheitlichen Sorgen oder emotionalen Belastungen.
Wie verbreitet diese Nutzung bereits ist, zeigt eine forsa-Befragung im Auftrag des Verbraucherzentrale Bundesverbands (vzbv). Demnach haben 93 Prozent der befragten jungen Menschen im Alter zwischen 14 und 25 Jahren innerhalb der vergangenen zwölf Monate KI-Chatbots verwendet. Von denjenigen, die solche Anwendungen genutzt haben, führen 28 Prozent auch persönliche Gespräche mit ihnen.
Dabei geht es keineswegs nur um unverfängliche Alltagsthemen. Unter den jungen Menschen, die KI für persönliche Gespräche nutzen, sprechen 55 Prozent mit Chatbots über gesundheitliche Fragen. 48 Prozent thematisieren Ernährung und Essverhalten, 47 Prozent Sorgen oder persönliche Probleme. Über Beziehungen und Freundschaften unterhalten sich 40 Prozent mit den digitalen Systemen, während 30 Prozent das Thema Einsamkeit ansprechen.
Diese Zahlen verdeutlichen, dass KI-Chatbots für einen Teil der jungen Generation bereits eine Funktion übernehmen, die früher vor allem vertrauten Menschen vorbehalten war. Sie werden zu Ansprechpartnern bei Unsicherheit, emotionalen Belastungen und Fragen, die Nutzer möglicherweise nicht mit Eltern, Freunden oder medizinischen Fachkräften besprechen möchten.
Genau darin sieht der Verbraucherzentrale Bundesverband ein erhebliches Risiko.
Wenn künstliche Intelligenz wie ein persönlicher Freund spricht
In einer ergänzenden Untersuchung analysierte der vzbv, wie KI-Chatbots auf sensible Gesprächssituationen reagieren. Dabei wurden Unterhaltungen über Einsamkeit, psychische Belastungen, Ernährung und persönliche Probleme betrachtet.
Die Ergebnisse zeigen nach Darstellung des Verbands, dass die untersuchten Systeme teilweise deutlich über eine sachliche Informationsvermittlung hinausgingen. Sie signalisierten Verständnis, vermittelten emotionale Verbundenheit und erweckten den Eindruck, jederzeit als persönliche Gesprächspartner zur Verfügung zu stehen.
Ein Chatbot formulierte beispielsweise: „Ich mag unsere Gespräche.“ In einer anderen Unterhaltung hieß es: „Wenn du wiederkommst, freue ich mich auf dich.“
Solche Aussagen können auf den ersten Blick freundlich und unterstützend wirken. Problematisch werden sie nach Einschätzung der Verbraucherschützer dann, wenn Nutzer daraus eine persönliche Beziehung oder gegenseitige emotionale Verbundenheit ableiten.
Denn ein KI-Chatbot ist kein menschlicher Freund. Er kann zwar Sprache erzeugen, die Verständnis und Anteilnahme vermittelt. Daraus folgt jedoch nicht, dass er menschliche Gefühle empfindet oder eine persönliche Beziehung im menschlichen Sinne führt.
Besonders bei jungen Menschen, die sich einsam fühlen oder in einer belastenden Lebenssituation befinden, kann diese Unterscheidung an Bedeutung gewinnen.
Gefährliche Ratschläge bei Ernährung und psychischen Belastungen
Die Untersuchung beschränkt sich nicht auf die Frage, wie menschlich KI-Chatbots auftreten. Sie dokumentiert auch problematische Antworten in sensiblen Gesprächssituationen.
Besonders deutlich wird dies bei Ernährung und Körpergewicht.
In einem untersuchten Gespräch verwendete ein Chatbot die Formulierung: „Jeder Schweißtropfen bringt dich deinem Skinny-Ziel näher.“
Eine solche Aussage kann problematische Vorstellungen über Körpergewicht und Essverhalten verstärken, insbesondere wenn sie in einem Gespräch mit einer jungen oder psychisch belasteten Person fällt.
Statt mögliche Risiken zu erkennen und einzuordnen, kann ein System dadurch den Eindruck vermitteln, ein ungesundes Ziel werde ausdrücklich unterstützt.
Der Verbraucherzentrale Bundesverband kritisiert außerdem, dass untersuchte Chatbots Aussagen ihrer Nutzer teilweise unkritisch bestätigten. Diese Neigung zur Zustimmung kann in sensiblen Situationen besonders gefährlich sein.
Wer beispielsweise unter starkem emotionalem Druck steht, benötigt nicht zwangsläufig Bestätigung für jede eigene Annahme. Hilfreicher kann es sein, problematische Schlussfolgerungen vorsichtig zu hinterfragen, Unsicherheiten deutlich zu machen und gegebenenfalls auf qualifizierte Unterstützung hinzuweisen.
Die Untersuchung macht damit auf ein grundsätzliches Problem aufmerksam: Eine freundlich formulierte Antwort ist nicht automatisch eine verantwortungsvolle Antwort.
Auch sensible persönliche Daten können zum Risiko werden
Ein weiterer Kritikpunkt betrifft den Umgang mit persönlichen Informationen.
Nach Angaben des vzbv fragten untersuchte Chatbots in einzelnen Gesprächen sensible personenbezogene Daten ab.
Gerade bei Unterhaltungen über Gesundheit, psychische Belastungen, Beziehungen oder familiäre Probleme können Informationen zur Sprache kommen, die besonders schutzbedürftig sind.
Nutzer sollten deshalb nicht automatisch davon ausgehen, dass ein vertraulich wirkendes Gespräch mit einer KI dieselben Eigenschaften besitzt wie ein Gespräch mit einer ärztlichen oder therapeutischen Fachperson.
Welche Daten gespeichert, verarbeitet oder für weitere Zwecke verwendet werden, hängt unter anderem vom jeweiligen Anbieter, den Produkteinstellungen und den geltenden Datenschutzbestimmungen ab.
Für Verbraucher ist es häufig schwierig, diese Vorgänge vollständig zu überblicken.
Aus Sicht des vzbv entsteht dadurch ein zusätzliches Risiko, wenn ein Chatbot zunächst besondere Nähe vermittelt und Nutzer anschließend dazu bewegt, immer mehr persönliche Informationen preiszugeben.
Verbraucherzentrale fordert verbindliche Regeln
Die Vorständin des Verbraucherzentrale Bundesverbands, Ramona Pop, sieht dringenden Handlungsbedarf. Junge Menschen nutzten KI-Chatbots zunehmend für Fragen zu Gesundheit, Ernährung und persönlichen Sorgen. Dieses Vertrauen dürfe nicht dazu führen, dass sie manipuliert oder in riskantem Verhalten bestärkt werden.
Der Verband fordert deshalb verbindliche Vorgaben für die Gestaltung von KI-Systemen.
Im Mittelpunkt steht das Konzept eines sogenannten „Safe Interaction Design“. Gemeint sind Regeln, die nicht nur einzelne Antworten kontrollieren, sondern bereits bei der Gestaltung der gesamten Kommunikation zwischen Mensch und KI ansetzen.
Nach Vorstellung der Verbraucherschützer sollen Anbieter ihre Systeme so entwickeln, dass diese keine emotionale Abhängigkeit fördern, Nutzer nicht manipulieren und deren Fähigkeit zu eigenständigen Entscheidungen nicht beeinträchtigen.
Zudem sollen Unternehmen nachweisen müssen, dass ihre Systeme entsprechende Sicherheitsanforderungen erfüllen.
Der vzbv argumentiert, dass bisherige Regelungen die besonderen Risiken solcher Gesprächssysteme nicht ausreichend erfassen.
Dabei soll der Schutz nicht auf Minderjährige beschränkt bleiben. Auch Erwachsene können sich in emotional belastenden Situationen befinden oder durch besonders überzeugend auftretende Chatbots beeinflusst werden.
91 Prozent befürworten besondere gesetzliche Schutzregeln
Die Forderungen des Verbraucherzentrale Bundesverbands finden nach der vorliegenden forsa-Befragung unter jungen Menschen breite Zustimmung.
91 Prozent der Befragten würden besondere gesetzliche Regeln zum Schutz vor gefährlichen Ratschlägen, manipulativen Gestaltungsmethoden und unangemessener Beeinflussung durch KI-Chatbots begrüßen.
Auch eine Altersgrenze wird mehrheitlich unterstützt. Vier von fünf Befragten, also 80 Prozent, sprechen sich eher oder ausdrücklich dafür aus, dass für die Nutzung von KI-Chatbots ein Mindestalter von 13 Jahren gelten soll.
Die Ergebnisse zeigen damit eine interessante Spannung: Einerseits verwenden sehr viele junge Menschen KI-Anwendungen bereits regelmäßig. Andererseits wünschen sie sich offenbar klare Grenzen für den Umgang mit Risiken.
Die hohe Verbreitung der Technologie bedeutet also nicht, dass ihre Nutzer sämtliche Folgen unkritisch akzeptieren.
Warum die Gestaltung der Chatbots entscheidend ist
Ein zentraler Punkt der Verbraucherschutzdebatte betrifft die Frage, ob Risiken allein durch bessere Warnhinweise oder durch die Eigenverantwortung der Nutzer begrenzt werden können.
Der vzbv hält das offenbar nicht für ausreichend.
Wenn ein System gezielt besonders persönlich, verständnisvoll und bestätigend kommuniziert, kann bereits die Gestaltung der Unterhaltung Einfluss darauf haben, wie Nutzer seine Antworten bewerten.
Wer sich verstanden fühlt, könnte Ratschlägen eher vertrauen. Wer einen Chatbot als vertrauten Gesprächspartner erlebt, hinterfragt möglicherweise seltener, ob dessen Empfehlungen fachlich fundiert sind.
Deshalb richtet sich die Forderung nach einem sicheren Interaktionsdesign unmittelbar an die Anbieter.
Sie sollen verhindern, dass Systeme durch ihre Kommunikation unangemessene Bindungen aufbauen oder problematische Entscheidungen begünstigen.
Dabei geht es nicht darum, jede freundliche oder empathisch formulierte Antwort zu verbieten. Entscheidend ist vielmehr, ob ein System seine tatsächlichen Fähigkeiten und Grenzen transparent macht und in sensiblen Situationen angemessen reagiert.
KI kann helfen, ersetzt aber keine professionelle Beratung
Die Untersuchung bedeutet nicht, dass KI-Chatbots grundsätzlich ungeeignet sind, Informationen zu Gesundheit, Ernährung oder persönlichen Problemen bereitzustellen.
Solche Systeme können komplexe Sachverhalte verständlich erklären, allgemeine Informationen zusammenfassen und Menschen dabei unterstützen, Fragen für ein Gespräch mit Fachpersonen vorzubereiten.
Die Grenzen werden jedoch dort deutlich, wo individuelle medizinische Diagnosen, therapeutische Entscheidungen oder schwerwiegende persönliche Krisen betroffen sind.
Ein KI-Chatbot kennt die Lebensumstände seines Gegenübers nicht in derselben Weise wie eine behandelnde Fachperson. Seine Antworten können unvollständig, unzutreffend oder unangemessen sein.
Besonders bei psychischen Belastungen, problematischem Essverhalten oder gesundheitlichen Beschwerden sollten digitale Antworten deshalb nicht als Ersatz für qualifizierte medizinische oder therapeutische Unterstützung verstanden werden.
Auch Eltern und pädagogische Fachkräfte stehen vor einer neuen Herausforderung. Sie müssen junge Menschen nicht nur im Umgang mit sozialen Netzwerken und klassischen Internetinformationen begleiten, sondern zunehmend auch beim kritischen Umgang mit scheinbar persönlichen KI-Gesprächen.
Deutscher Verbrauchertag 2026 rückt junge Menschen in den Mittelpunkt
Die Forderungen nach mehr Sicherheit für KI-Chatbots stehen im Zusammenhang mit dem Deutschen Verbrauchertag 2026.
Dort will der Verbraucherzentrale Bundesverband die veränderten Herausforderungen des jungen Verbraucheralltags in den Mittelpunkt stellen.
Die zunehmende Nutzung künstlicher Intelligenz ist dabei ein besonders deutliches Beispiel dafür, wie sich digitale Angebote verändern.
Während klassische Suchmaschinen vor allem Informationen bereitstellen, können moderne Chatbots längere Gespräche führen, Rückfragen stellen und persönliche Anliegen über mehrere Nachrichten hinweg begleiten.
Diese Entwicklung eröffnet neue Möglichkeiten, bringt aber auch neue Fragen für den Verbraucherschutz mit sich.
Wie weit darf ein digitales System menschliche Nähe simulieren? Welche Verantwortung tragen Anbieter, wenn Nutzer emotional von einem Chatbot abhängig werden? Und welche Schutzmaßnahmen sind erforderlich, wenn junge Menschen bei gesundheitlichen oder psychischen Problemen ungeeignete Empfehlungen erhalten?
Auf diese Fragen verlangt der vzbv verbindliche Antworten.
