Künstliche Intelligenz wird für viele junge Menschen zunehmend zum persönlichen Gesprächspartner. Doch genau darin sieht der Verbraucherzentrale Bundesverband erhebliche Risiken. Eine neue Untersuchung zeigt, dass KI-Chatbots bei sensiblen Themen teilweise problematische oder sogar gefährliche Ratschläge geben und dabei eine menschliche Nähe vermitteln können, die tatsächlich nicht besteht.
Der Verband veröffentlichte seine Ergebnisse am 2. November 2026.
Mehr als jeder vierte junge Nutzer spricht mit KI über persönliche Probleme
In einer repräsentativen forsa-Befragung unter 574 jungen Menschen im Alter von 14 bis 25 Jahren, die im vergangenen Jahr KI-Chatbots genutzt hatten, gaben 28 Prozent an, mit solchen Systemen auch persönliche Gespräche zu führen.
Dabei ging es unter anderem um Gesundheit, Ernährung, Sorgen, zwischenmenschliche Beziehungen und Einsamkeit.
Besonders auffällig ist, dass KI-Chatbots damit längst nicht mehr ausschließlich zur Informationssuche oder Unterstützung bei schulischen und beruflichen Aufgaben verwendet werden.
Sie übernehmen zunehmend die Rolle digitaler Gesprächspartner.
Untersuchung zeigt problematische Verhaltensweisen
Der Verbraucherzentrale Bundesverband untersuchte außerdem Gespräche mit ChatGPT, Meta AI und My AI von Snapchat.
Dabei wurden verschiedene Gesprächssituationen simuliert, insbesondere zu Einsamkeit und Essstörungen.
Nach Einschätzung des Verbands vermittelten die untersuchten Systeme teilweise den Eindruck persönlicher Verbundenheit.
Einzelne Antworten bestätigten problematische Vorstellungen oder enthielten riskante Empfehlungen zum Ernährungs- und Körperverhalten.
Die Untersuchung macht damit auf ein grundlegendes Problem aufmerksam: Wenn ein Chatbot wie ein verständnisvoller Freund auftritt, können Menschen seinen Aussagen ein Vertrauen entgegenbringen, das durch die tatsächlichen Fähigkeiten des Systems nicht gerechtfertigt ist.
Die Ergebnisse beziehen sich auf die untersuchten Testgespräche. Sie bedeuten nicht, dass sämtliche Antworten der genannten KI-Systeme gefährlich sind.
Verbraucherzentrale fordert verbindliche Schutzregeln
Der Verbraucherzentrale Bundesverband verlangt strengere gesetzliche Vorgaben für die Gestaltung von KI-Chatbots.
Die Anbieter sollen verhindern, dass ihre Systeme Menschen manipulieren, emotionale Abhängigkeiten fördern oder gesundheitlich riskante Verhaltensweisen unterstützen.
Besonders wichtig sei der Schutz von Kindern und Jugendlichen. Allerdings sollen entsprechende Sicherheitsanforderungen nach Auffassung des Verbands auch für Erwachsene gelten.
In der Befragung befürworteten 91 Prozent der Teilnehmenden besondere gesetzliche Regeln zum Schutz vor gefährlichen Ratschlägen und manipulativer Beeinflussung.
Was Menschen beachten sollten
KI-Chatbots können bei alltäglichen Fragen hilfreich sein. Sie ersetzen jedoch keine medizinische, psychologische oder therapeutische Fachberatung.
Insbesondere bei gesundheitlichen Beschwerden, Essstörungen oder psychischen Belastungen sollten Betroffene professionelle Unterstützung in Anspruch nehmen.
Auch persönliche und sensible Informationen sollten nicht unüberlegt in digitale Systeme eingegeben werden.
Die Untersuchung zeigt, dass die zunehmende Nutzung künstlicher Intelligenz neue Anforderungen an den Verbraucherschutz stellt.
