Herr Blazek, ein Forscherteam hat mit „ScamChatBot“ ein KI-System entwickelt, das mit Betrügern chattet und so Zahlungswege aufdeckt. Was halten Sie grundsätzlich von diesem Ansatz?
Daniel Blazek: Aus rechtlicher Sicht ist das ein faszinierender, aber zugleich komplexer Ansatz. Wenn eine künstliche Intelligenz gezielt mit Betrügern interagiert, um Daten zu erheben und an Zahlungsdienstleister oder Plattformen weiterzugeben, bewegt man sich an der Schnittstelle von Datenschutz, Strafverfolgung und präventiver Gefahrenabwehr. Grundsätzlich ist alles, was hilft, Menschen vor Schaden zu bewahren, begrüßenswert – aber es muss rechtsstaatlich sauber bleiben.
Das System sammelt sensible Daten wie PayPal-Konten oder Wallet-Adressen. Ist das rechtlich zulässig?
Das hängt stark vom konkreten Einsatzszenario ab. Solange die KI als „Lockvogel“ agiert, ohne aktiv zur Straftat aufzufordern, bewegen wir uns in einem Graubereich, der juristisch diskutabel ist, aber nicht zwangsläufig illegal. Wenn die gesammelten Daten jedoch weitergegeben werden – etwa an Plattformen wie PayPal oder an Ermittlungsbehörden – muss sichergestellt sein, dass das datenschutzkonform geschieht, etwa im Rahmen einer Kooperation oder mit klaren rechtlichen Grundlagen.
Ist ScamChatBot aus Ihrer Sicht eher ein Ermittlungswerkzeug oder ein Schutzmechanismus?
Beides. Der präventive Charakter steht im Vordergrund – etwa, wenn durch das Melden eines verdächtigen Kontos verhindert wird, dass weitere Zahlungen an Kriminelle fließen. Doch natürlich kann das System auch Ermittlungsarbeit unterstützen, indem es Strukturen und Netzwerke sichtbar macht. Wichtig ist aber: Die gewonnenen Daten müssen gerichtsverwertbar sein. Und genau da liegt die Herausforderung.
Wie sehen Sie das Missbrauchsrisiko solcher Systeme?
Es ist definitiv da. Eine KI, die mit falscher Identität gezielt kommuniziert, könnte unter Umständen selbst gegen geltendes Recht verstoßen – zum Beispiel, wenn sie zu lange Informationen sammelt oder gar provoziert. Deshalb braucht es klare Regeln, unabhängige Kontrolle und Transparenz. Ansonsten besteht die Gefahr, dass gute Absichten in problematische Methoden abgleiten.
Und wie bewerten Sie das Projekt im Hinblick auf die Entwicklung des Online-Betrugs?
Das System ist ein mutiger, technischer Gegenschlag gegen einen Markt, der jährlich Milliarden an Schaden verursacht. Aber: Auch die Täter werden ihre Systeme weiterentwickeln – wir erleben hier ein regelrechtes Katz-und-Maus-Spiel auf KI-Niveau. Der rechtliche Rahmen muss mitwachsen – sonst überholt uns die Technik.
