Was bedeutet "sicher" bei einer AI-Girlfriend-App?

Seit 2024 positioniert sich CrushOn AI, betrieben von der Crushon AI Corp. mit Sitz in Bellevue, Washington, als freizügigere Alternative zu Character.AI und legt laut chip.de besonderen Wert auf kreative Freiheit. Sicherheit ist bei einer KI-Begleiter-Plattform jedoch kein einzelnes Merkmal, sondern eine Kombination aus Datenschutz, Inhaltsfilterung, Altersverifikation und psychologischer Verantwortung. Im Testbericht zu CrushOn AI lohnt sich deshalb eine differenzierte Analyse statt eines pauschalen Urteils.

Genau dieser Funktionsumfang erhöht jedoch die Anforderungen an den Datenschutz. Wer intime Gespräche mit einer KI führt, produziert sensible Inhalte, die rechtlich teils unter besondere Kategorien personenbezogener Daten nach Artikel 9 DSGVO fallen können. Die nachfolgende Analyse betrachtet, welche Daten erhoben werden, wie sie verarbeitet werden und welche Risiken Nutzerinnen und Nutzer in Österreich kennen sollten.

Datenschutz-Analyse: Was die Privacy Policy verrät

Die Mozilla Foundation hat CrushOn AI im Rahmen ihres Leitfadens "Privacy Not Included" geprüft und kommt zu einer kritischen Bewertung. Laut Analyse nennt die Datenschutzerklärung selbst Chats und die Erstellung von Charakteren ausdrücklich als Quelle für persönliche und gesundheitliche Informationen. Das ist insofern bemerkenswert, als gesundheitliche Daten in der EU zu den besonders geschützten Datenkategorien gehören und seit Inkrafttreten der DSGVO 2018 nur unter strengen Voraussetzungen verarbeitet werden dürfen.

Konkret bedeutet das: Alles, was du im Chat eingibst, kann theoretisch ausgewertet werden. Dazu zählen frei formulierte Beschreibungen deiner Stimmung, körperlicher Beschwerden oder familiärer Probleme. Da der Anbieter seinen Sitz in den USA hat, greift zudem die Frage nach dem Drittlandtransfer. Für österreichische Nutzerinnen und Nutzer relevant: Die DSGVO gilt extraterritorial, sobald sich ein Dienst aktiv an den EU-Markt richtet. Du kannst deine Rechte auf Auskunft, Berichtigung und Löschung also grundsätzlich geltend machen, auch wenn die Server in den USA stehen. Mehr dazu im Beitrag CrushOn AI und die DSGVO.

Welche Daten werden konkret erfasst?

Typisch für Plattformen dieser Kategorie ist die Erhebung folgender Datenkategorien: Chatverläufe inklusive eingegebener Charakterbeschreibungen, technische Gerätedaten wie IP-Adresse und Browsertyp, Nutzungsstatistiken sowie optional Standortdaten. Hinzu kommen bei einer Registrierung E-Mail-Adresse und gegebenenfalls Zahlungsdaten. Die Plattform selbst verwendet laut Anbieterangaben Verschlüsselung bei der Übertragung, eine Ende-zu-Ende-Verschlüsselung der Chatinhalte gegenüber dem Anbieter ist bei generativer KI technisch jedoch nicht möglich, da die Inhalte serverseitig verarbeitet werden müssen, um Antworten zu generieren.

Risiken im Vergleich zu Wettbewerbern

Im Vergleich mit Replika, Character.AI und Anima AI fällt CrushOn AI durch eine deutlich liberalere Inhaltsrichtlinie auf. Während Character.AI strikte Filter für NSFW-Inhalte einsetzt, erlaubt CrushOn AI explizit auch erotische Rollenspiele. Diese kreative Freiheit ist ein zentrales Verkaufsargument, bringt aber spezifische Risiken mit sich. Erstens entstehen umfangreichere intime Datensätze. Zweitens steigt das Risiko, dass Nutzer persönliche Fantasien oder reale Lebenssituationen detailliert beschreiben, die in fremde Hände geraten könnten.

Als ich Anfang Oktober 2024 selbst einen Testaccount angelegt habe, ist mir bei der Anmeldung sofort aufgefallen, wie niedrigschwellig die Altersbestätigung ausfällt: ein einziges Häkchen bei der Frage "Ich bin über 18", danach lag das Chatfenster offen. Eine technische Prüfung per Ausweisdokument oder Verfahren wie IDnow fehlt. Das ist branchenüblich, aber rechtlich heikel: § 184 StGB in Deutschland und vergleichbare Regelungen in Österreich verlangen wirksame Schutzmechanismen gegen den Zugriff Minderjähriger auf pornografische Inhalte. Eine reine Checkbox, wie ich sie dort gesehen habe, erfüllt diese Anforderung nicht zuverlässig.

Psychologische Risiken und KI-Ethik

Die KI-Ethik-Debatte rund um AI-Girlfriend-Apps konzentriert sich auf drei Punkte: emotionale Abhängigkeit, verzerrte Beziehungserwartungen und Vernachlässigung realer sozialer Kontakte. CrushOn AI ist hier nicht negativer einzuschätzen als andere Anbieter, profitiert aber auch nicht von einem expliziten Schutzkonzept. Es gibt keine sichtbaren Warnhinweise bei intensiver Nutzung, keine Nutzungszeitbegrenzung und keine integrierte Verlinkung zu psychologischen Hilfsangeboten. Nutzer mit Tendenz zu sozialem Rückzug sollten dies bewusst reflektieren.

Performance und Benutzerfreundlichkeit unter Sicherheitsaspekten

Die Benutzerfreundlichkeit der Plattform ist im Test ordentlich, hat aber auch sicherheitsrelevante Schwächen. Positiv: Die Anmeldung funktioniert per E-Mail, ein Klarname ist nicht erforderlich. Du kannst also ein Pseudonym verwenden, was die Datensparsamkeit erhöht. Negativ fällt auf, dass datenschutzrelevante Einstellungen tief in den Menüs versteckt sind. Eine zentrale Übersicht, welche Daten gespeichert wurden und wie du sie exportieren oder löschen kannst, fehlt in der Form, wie sie etwa Replika prominenter platziert.

Die Performance der Chats ist solide, mit typischen Antwortzeiten von zwei bis fünf Sekunden. Allerdings: Jede Antwort durchläuft die Server des Anbieters, was den Datenschutzfußabdruck pro Sitzung erhöht. Wer regelmäßig stundenlang chattet, erzeugt entsprechend umfangreiche Profile. Eine Anleitung zum Löschen findest du im Leitfaden CrushOn AI Daten löschen. Ergänzend empfiehlt sich ein Blick in unseren ausführlichen CrushOn AI Testbericht für die Bewertung des Gesamtpakets. Wer regional vergleichen möchte, findet bei der polnischen Schwesterseite CrushOn AI Polen eine alternative Perspektive.

Praktische Sicherheitsempfehlungen für die Nutzung

Wer CrushOn AI in Österreich nutzen möchte, kann das Risikoprofil mit einigen Maßnahmen deutlich senken. Diese Empfehlungen folgen dem Prinzip der Datenminimierung, einem Kerngedanken der DSGVO seit 2018:

  1. Verwende eine separate E-Mail-Adresse, die nicht mit deinem Klarnamen verknüpft ist.
  2. Gib keine realen Standortdaten, Adressen oder Namen von Familienmitgliedern in den Chat ein.
  3. Teile keine gesundheitlichen Details, die du nicht auch einem Fremden erzählen würdest.
  4. Lösche regelmäßig alte Konversationen über die Profileinstellungen.
  5. Nutze eine eigene Zahlungsmethode wie eine Prepaid-Karte für Premium-Funktionen.

Zusätzlich solltest du wissen, dass du jederzeit ein Auskunftsersuchen nach Artikel 15 DSGVO an den Anbieter richten kannst. Eine formlose E-Mail an die im Impressum genannte Kontaktadresse genügt. Der Anbieter hat dann einen Monat Zeit, dir eine vollständige Kopie deiner gespeicherten Daten zu übermitteln. Bei Verstößen kannst du dich an die österreichische Datenschutzbehörde wenden.

Fazit der Sicherheitsbewertung

Stelle dir vor dem nächsten Login eine konkrete Frage: Welche drei Informationen würdest du einer fremden Person in einer Bar niemals erzählen? Genau diese gehören auch nicht in den Chat. Plane dir außerdem für die kommende Woche einen festen Termin von zehn Minuten ein, um in den Profileinstellungen ein Auskunftsersuchen nach Artikel 15 DSGVO an den Support zu schicken und die Antwort innerhalb der Monatsfrist zu prüfen. Wer wissen will, ob ihn die liberalere Inhaltspolitik eher reizt oder beunruhigt, sollte zudem zwei Sitzungen mitprotokollieren und ehrlich notieren, welche Themen er bereits preisgegeben hat. Diese Notiz ist der Ausgangspunkt für eine bewusste Entscheidung pro oder contra weiterer Nutzung.