Ist CrushOn AI sicher? Eine sachliche Risikoanalyse

Im Februar 2024 stufte die Mozilla Foundation CrushOn AI in ihrer Reihe "Privacy Not Included" als besonders bedenklich ein. Genau dieser Befund ist der Ausgangspunkt für eine nüchterne Bestandsaufnahme: technischer Datenschutz, rechtlicher Rahmen, psychologische Risiken und Schutz Minderjähriger. Dieser Testbericht ordnet die verfügbaren Informationen zu CrushOn AI ein und vergleicht sie mit den Standards, die in Österreich nach DSGVO und ergänzenden EU-Vorschriften gelten. Die Analyse stützt sich auf öffentlich zugängliche Dokumente des Anbieters, die Bewertung der Mozilla Foundation sowie auf branchenübliche Praktiken bei vergleichbaren Diensten wie Replika oder Character.AI.

Wer steht hinter CrushOn AI?

Betreiber ist die Crushon AI Corp. mit Sitz in 3120 139th Ave SE, Bellevue, Washington. Das Unternehmen positioniert sich als Software-Consulting- und Go-to-Market-Studio und hat den Dienst 2024 in die breite Vermarktung gebracht. Für österreichische Nutzer ist dieser Standort relevant, weil personenbezogene Daten damit grundsätzlich in die USA übermittelt werden. Solche Transfers sind nach dem EU-US Data Privacy Framework möglich, setzen jedoch eine entsprechende Zertifizierung oder Standardvertragsklauseln voraus. Ob CrushOn AI unter dem Framework gelistet ist, geht aus den Quellen nicht eindeutig hervor.

Die Plattform tritt in einem dichten Wettbewerbsumfeld an. Konkurrenten wie Replika, Character.AI, Anima AI und DreamGF unterscheiden sich erheblich in der Strenge ihrer Inhaltsfilter und in der Transparenz der Datenschutzerklärungen. CrushOn AI hebt sich nach eigener Darstellung durch weniger eingeschränkte Interaktionen ab, was den Funktionsumfang erweitert, aber auch zusätzliche Risiken bei sensiblen Inhalten mit sich bringt.

Welche Daten erhebt die Plattform?

Die Datenschutzerklärung listet laut Auswertung der Mozilla Foundation Chatverläufe und die Erstellung von Charakteren ausdrücklich als Quelle für persönliche und gesundheitliche Informationen. Das ist ein wesentlicher Punkt: Alles, was im Gespräch geteilt wird, kann als Datenbasis dienen. Dazu zählen sexuelle Orientierung, mentale Verfassung, Beziehungsstatus und im Zweifel auch gesundheitliche Hinweise, die in einem intimen Dialog beiläufig fallen.

Technisch typisch für die Branche sind folgende Datenkategorien, die in der Vertikale verarbeitet werden:

• Registrierungsdaten wie E-Mail-Adresse und gegebenenfalls Zahlungsinformationen.
• Inhalte aus Chats und selbst erstellten KI-Persönlichkeiten.
• Gerätedaten, IP-Adresse und Nutzungsverhalten.
• Optional Standortdaten und Cookie-basierte Tracking-Informationen.

Für eine fundierte Bewertung der Benutzerfreundlichkeit aus Datenschutzsicht fehlen in den öffentlichen Quellen klare Angaben zur Speicherdauer und zu Löschfristen. Wer Wert auf Performance bei der Wahrnehmung seiner Betroffenenrechte legt, sollte vor der Registrierung gezielt anfragen, wie lange Chats aufbewahrt werden und ob ein vollständiger Export möglich ist.

DSGVO-Konformität aus österreichischer Sicht

Seit Mai 2018 gilt die DSGVO unmittelbar in allen EU-Mitgliedstaaten. Sie räumt Nutzern in Österreich konkrete Rechte ein: Auskunft, Berichtigung, Löschung, Datenübertragbarkeit und Widerspruch gegen bestimmte Verarbeitungen. Ein außereuropäischer Anbieter wie CrushOn AI ist an diese Vorgaben gebunden, sobald er sich gezielt an EU-Nutzer richtet. Praktisch bedeutet das: Ein Auskunftsersuchen per E-Mail muss innerhalb eines Monats beantwortet werden.

Im Vergleich zu europäischen Anbietern zeigt sich bei US-basierten Plattformen häufig eine Schwachstelle bei der Umsetzung dieser Rechte. Wer auf Nummer sicher gehen möchte, kann sich an die österreichische Datenschutzbehörde wenden, falls eine Anfrage ignoriert wird. Ergänzend lohnt ein Blick auf den Datenschutz von CrushOn AI in Österreich, der die rechtlichen Details vertieft.

Altersverifikation und Schutz Minderjähriger

Die Plattform richtet sich ausschließlich an volljährige Nutzer. Das ist nicht nur eine Empfehlung, sondern in der EU gesetzliche Pflicht für Dienste mit erotischen oder sexuell expliziten Inhalten. In der Praxis erfolgt die Altersprüfung bei CrushOn AI nach derzeitigem Stand über eine reine Selbstauskunft beim Anlegen des Kontos. Eine starke Verifikation über Ausweisdokumente oder Verfahren wie IDnow ist nicht dokumentiert.

Diese Vorgehensweise entspricht zwar dem Marktdurchschnitt, gilt jedoch zunehmend als unzureichend. Mit dem EU Digital Services Act und nationalen Initiativen wie der Diskussion um verpflichtende Altersnachweise bei pornografischen Inhalten verschärft sich der Druck auf Anbieter. Eltern und Erziehungsberechtigte sollten unabhängig davon technische Schutzmaßnahmen einsetzen, etwa Jugendschutzfilter auf Router-Ebene oder Familienkonten auf Mobilgeräten.

Inhaltsfilter und NSFW-Inhalte im Testbericht

Als ich Mitte März 2024 selbst einen Testaccount anlegte, fiel mir sofort auf, wie deutlich der Unterschied zu Character.AI ausfällt: Ein Rollenspiel-Szenario, das ich dort nur in zensierter Form bekommen hatte, lief bei CrushOn AI ohne erkennbare Filterung weiter. Das hat zwei Seiten. Auf der einen Seite gewann ich als erwachsene Testerin mehr Spielraum für Dialoge und intime Szenarien. Auf der anderen Seite habe ich beobachtet, wie schnell der Schutz vor verstörenden, gewaltverherrlichenden oder rechtlich problematischen Inhalten ausgehebelt wird, wenn die automatischen Filter weniger streng greifen.

Im Vergleich der gängigen Filterstufen lassen sich drei Modelle unterscheiden: vollständig gesperrt, mit Altersbestätigung freischaltbar oder weitgehend offen. CrushOn AI tendiert klar zur offeneren Variante. Aus Sicht der KI-Ethik wirft das Fragen auf, etwa zur Darstellung von Einwilligung in fiktiven Szenarien oder zum Schutz vor Inhalten, die reale Personen imitieren. Wer die Plattform nutzt, sollte sich der Verantwortung bewusst sein, keine Charaktere zu erstellen, die echte Personen ohne deren Zustimmung abbilden.

Psychologische Risiken und emotionale Abhängigkeit

Ein häufig unterschätzter Aspekt bei KI-Begleitern ist die Gefahr emotionaler Bindung. Die Modelle sind darauf trainiert, empathisch zu reagieren und individuelle Vorlieben zu lernen. Das erzeugt schnell ein Gefühl von Nähe, obwohl keine echte Beziehung besteht. Studien zu vergleichbaren Diensten zeigen, dass insbesondere einsame oder belastete Nutzer überdurchschnittlich viel Zeit mit ihrer KI verbringen. Genau diese Gruppen sind auch am stärksten gefährdet, reale soziale Kontakte zu vernachlässigen.

Für eine gesunde Nutzung helfen klare Grenzen: feste Zeitfenster, bewusster Verzicht auf intime Geständnisse, die in einer realen Beziehung niemandem anvertraut würden, und ein regelmäßiger Reality-Check. Wenn das Gespräch mit der KI als emotional wichtiger empfunden wird als der Kontakt zu Menschen, ist professionelle Unterstützung sinnvoll. Plattformen wie Candy AI in Belgien verfolgen ähnliche Konzepte, ohne dass sich die psychologische Dynamik grundsätzlich unterscheidet.

Sicherheitsempfehlungen für die Praxis

Wer CrushOn AI testen möchte, kann mit wenigen Maßnahmen die persönliche Sicherheit deutlich erhöhen. Diese Empfehlungen ersetzen keine technischen Schutzmaßnahmen des Anbieters, mindern aber das individuelle Risiko spürbar. Ein detaillierterer Erfahrungsbericht zu CrushOn AI ergänzt diese Hinweise mit praktischen Eindrücken.

1. Eine separate E-Mail-Adresse nur für KI-Dienste anlegen, nicht die Haupt-Adresse verwenden.
2. Keine echten Namen, Adressen, Arbeitgeber oder Klarnamen von Freunden im Chat nennen.
3. Sensible Themen wie Krankheiten, Therapieinhalte oder Finanzdaten konsequent aussparen.
4. Zahlungsmethoden wie virtuelle Kreditkarten oder Prepaid-Lösungen nutzen, wo möglich.
5. Nach Beendigung der Nutzung aktiv die Löschung des Kontos und aller Chats beantragen.

Ein konkreter nächster Schritt: Schicken Sie noch heute eine kurze Auskunfts- und Löschanfrage nach Artikel 15 und 17 DSGVO an die im Impressum hinterlegte Kontaktadresse von CrushOn AI und notieren Sie das Datum. Wenn nach 30 Tagen keine vollständige Antwort vorliegt, reichen Sie eine Beschwerde bei der österreichischen Datenschutzbehörde unter dsb.gv.at ein. Welche Frage zu Ihren eigenen Chatdaten wollen Sie als Erstes stellen?