CrushOn AI und der EU AI Act: Konkrete Auswirkungen für Nutzer in Österreich

Seit August 2024 ist der EU AI Act offiziell in Kraft - das erste umfassende KI-Regelwerk weltweit. Für Nutzer von KI-Companion-Plattformen wie CrushOn AI stellt sich die berechtigte Frage: Was ändert sich konkret, und welche Rechte habe ich als Person in Österreich? Dieser Bericht liefert eine strukturierte Analyse der relevanten Pflichten, Risikoklassifizierungen und praktischen Konsequenzen für den Alltag mit virtuellen KI-Begleitern.

Was der EU AI Act regelt und warum er für KI-Companions relevant ist

Der EU AI Act ist kein abstraktes Gesetz für Technologiekonzerne allein. Er regelt den Einsatz von KI-Systemen nach einem risikobasierten Ansatz: Je höher das potenzielle Risiko einer Anwendung für Grundrechte oder die öffentliche Sicherheit, desto strenger die Anforderungen. KI-Anwendungen werden in vier Kategorien eingeteilt: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit begrenztem Risiko und Systeme mit minimalem Risiko.

KI-Chatbot-Plattformen, die romantische oder emotionale Interaktionen simulieren, wie CrushOn AI, fallen nach aktuellem Verständnis in die Kategorie "begrenztes Risiko". Das klingt harmlos, hat aber konkrete Folgen. Plattformen dieser Kategorie müssen Nutzern klar mitteilen, dass sie mit einem KI-System interagieren - und nicht mit einem Menschen. Diese Transparenzpflicht gilt ab dem 2. August 2026, dem Stichtag für viele Kernvorschriften des AI Acts.

Für die Rechtslage in Österreich bedeutet das: Wer CrushOn AI nutzt, hat ab diesem Datum ein gesetzlich verankertes Recht darauf zu wissen, dass sein Gesprächspartner eine KI ist. Was auf vielen Plattformen bereits kommuniziert wird, wird durch den AI Act verbindlich und durchsetzbar.

Risikoklassifizierung: Wo steht CrushOn AI?

Die Einordnung einer KI-Anwendung hängt von ihrem konkreten Einsatzbereich ab. CrushOn AI ist 2024 in Bellevue, Washington, gegründet worden und hat sich auf romantische KI-Interaktionen spezialisiert. Diese Art der Anwendung berührt emotionale und psychologische Aspekte des Nutzers, was regulatorisch Aufmerksamkeit erzeugt.

Hochrisiko-Systeme sind laut AI Act jene, die in sensiblen Bereichen wie Bildung, Beschäftigung, kritische Infrastruktur oder Strafverfolgung eingesetzt werden. Ein romantischer KI-Chatbot erfüllt diese Kriterien nach aktuellem Stand nicht. Allerdings enthalten emotionale KI-Anwendungen spezifische Risiken, die der AI Act unter dem Begriff "Systeme mit begrenztem Risiko" adressiert: die Gefahr emotionaler Manipulation und die unklare Grenze zwischen KI-Simulation und echter Empathie.

Relevant ist auch Artikel 50 des AI Acts, der Transparenzpflichten für KI-Systeme vorschreibt, die mit Nutzern interagieren. Demnach muss eine Plattform wie CrushOn AI bei jedem ersten Kontakt oder bei Unklarheit deutlich kennzeichnen, dass es sich um eine künstliche Intelligenz handelt. Wer dagegen verstößt, riskiert Bußgelder, die je nach Verstoß bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes betragen können.

Datenschutz und der AI Act: Was bleibt, was kommt neu

Viele Nutzer fragen sich, ob der AI Act die DSGVO ersetzt. Die Antwort ist klar: Nein. Beide Regelwerke gelten nebeneinander. Die DSGVO bleibt die primäre Rechtsgrundlage für den Umgang mit personenbezogenen Daten. Der AI Act ergänzt sie um technische und governance-bezogene Anforderungen an KI-Systeme selbst.

Für CrushOn AI-Nutzer in Österreich bedeutet das in der Praxis: Die bestehenden DSGVO-Rechte auf Auskunft, Löschung, Berichtigung und Datenportabilität bleiben vollständig bestehen. Dazu kommen neue Ansprüche aus dem AI Act, etwa das Recht auf eine verständliche Erklärung, wie ein KI-System Entscheidungen trifft, die den Nutzer betreffen. Mehr Details zu den Datenschutzaspekten von CrushOn AI in Österreich finden sich in einer separaten Analyse.

Ein praktisch wichtiger Punkt: Chatverläufe mit KI-Companions gelten als personenbezogene Daten. Die Plattform ist also verpflichtet, diese auf Anfrage zu löschen und transparent zu machen, wie lange sie gespeichert werden. Nutzer sollten diese Rechte aktiv einfordern, insbesondere wenn sie intime oder persönliche Informationen geteilt haben.

Altersprüfung und Schutzpflichten nach dem AI Act

Der AI Act sieht für KI-Systeme mit direktem Nutzerkontakt verstärkte Schutzpflichten vor, besonders gegenüber vulnerablen Gruppen. Dazu gehören Minderjährige ausdrücklich. Bereits nach geltendem Recht und nach den Vorgaben des Vertical-Regelwerks liegt das Mindestalter für Plattformen wie CrushOn AI bei 18 Jahren. Durch den AI Act wird diese Anforderung auf europäischer Ebene noch einmal explizit verankert.

Anbieter müssen sicherstellen, dass ihre Systeme keine Inhalte produzieren, die für Minderjährige schädlich sein könnten, und dass der Zugang wirksam beschränkt wird. In der Praxis bedeutet das, dass Methoden zur Altersverifikation - sei es über Selbstauskunft, Zahlungsmittelprüfung oder externe Dienste - robuster werden müssen. Nutzer unter 18 Jahren sind rechtlich von der Nutzung ausgeschlossen. Entsprechende Verstöße können zur Kontosperrung führen.

Praktische Checkliste: Was Nutzer jetzt tun sollten

Angesichts der schrittweisen Einführung des AI Acts bis 2027 ist es sinnvoll, die eigene Nutzung von KI-Companion-Plattformen aktiv zu gestalten. Folgendes sollte geprüft werden: Erstens, ob die Plattform klar kennzeichnet, dass es sich um eine KI handelt. Zweitens, ob eine Datenschutzerklärung vorliegt, die erklärt, wie Chatdaten gespeichert und verarbeitet werden. Drittens, welche Möglichkeiten zur Datenlöschung bestehen und wie der Kundensupport erreichbar ist.

Die Reputation von CrushOn AI auf Trustpilot zeigt zum Zeitpunkt der Recherche im August 2026 lediglich 22 Bewertungen mit einem Durchschnitt von 2 von 5 Punkten. Das ist ein Hinweis darauf, dass Transparenz und Nutzerunterstutzung noch Optimierungspotenzial haben. Im Vergleich dazu weist Replika, ein direkter Wettbewerber, eine deutlich breitere Nutzerbasis und mehr dokumentierte Erfahrungsberichte auf. Wer Wert auf eine gut etablierte Alternative legt, sollte auch Character.AI oder Anima AI im Vergleich berücksichtigen.

Es empfiehlt sich, die Datenschutzeinstellungen in regelmäßigen Abständen zu überprüfen, da Plattformen ihre Richtlinien im Zuge der AI-Act-Umsetzung aktualisieren werden. Bei Unklarheiten zur Kennzeichnung oder zum Datenumgang kann die österreichische Datenschutzbehörde (DSB) als Anlaufstelle dienen.

Was verboten ist und was nicht: Klarstellung für Nutzer

Der AI Act enthält einen Katalog verbotener KI-Praktiken, der seit Februar 2025 gilt. Verboten sind unter anderem KI-Systeme, die Personen durch unterschwellige Techniken manipulieren, die Schwächen bestimmter Gruppen ausnutzen oder soziale Bewertungssysteme für staatliche Zwecke einsetzen. Romantische KI-Companions sind als solche nicht verboten, solange sie diese Grenzen einhalten.

Was den Inhalt betrifft: KI-Systeme, die explizit sexuelle Inhalte erzeugen, unterliegen besonderen nationalen Regelungen. In Österreich gilt paragraph 184 StGB bezüglich pornografischer Inhalte. Plattformen sind verpflichtet, entsprechende Inhaltsfilter einzusetzen und sicherzustellen, dass NSFW-Inhalte nur für verifizierte volljährige Nutzer zugänglich sind. Verstöße können strafrechtliche Konsequenzen haben, sowohl für den Anbieter als auch potenziell für Nutzer, die solche Inhalte aktiv anfordern oder weiterverbreiten.