Risiken für die Privatsphäre
Ruiniert die EU AI-gestütztes Dating?
User immer beliebter werdender Dating Apps bekommen in ihrer Partnersuche nun auch Schützenhilfe durch KI-Bots, sei sie optisch oder kommunikativ. Doch der EU AI Act könnte hier bremsend wirken, „Manipulation“ oder „Täuschung“ sind nun verboten.
Save to Folio
Künstliche Intelligenz und besonders Large Language Module (LLM) wie ChatGPT sind mächtige, faszinierende Werkzeuge. Nicht nur, dass sie wie Menschen kommunizieren können, sie erzeugen auch nach unseren Vorstellungen Bilder und Texte. Deswegen nennt man sie auch „Generative AI“ oder GenAI.
Die Fähigkeit zu kommunizieren ist für Menschen extrem wichtig, vor allem auch wenn es darum geht, den richtigen Partner fürs Leben zu finden. Paradoxerweise wird dies trotz massiver Fortschritte bei den Kommunikationsmöglichkeiten immer schwieriger. So viele allein lebende Menschen (prozentual) gab es zu keiner Zeit zuvor. Um die bestehende Nachfrage nach dauerhaften Partnerschaften zu bedienen, entstanden in den letzten Jahren eine Vielzahl von Apps, die das Treffen mit interessanten/interessierten Menschen vereinfachen – so genannte Dating Apps. Mittels „Matchmaking“ stellen die Programme einem Abonnenten eine Auswahl möglicher Partner/innen vor. Und nun hängt es wiederum von den Kommunikationsfähigkeiten der beiden Beteiligten ab, was daraus wird. Das funktioniert offenbar recht gut. Laut ZDF-Experte Thorsten Peetz von der Uni Bamberg werden 40% der Beziehungen in den USA auf diese Weise geschlossen.
Dating mit KI
Und auch hier findet KI ihr Einsatzgebiet. Da ist das Beispiel von „Zhadan“, der laut verschiedener Medienberichte selbst einen Chat Bot programmierte. Dieser erlaubte es ihm, gleichzeitig mit 5000 Frauen zu kommunizieren, um dann die eine zu treffen, die seinen Heiratsantrag nun bejaht hat. Als digitaler „Wingman“ wird der AI-Bot bezeichnet, den man „anheuern“ kann, damit er dem Suchenden zur Seite steht und allzu Schüchternen die richtige Wortwahl vorschlägt. Die KI weiß schließlich, was Frauen/Männer hören wollen. Sie kann auch die Vorauswahl treffen, wer überhaupt als Partner in Frage kommt. Schließlich passt das Supermodel nur im Fernsehen zum Nerd. Geradliniger sind Angebote, die einem Menschen einen Online-Bot versprechen, der uns „versteht, antwortet und auch wertschätzt“. Echte Treffen gibt es nicht, aber jemand der uns sagt, wie toll wir sind, ist doch auch etwas.
Darüber hinaus gibt es gleich mehrere Verdachtsfälle, in denen Chatbots eingesetzt werden, um zahlende Dating App-Kunden bei Laune zu halten und zu motivieren, obwohl ein menschlicher Partner nicht in Sicht ist. KI wird auch verwendet, um uns schöner darzustellen, indem sie Fotos und Lebensläufe optimiert.
Der Spielverderber EU
Für Dating ist KI also ein spannendes Thema, und nun kommen die Spielverderber von der EU -- naja, ganz so schlimm ist es auch wieder nicht. Mit der Verabschiedung des EU AI Acts gibt es die weltweit erste Gesetzgebung zum Thema. Auch außerhalb der EU diskutieren Länder darüber mit ähnlichen Ansichten.
Hauptziel der Verordnung ist die Umsetzung des Menschenbilds der EU auch im Hinblick auf KI. Nach der Frage des Datenschutzes ist die EU doch tatsächlich auch der Meinung, dass ein Mensch das Recht hat zu wissen, wenn er mit einer künstlichen Intelligenz kommuniziert. Vor allem, wenn diese darauf programmiert ist, die Meinung dieses Menschen zu beeinflussen.
Das ist erst einmal schon eine schlechte Nachricht für die Zhadans dieser Welt, denn strenggenommen ist sein Chatbot damit illegal. Auch wenn es seine Verlobte nicht weiter stören wird, so sind die anderen 4999 Frauen, die ja nur mit einem Chatbot sprachen, da unter Umständen anderer Ansicht. Zudem wurden ihre Daten als Training für die KI verwendet, um den digitalen „Wingman“ erfolgreicher zu machen. Auch dafür fehlt die Zustimmung, was die EU ebenfalls nicht so lustig findet. Transparenz darüber, wie und wozu die KI eingesetzt wird, ist für derartige Anwendungen künftig vorgeschrieben.
Also wieder EULA?
Das mit der Transparenz ist ja eine nette Idee, hat sich aber immer wieder als EULA-Thema erwiesen. Den „End User License Agreements“ müssen Anwender zustimmen, um einen Dienst zu nutzen. Aber wer hat schon Zeit, sich das durchzulesen? Zudem müssen Dating Apps bezüglich des Einsatzes der KI nichts verstecken. Den Wert der KI kann man leicht erklären – bessere Auswahl der Partner/innen, erfolgreich kommunizieren, Coaching in Liebesdingen. Verführerisch, oder? Sobald eine User-Interaktion erfolgt und der von der KI erstellte Text von einem Menschen versendet wird, kommunizieren eben nicht mehr Bots. Insofern ist dem Gesetzestext Genüge getan.
Die Gerichte werden es klären
Eine spannende Frage wird sein, was passiert, wenn die ersten Klagen kommen. Denn verboten ist laut AI Act der Einsatz „… absichtlich manipulativer oder täuschender Techniken…“ (Kapitel II Absatz 5 Verbotene AI-Praktiken).
Nun ist, wie man weiß, in der Liebe und im Krieg „alles“ erlaubt. Doch gibt es genügend Fälle in denen Betrüger jenseits der Legalität agieren. Diese erhalten nun mit Dating Apps und künstlicher Intelligenz jede Menge Auftrieb. Da die Apps der Anbahnung von Beziehungen dienen und verfügbare KI dazu eingesetzt wird, dies zu unterstützen, werden beide tatsächlich zu Werkzeugen, die es erlauben, absichtlich zu manipulieren und zu täuschen. Inwiefern man App-Betreiber oder Entwickler mitverantwortlich machen wird, ist nicht geklärt. Es wird aber durchaus Anwälte geben, die entsprechende Prozesse führen wollen.
Genetische Vorselektion
In Science Fiction-Filmen wurde sie in den 60er Jahren schon diskutiert. Die Selektion „passender Gene“, wie sie zu verschiedenen biologischen Züchtungen genutzt wird, auf Menschen anzuwenden gilt als unethisch. Aber liegt in der KI nicht die Gefahr dies durch die Hintertür nun zu erreichen? Beispielsweise, wenn sie dazu eingesetzt wird, Partner zu finden und dabei lernt, welche Merkmale Menschen bevorzugen? Um das überspitzt auszudrücken: „Wenn Ihnen diese Person gefallen hat, dann wird Ihnen diese (andere) Person auch gefallen!“ Gerade optisch orientierte Plattformen wie Dating Apps werden dadurch automatisch visuelle Reize in den Vordergrund stellen. Die berühmten „inneren Werte“ werden über eine solche KI nicht ausgewertet, und Humor versteht ein Computer ohnehin nicht. Sind dann solche Systeme als „biometrische Kategorisierung“ oder „Emotionserkennung“ einzuordnen? Für sie hat die EU spezielle Regelungen etabliert.
Fazit
Der Einsatz künstlicher Intelligenz in Dating Apps ist heute Markenzeichen und Werbemittel, denn Nutzern wird dadurch mehr und schnellerer Erfolg versprochen. Transparenz, wie sie die Union fordert, soll dabei kein Problem sein. Gerne wird erklärt werden, wie die KI den Menschen unterstützt. Kampfbegriffe wie „Manipulation“ oder „Täuschung“ werden es sein, die für juristische Entscheidungen relevant werden. Denn eine KI-optimierte digitale Version eines Menschen, wird in der Realität ganz anders wahrgenommen. Dies hat hohes Potenzial, dass sich Menschen betrogen fühlen. Auf der anderen Seite sollte man nicht leichtfertig abtun, welche Rolle KI langfristig für die Partnersuche haben könnte und wieviel davon tatsächlich noch menschlich ist. Der AI Act wurde sicherlich nicht entwickelt, weil man Dating Apps im Fokus hatte. Diese könnten allerdings zu seinen ersten „Opfern“ zählen.