KI wird immer besser darin, Pornos zu erzeugen. Wir sind möglicherweise nicht auf die Folgen vorbereitet.

Eine rothaarige Frau steht mit verdecktem Gesicht auf dem Mond. Sein nackter Körper sieht aus, als gehöre er auf ein Poster, das Sie an der Wand des Schlafzimmers eines hormongeplagten Teenagers finden – das heißt, bis Sie seinen Torso erreichen, wo drei Arme von seinen Schultern abstehen.

KI-basierte Systeme wie Stable Diffusion, die Textaufforderungen in Bilder übersetzen, wurden von Marken und Künstlern verwendet, um Konzeptbilder, preisgekrönte (wenn auch umstrittene) Drucke und ganze Marketingkampagnen zu erstellen.

Aber einige Benutzer, die begierig darauf sind, die dunkle Seite der Systeme zu erkunden, haben sie für eine andere Art von Anwendungsfall getestet: Pornografie.

AI-Pornos sind ungefähr so ​​beunruhigend und fehlerhaft, wie man erwarten würde (diese Rothaarige auf dem Mond wurde wahrscheinlich nicht von jemandem mit einem zusätzlichen Armfetisch erzeugt). Aber während sich die Technologie weiter verbessert, wird sie schwierige Fragen für KI-Ethiker und Sexarbeiter aufwerfen.

Pornografie, die mit den neuesten Bilderzeugungssystemen erstellt wurde, fand Anfang dieses Monats erstmals ihren Weg in die 4chan- und Reddit-Diskussionsforen, nachdem ein 4chan-Mitglied das Open-Source-System Stable Diffusion vor seiner offiziellen Veröffentlichung durchgesickert war. Dann wurde letzte Woche eine der ersten Websites gestartet, die sich der High-Fidelity-KI-Pornogenerierung widmet.

Die als Porn Pen bezeichnete Website ermöglicht es Benutzern, das Erscheinungsbild von KI-generierten Aktmodellen – die alle weiblich sind – mithilfe von Toggle-Tags wie „Baby“, „Dessous-Model“, „mollig“, Ethnien (z. B. „ Russisch“ und „Latina“) und Hintergründe (z. B. „Schlafzimmer“, „Dusche“ und Platzhalter wie „Mond“). Schaltflächen erfassen Front-, Rück- oder Seitenmodelle und ändern das Erscheinungsbild des generierten Fotos (z. B. „Foto aufgenommen“, „Spiegel-Selfie“). Es muss jedoch einen Spiegel-Selfie-Bug geben, denn im benutzergenerierten Bildstrom spiegeln einige Spiegel keine Person wider - aber natürlich sind diese Modelle überhaupt keine Menschen. Porn Pen funktioniert wie "Diese Person existiert nicht", nur ist es NSFW.

Im Hacker News-Forum von Y Combinator beschreibt ein Benutzer, der behauptet, der Ersteller zu sein, Porn Pen als ein "Experiment", das hochmoderne Bildtextvorlagen verwendet. „Ich habe ausdrücklich die Möglichkeit entfernt, benutzerdefinierten Text anzugeben, um die Erzeugung schädlicher Bilder zu vermeiden“, schrieben sie. "Neue Tags werden hinzugefügt, sobald der Prompt-Engineering-Algorithmus verfeinert ist." Der Ersteller hat nicht auf die Anfrage von TechCrunch nach einem Kommentar geantwortet.

Aber Porn Pen wirft eine Vielzahl ethischer Fragen auf, wie z. B. Vorurteile in Bilderzeugungssystemen und den Quellen der Daten, aus denen sie stammen. Abgesehen von den technischen Implikationen fragt man sich, ob eine neue Technologie zur Erstellung personalisierter Pornos – vorausgesetzt, sie setzt sich durch – den Erstellern von Inhalten für Erwachsene schaden könnte, die damit ihren Lebensunterhalt verdienen.

„Ich denke, es ist irgendwie unvermeidlich, dass dies passieren wird, wenn [OpenAIs] DALL-E es getan hat“, sagte Os Keyes, ein Doktorand an der Universität von Seattle, per E-Mail zu TechCrunch. "Aber es ist immer noch deprimierend, wie die Optionen und Standardeinstellungen einen sehr heteronormativen und maskulinen Look replizieren."

Ashley, eine Sexarbeiterin und Peer-Organisatorin, die an Fällen arbeitet, in denen es um die Moderation von Inhalten geht, glaubt, dass die von Porn Pen generierten Inhalte in ihrem derzeitigen Zustand keine Bedrohung für Sexarbeiter darstellen.

"Es gibt unzählige Medien", sagte Ashley, die ihren Nachnamen nicht veröffentlichen wollte, weil sie befürchtete, für ihren Job belästigt zu werden. „Aber die Menschen unterscheiden sich nicht nur dadurch, dass sie die besten Medien machen, sondern auch dadurch, dass sie eine zugängliche und interessante Person sind. Es wird noch lange dauern, bis KI das ersetzen kann. »

Auf bestehenden monetarisierbaren Pornoseiten wie OnlyFans und ManyVids müssen Ersteller von Erwachsenen ihr Alter und ihre Identität verifizieren, damit das Unternehmen weiß, dass sie einwilligende Erwachsene sind. KI-generierte Pornomodels können das natürlich nicht, weil sie nicht echt sind.

Ashley ist jedoch besorgt, dass ein hartes Vorgehen von Pornoseiten gegen KI-Pornos zu strengeren Beschränkungen für Sexarbeiterinnen führen wird, die bereits einer verstärkten Regulierung durch Gesetze wie SESTA/FOSTA ausgesetzt sind. Der Kongress führte 2019 den Safe Sex Workers Study Act ein, um die Auswirkungen dieser Gesetzgebung zu untersuchen, die die Online-Sexarbeit erschweren. Diese Studie ergab, dass „Gemeinschaftsorganisationen eine Zunahme der Obdachlosigkeit von Sexarbeiterinnen gemeldet hatten“, nachdem sie die „wirtschaftliche Stabilität verloren hatten, die durch den Zugang zur Online-Plattform geboten wurde …