Die Lensa-KI-App sorgt mit sexy „Magic Avatar“-Bildern für Aufsehen, die niemand wollte

Enlarge / Eine Auswahl männlicher und weiblicher "Magic Avatars", generiert von die Lensa AI-Anwendung, einschließlich eines Bartes, kann nicht enthalten sein. Benj Edwards / Ars Technica

In der vergangenen Woche ist die Smartphone-App Lensa AI zu einem beliebten Thema in den sozialen Medien geworden, da sie stilisierte AI-Avatare auf der Grundlage von Selfies erstellen kann, die Benutzer hochladen. Dies ist wohl das erste Mal, dass eine benutzerdefinierte Avatar-Generierung mit latenter Streuung ein Massenpublikum erreicht hat.

Während sich die KI von Lensa bei Menschen in den sozialen Medien, die gerne ihre KI-Porträts teilen, als beliebt erwiesen hat, hat sich die Presse beim Start der KI-Avatar-Funktion von Lensa weitgehend auf die berichtete Tendenz der App konzentriert, Darstellungen von Frauen zu sexualisieren.

Lensa, ein Produkt von Prisma Labs, wurde 2018 als Abonnement-App eingeführt, die sich auf die KI-gestützte Fotobearbeitung konzentriert. Ende November 2022 gewann die Anwendung dank ihrer neuen Funktion „Magic Avatar“ an Popularität. Lensa soll das Stable Diffusion-Bildsynthesemodell unter der Haube verwenden, und Magic Avatar scheint eine Anpassungstrainingsmethode zu verwenden, die Dreambooth ähnelt (deren Auswirkungen wir kürzlich behandelt haben). Alle Schulungen finden außerhalb des Geräts und in der Cloud statt.

Anfang Dezember bemerkten Frauen, die die App nutzten, dass Lensas Magic Avatar-Funktion halbpornografische oder sexuell unfreiwillige Bilder erstellte. Für CNN schrieb Zoe Sottile: „Eine der Herausforderungen, auf die ich in der App gestoßen bin, war, dass sie von anderen Frauen online beschrieben wurde. Obwohl alle Bilder, die ich hochgeladen habe, vollständig bekleidet und hauptsächlich Nahaufnahmen meines Gesichts waren, hat die App mehrere Bilder zurückgegeben mit angedeuteter oder tatsächlicher Nacktheit."

Die Reaktion in der Presse nahm zu, als andere Frauen ähnliche Dinge erlebten. Hier ist zum Beispiel eine Auswahl von Schlagzeilen über Lensa in verschiedenen Publikationen:

'Magic Avatar' Lensa-App generierte Akte aus meinen Kindheitsfotos (verkabelt) Virale KI-Avatar-App Lensa hat mich ohne meine Zustimmung nackt ausgezogen (MIT Technology Review) Warum haben alle meine KI-Avatare riesige Brüste? (Die Tasse) Es ist zu einfach, Lensa AI dazu zu bringen, NSFW-Bilder zu erstellen (TechCrunch) Psychologe erklärt, warum Ihre „heißen KI-Selfies“ Sie schlechter machen könnten (Rolling Stone)

In der Zwischenzeit tauchte das gleiche Sexualisierungsproblem nicht in Bildern von Männern auf, die in die Magic Avatar-Funktion hochgeladen wurden. Für die MIT Technology Review schrieb Melissa Heikkilä: „Meine Avatare wurden karikaturistisch pornisiert, während meine männlichen Kollegen zu Astronauten, Entdeckern und Erfindern wurden.“

Dies ist eine der Gefahren, wenn ein Produkt auf Stable Diffusion 1.x basiert, das seine Standardausgabe leicht sexualisieren kann. Das Verhalten ergibt sich aus der großen Menge sexualisierter Bilder, die in seinem Bilddatensatz gefunden wurden, der aus dem Internet gezogen wurde. (Stable Diffusion 2.x hat versucht, dies zu korrigieren, indem NSFW-Material aus dem Trainingssatz entfernt wurde.)

Die kulturellen Vorurteile des Internets gegenüber der sexualisierten Darstellung von Frauen im Internet gaben dem KI-Generator von Lensa seine Neigungen. Im Gespräch mit TechCrunch sagte Andrey Usoltsev, CEO von Prisma Labs: „Weder wir noch Stability AI können bewusst repräsentative Verzerrungen anwenden; mehr Pr...