Dieses Startup veröffentlicht eine DALL-E 2-ähnliche KI, verdammt noch mal die Konsequenzen

DALL-E 2, das leistungsstarke Text-zu-Bild-KI-System von OpenAI, kann Fotos im Stil von Karikaturisten, Daguerreotypisten des 19. Jahrhunderts, Stop-Motion-Animatoren und mehr erstellen. Aber es hat eine erhebliche künstliche Einschränkung: einen Filter, der es daran hindert, Bilder zu erstellen, die Persönlichkeiten des öffentlichen Lebens und Inhalte darstellen, die als zu giftig erachtet werden.

Jetzt steht eine Open-Source-Alternative zu DALL-E 2 kurz vor der Veröffentlichung, die keinen solchen Filter haben wird.

Das in London und Los Altos ansässige Start-up Stability AI kündigte diese Woche die Veröffentlichung eines DALL-E 2-ähnlichen Systems, Stable Diffusion, für etwas mehr als tausend Forscher vor einer Markteinführung in den kommenden Wochen an. Stable Diffusion ist das Ergebnis einer Zusammenarbeit zwischen Stability AI, dem Multimedia-Erstellungsunternehmen RunwayML, Forschern der Universität Heidelberg und den Forschungsgruppen EleutherAI und LAION. Es wurde entwickelt, um auf den meisten High-End-Verbraucherhardware zu laufen und Bilder mit 512 × 512 Pixeln zu erzeugen Sekunden Textaufforderung.

Stabile Streaming-Beispielausgaben. Bildnachweis: Stabilitäts-KI

"Stable Diffusion wird es sowohl Forschern als auch bald der Öffentlichkeit ermöglichen, es unter einer Vielzahl von Bedingungen zu betreiben und die Bilderzeugung zu demokratisieren", schrieb Emad Mostaque, CEO und Gründer von Stability AI, in einem Blogbeitrag. „Wir freuen uns auf das offene Ökosystem, das um dieses und andere Modelle herum entstehen wird, um die Grenzen des latenten Raums wirklich auszuloten.“

Aber der Mangel an Sicherheitsvorkehrungen von Stable Diffusion im Vergleich zu Systemen wie DALL-E 2 wirft knifflige ethische Fragen für die KI-Gemeinschaft auf. Auch wenn die Ergebnisse noch nicht ganz überzeugend sind, öffnet das Anfertigen gefälschter Bilder von Persönlichkeiten des öffentlichen Lebens eine große Büchse der Pandora. Und die freie Verfügbarkeit von Rohsystemkomponenten lässt Angreifern Tür und Tor offen, um sie in subjektiv unangemessenen Inhalten wie Pornografie und grafischer Gewalt zu schulen.

Erstellen Sie eine stabile Sendung

Stable Diffusion ist eine originelle Idee von Mostaque. Mostaque, ein Oxford-Absolvent mit einem Master-Abschluss in Mathematik und Informatik, arbeitete als Analyst bei verschiedenen Hedge-Fonds, bevor er sich mehr der Öffentlichkeit zuwandte. 2019 war er Mitbegründer von Symmitree, einem Projekt, das darauf abzielt, die Kosten für Smartphones und Internetzugang für Menschen in benachteiligten Gemeinden zu senken. Und im Jahr 2020 war Mostaque der Chefarchitekt von Collective & Augmented Intelligence Against COVID-19, einer Allianz, die politischen Entscheidungsträgern hilft, angesichts der Pandemie Entscheidungen zu treffen, indem sie Software nutzt.

Er war Mitbegründer von Stability AI im Jahr 2020, angetrieben sowohl von einer persönlichen Faszination für KI als auch von dem, was er als „Mangel an Organisation“ innerhalb der Open-Source-KI-Community bezeichnete.