Wie man laut einem IBM-Designer ethische künstliche Intelligenz schafft

Die Arbeit mit künstlicher Intelligenz ist mit unzähligen Bedenken hinsichtlich Voreingenommenheit, Diskriminierung und anderen Formen von Voreingenommenheit verbunden. Wenn Sie also ein Unternehmen leiten, das KI entwickelt, wie gestalten Sie ein ethisches System?

Women in A.I. Ethics veranstaltete kürzlich ein Gespräch mit Milena Pribic, IBM Senior Designer for A.I., und hier sind ihre Tipps, wie man es richtig macht.

1. Tauchen Sie tief in Teampraktiken ein.

Im Pribic-Team beginnen die Bemühungen zum Aufbau von KI mit einem ethischen Ansatz damit, zu verstehen, wie die Teambildung von KI funktioniert. Produkt funktioniert. Dies umfasst den Gesamtaufwand, das laufende Verhalten der Teammitglieder und die Praktiken, die sie eingeführt haben, um sicherzustellen, dass so etwas wie Fairness „nicht einfach von einer Liste abgehakt wird“, wie sie während des Chats sagte.

Um sicherzustellen, dass ein Team nicht nur den Schritten folgt, ist es laut Pribic wichtig, dass die Teammitglieder „den Kontext“ und die „Auswirkungen“ dessen, was passiert, „wirklich verstehen“. Sie stellte fest, dass Teams unter anderem daran scheitern können, zu wachsen, wenn sie nicht genug Interaktion mit dem Endbenutzer haben. Pribic löst dieses Problem, indem es Data Scientists und Designer zusammenbringt, um sicherzustellen, dass das gesamte Team die Probleme und Konzepte auf die gleiche Weise versteht.

2. Schauen Sie sich die Zusammensetzung des Teams an.

"Natürlich ist es beim Aufbau ethischer Systeme entscheidend, sicherzustellen, dass Ihr Team selbst integrativ ist", sagte sie. "Inklusive Repräsentation ist eine Sache, aber um wirklich inklusiv zu sein, brauchen wir eine inklusive Partizipation." Dies kann bedeuten, sicherzustellen, dass für bestimmte Besprechungen und Entscheidungen tatsächlich die richtige Mischung von Personen im Raum ist.

Schließlich fragte Pribic: "Welche Chance haben wir, sicherzustellen, dass wir auf Fairness achten und Vorurteile bekämpfen, wenn wir es nicht in diesem selben Raum tun?"

3. Verstehen Sie die Ergebnisse.

In Bezug auf das Innenleben einer ethischen K.I. Arbeit, sagte Pribic, dass sein Team eine Reihe von Designübungen durchführt. Als Beispiel sagt sie: „Es könnte eine oder zwei Übungen sein, die die tertiären Auswirkungen dessen, was Sie entwerfen und was Sie erstellen, oder Stakeholder-Maps aufzeigen, die möglicherweise jemanden anrufen, der indirekt von der KI betroffen ist, die Sie haben nicht zuerst daran denken."

Darüber hinaus können sie Workshops mit dem Fokus auf Aktien oder eine breitere Diskussion über die Auswirkungen bestimmter Produkte veranstalten.