Warum Vielfalt einen entscheidenden Einfluss auf den Datenschutz haben sollte

Sie konnten nicht an der Transform 2022 teilnehmen? Sehen Sie sich jetzt alle Summit-Sessions in unserer On-Demand-Bibliothek an! Schau mal hier.

Der California Privacy Rights Act (CPRA), der Virginia Consumer Data Protection Act (VCDPA), der kanadische Consumer Privacy Protection Act (CPPA) und viele andere internationale Vorschriften markieren alle bedeutende Verbesserungen, die in der Vergangenheit in Bezug auf die Vertraulichkeit von Daten vorgenommen wurden. mehrere Jahre. Gemäß diesen Gesetzen können Unternehmen ernsthafte Konsequenzen für den Missbrauch von Verbraucherdaten tragen.

Zusätzlich zu den behördlichen Folgen einer Datenschutzverletzung erlauben beispielsweise Gesetze wie der CCPA Verbrauchern, Unternehmen im Rahmen eines privaten Klagerechts direkt für Datenschutzverletzungen haftbar zu machen.

Während diese Vorschriften sicherlich die Folgen des Missbrauchs von Verbraucherdaten verstärken, reichen sie immer noch nicht aus – und werden möglicherweise nie ausreichen –, um marginalisierte Gemeinschaften zu schützen. Fast drei Viertel der Online-Haushalte fürchten um ihre digitale Sicherheit und Privatsphäre, wobei die meisten Bedenken für unterversorgte Bevölkerungsgruppen bestehen.

Ausgegrenzte Gruppen werden oft negativ von der Technologie beeinflusst und können großen Gefahren ausgesetzt sein, wenn automatisierte Entscheidungsfindungstools wie künstliche Intelligenz (KI) und maschinelles Lernen (ML) Vorurteile gegen sie darstellen oder wenn ihre Daten missbraucht werden. Es hat sich sogar gezeigt, dass KI-Technologien die Diskriminierung bei der Mieterauswahl, der Kreditvergabe, den Einstellungsprozessen und mehr aufrechterhalten.

Demografische Voreingenommenheit bei KI- und ML-Tools ist weit verbreitet, da es den Designüberprüfungsprozessen drastisch an menschlicher Vielfalt mangelt, um sicherzustellen, dass ihre Prototypen für alle geeignet sind. Technologieunternehmen müssen ihre aktuellen Ansätze zur Verwendung von KI und ML weiterentwickeln, um sicherzustellen, dass sie sich nicht negativ auf unterversorgte Gemeinschaften auswirken. In diesem Artikel wird erläutert, warum Vielfalt eine entscheidende Rolle beim Datenschutz spielen sollte und wie Unternehmen integrativere und ethischere Technologien entwickeln können.

Bedrohungen für marginalisierte Gruppen

Unterversorgte Gemeinschaften sind erheblichen Risiken ausgesetzt, wenn sie ihre Daten online teilen, und leider können Datenschutzgesetze sie nicht vor offenkundiger Diskriminierung schützen. Selbst wenn die derzeitigen Vorschriften so umfassend wie möglich wären, gibt es viele Möglichkeiten, diesen Bevölkerungsgruppen zu schaden. Beispielsweise können Datenmakler immer noch die Geolokalisierung einer Person sammeln und an Gruppen verkaufen, die es auf Demonstranten abgesehen haben. Informationen über die Teilnahme einer Person an einer Kundgebung oder einem Protest können auf verschiedene aufdringliche, unethische und potenziell illegale Weise verwendet werden.

Obwohl dieses Szenario nur hypothetisch ist, gab es viele reale Fälle, in denen ähnliche Situationen aufgetreten sind. Ein Forschungsbericht aus dem Jahr 2020 beschreibt die Datensicherheits- und Datenschutzrisiken, denen LGBTQ-Personen bei Dating-Apps ausgesetzt sind. Zu den gemeldeten Bedrohungen gehörten ungeheuerliche staatliche Überwachung, Gesichtserkennungsüberwachung und App-Daten, die mit Werbetreibenden und Datenbrokern geteilt wurden. Minderheitengruppen waren schon immer solchen Risiken ausgesetzt, aber Unternehmen, die proaktive Änderungen vornehmen, können dazu beitragen, sie zu verringern.

Der Mangel an Vielfalt automatisierter Tools

Obwohl in den letzten Jahren schrittweise Fortschritte bei der Diversifizierung der Technologiebranche erzielt wurden, sind grundlegende Änderungen erforderlich, um die fortwährende Verzerrung von KI- und ML-Algorithmen zu minimieren. Tatsächlich sollen 66,1 % der Datenwissenschaftler weiß und fast 80 % männlich sein, was einen kritischen Mangel an Diversität unter den KI-Teams hervorhebt. Infolgedessen werden KI-Algorithmen basierend auf den Erkenntnissen und dem Wissen der Teams, die sie erstellen, trainiert.

KI-Algorithmus...