NYC beginnt mit der Durchsetzung eines neuen Gesetzes, das auf Voreingenommenheit bei KI-Einstellungstools abzielt

Treffen Sie am 11. und 12. Juli leitende Führungskräfte in San Francisco und erfahren Sie, wie Führungskräfte der generativen KI-Revolution einen Schritt voraus sind. Erfahren Sie mehr

Der New Yorker Automated Employment Decision Tool (AEDT) Act, der als erster in den Vereinigten Staaten gilt, der die Voreingenommenheit bei Einstellungs- und Beschäftigungsentscheidungen auf der Grundlage von KI verringert, wird nun in Kraft treten – nachdem das Gesetz im Januar in Kraft getreten ist und die endgültige Fassung gefunden hat Die Regeln wurden im April verabschiedet.

Nach dem AEDT-Gesetz ist es für einen Arbeitgeber oder eine Arbeitsagentur illegal, künstliche Intelligenz und algorithmenbasierte Technologien zur Beurteilung von Stellenbewerbern und Mitarbeitern in New York zu verwenden, es sei denn, sie führen vor dem Einsatz von KI-Jobtools eine unabhängige Voreingenommenheitsprüfung durch. Zusammenfassend lässt sich sagen: Die Arbeitgeber in New York City werden diejenigen sein, die die Compliance-Verpflichtungen in Bezug auf diese KI-Tools übernehmen, und nicht die Softwareunternehmen, die sie erstellen.

Technisch gesehen trat das Gesetz am 1. Januar in Kraft, aber in der Praxis konnten Unternehmen es nicht ohne Weiteres einhalten, da das Gesetz nicht genügend Einzelheiten dazu vorsah, wie man einer voreingenommenen Prüfung nachkommt. Doch jetzt hat das Ministerium für Verbraucher- und Arbeitnehmerschutz der Stadt eine FAQ veröffentlicht, die weitere Einzelheiten liefern soll.

Gemäß den FAQ muss das Bias-Audit jährlich durchgeführt werden, „eine unvoreingenommene Bewertung durch einen unabhängigen Prüfer“ sein und mindestens „Berechnungen von Auswahl- oder Bewertungsquoten und den Wirkungsbericht zu Geschlecht, Rasse/Ethnie umfassen“. Kategorien und intersektionale Kategorien.“

Transformation 2023

Besuchen Sie uns vom 11. bis 12. Juli in San Francisco, wo Führungskräfte darüber diskutieren, wie sie KI-Investitionen erfolgreich integriert und optimiert und häufige Fallstricke vermieden haben.

Das Gesetz verlangt von Arbeitgebern und Arbeitsagenturen, „alle relevanten Antidiskriminierungsgesetze und -regeln einzuhalten, um zu bestimmen, welche Maßnahmen auf der Grundlage der Ergebnisse einer Voreingenommenheitsprüfung erforderlich sind“ und eine Zusammenfassung der neuesten Voreingenommenheitsergebnisse zu veröffentlichen. Verifizierung.

Laut Niloy Ray, Gesellschafter der Arbeitsrechtskanzlei Littler, sollte die Einhaltung des Gesetzes in den meisten Fällen nicht besonders schwierig sein, erfordert jedoch die Zusammenarbeit zwischen Lieferanten und Dritten, die KI-basierte Einstellungstools entwickeln und die Unternehmen, die sie nutzen.

„Das Gesetz enthält eine ziemlich ausführliche Beschreibung der Technologien, für die es gilt, was ein Verständnis der Funktionsweise des Tools erfordert“, sagte Roy. „Sie müssen es ausreichend erklären, um Unternehmen bei der Voreingenommenheitsprüfung zu helfen. Das ist also ein gutes Ergebnis.“

Dennoch gibt es extreme Fälle, in denen es schwieriger sein kann, festzustellen, ob das Gesetz anwendbar ist ...