Sollten selbstfahrende Autos mit Black-Box-Rekordern ausgestattet werden?

Sie konnten nicht an der Transform 2022 teilnehmen? Sehen Sie sich jetzt alle Summit-Sessions in unserer On-Demand-Bibliothek an! Schau mal hier.

Jedes Verkehrsflugzeug trägt eine „Blackbox“, die sekundengenau einen Verlauf aller Vorgänge in den Flugzeugsystemen sowie der Aktionen der Piloten speichert, und diese Aufzeichnungen waren von unschätzbarem Wert bei der Bestimmung der Ursachen von Anlagen .

Warum sollten selbstfahrende Autos und Roboter nicht dasselbe haben? Dies ist keine hypothetische Frage.

Die Bundesverkehrsbehörden untersuchen ein Dutzend Unfälle mit Tesla-Fahrzeugen, die mit dem "AutoPilot"-System ausgestattet sind, das ein nahezu freihändiges Fahren ermöglicht. Elf Menschen starben bei diesen Unfällen, von denen einer von einem Tesla angefahren wurde, als er am Straßenrand einen Reifen wechselte.

Doch jeder Autohersteller entwickelt seine automatisierten Fahrtechnologien weiter. Beispielsweise arbeitet sogar Walmart mit Ford und Argo AI zusammen, um selbstfahrende Autos für Hauslieferungen zu testen, und Lyft arbeitet mit denselben Unternehmen zusammen, um eine Flotte von Robotertaxis zu testen.

Lesen Sie: Steuerung der KI-Sicherheit mit unabhängigen Audits

Aber selbstgeführte autonome Systeme funktionieren gut hinter Autos, Lastwagen und Schweißrobotern in Fabriken. Japanische Pflegeheime verwenden „Pflegeroboter“, um Mahlzeiten zu liefern, Patienten zu überwachen und sogar Gesellschaft zu leisten. Walmart und andere Geschäfte verwenden Roboter, um Böden zu reinigen. Mindestens ein halbes Dutzend Unternehmen verkaufen inzwischen Roboter-Rasenmäher. (Was könnte schief gehen?)

Und mehr alltägliche Interaktionen mit autonomen Systemen können zu mehr Risiken führen. Angesichts dieser Risiken hat ein internationales Expertenteam – Universitätsforscher in den Bereichen Robotik und künstliche Intelligenz sowie Industrieentwickler, Versicherer und Regierungsbeamte – eine Reihe von Governance-Vorschlägen veröffentlicht, um Probleme besser vorherzusehen und die Rechenschaftspflicht zu erhöhen. Eine seiner Grundideen ist eine Blackbox für jedes autonome System.

"Wenn gerade jetzt etwas schief geht, bekommt man eine Menge Achselzucken", sagt Gregory Falco, Co-Autor, Assistenzprofessor für Bau- und Systemtechnik an der Johns Hopkins University und wissenschaftlicher Mitarbeiter an der Stanford Freeman Spogli. Institut für Internationale Studien. „Dieser Ansatz würde es ermöglichen, Risiken im Voraus zu bewerten und einen Prüfpfad zu erstellen, um Fehler zu verstehen. Das Hauptziel ist es, mehr Verantwortlichkeit zu schaffen."

Die neuen Vorschläge, die in Nature Machine Intelligence veröffentlicht wurden, konzentrieren sich auf drei Prinzipien: Erstellung vorausschauender Risikobewertungen vor der Inbetriebnahme eines Systems; Erstellen eines Audit-Trails – einschließlich der Black Box – zur Analyse von Unfällen, während sie auftreten; und fördern Sie die Einhaltung lokaler und nationaler Vorschriften.

Die Autoren streben keine staatlichen Haftbefehle an. Stattdessen argumentieren sie, dass wichtige Interessengruppen – Versicherer, Gerichte, Kunden – ein begründetes Interesse daran haben, Unternehmen dazu zu drängen, ihren Ansatz zu übernehmen. Versicherer zum Beispiel wollen möglichst viel über mögliche Risiken wissen, bevor sie eine Deckung anbieten. (Einer der Co-Autoren des Papiers ist ein leitender Angestellter bei Swiss Re, dem Rückversicherungsgiganten.) In ähnlicher Weise benötigen Gerichte und Anwälte eine Datenspur, um festzustellen, wer für einen Unfall verantwortlich gemacht werden sollte und wer nicht. Kunden wollen natürlich unnötige Gefahren vermeiden.

Unternehmen entwickeln bereits Blackboxes für autonome Fahrzeuge, zum Teil...