Menschen müssen Vorrang vor militärischer KI haben

Sie konnten nicht an der Transform 2022 teilnehmen? Sehen Sie sich jetzt alle Summit-Sessions in unserer On-Demand-Bibliothek an! Schau mal hier.

Jahrelang haben US-Verteidigungsbeamte und Washingtoner Denkfabriken darüber debattiert, ob die Zukunft unseres Militärs etwas weniger human sein könnte oder sollte.

Das US-Militär hat bereits damit begonnen, sich auf Technologien zu verlassen, die maschinelles Lernen, künstliche Intelligenz (KI) und Big Data nutzen, was ethische Fragen aufwirft. Obwohl diese Technologien unzählige nützliche Anwendungen haben, die von der Bedrohungsanalyse bis zur Vorbereitung von Truppen auf den Kampf reichen, werfen sie zu Recht Bedenken hinsichtlich einer Zukunft auf, in der Terminator-ähnliche Maschinen die Macht übernehmen

Aber Mensch gegen Maschine auszuspielen verfehlt den Punkt. In unserer militärischen Zukunft ist Platz für beides, solange Maschinen die menschliche Entscheidungsfindung erleichtern, anstatt sie zu ersetzen.

Militärische KI und maschinelles Lernen sind hier

Machine-Learning-Technologie, eine Art von KI, die es Computersystemen ermöglicht, riesige Datenmengen zu verarbeiten und Muster zu „lernen“, hat in vielen Branchen schnell an Bedeutung gewonnen . Systeme können riesige Datenmengen aus mehreren Quellen sichten und dann basierend auf den erkannten Mustern innerhalb von Sekunden Empfehlungen aussprechen.

Vorfall

MetaBeat 2022

MetaBeat wird am 4. Oktober in San Francisco, CA, Vordenker zusammenbringen, um darüber zu beraten, wie die Metaverse-Technologie die Art und Weise verändern wird, wie alle Branchen kommunizieren und Geschäfte machen.

hier registrieren

Das macht KI und maschinelles Lernen zu nützlichen Werkzeugen für Menschen, um jederzeit fundierte Entscheidungen zu treffen. Denken Sie an die Ärzte, die vielleicht nur wenige Minuten für jeden Patienten haben, aber potenziell lebensverändernde Diagnosen stellen müssen. Einige Krankenhäuser nutzen KI und maschinelles Lernen, um Herzkrankheiten und Lungenkrebs zu erkennen, bevor ein Patient Symptome zeigt.

Dasselbe gilt für Militärführer. Wenn Manager eine strategische Entscheidung treffen, die personelle Kosten verursachen könnte, müssen sie in der Lage sein, alle verfügbaren Daten so schnell wie möglich zu verarbeiten, um die fundierteste Entscheidung treffen zu können.

Die KI hilft ihnen dabei. Einige Systeme können beispielsweise zweidimensionale Überwachungsbilder aufnehmen und ein detailliertes dreidimensionales Modell eines Raums erstellen. Dies hilft Anführern, einen sicheren Weg für ihre Truppen durch ein bisher unerforschtes Gebiet zu finden.

Ein menschlicher Daumen hoch

Ob in einer Notaufnahme oder auf dem Schlachtfeld, diese maschinellen Lernanwendungen haben eines gemeinsam. Sie haben nicht die Macht, eine endgültige Entscheidung zu treffen. Letztendlich ist es die Entscheidung des Arztes, eine Diagnose zu stellen – und die Entscheidung des Beamten, ein Rezept auszustellen.

Unternehmen, die neue Technologien für militärische KI oder maschinelles Lernen entwickeln, tragen die Verantwortung, dazu beizutragen, dass dies geschieht. Sie können dies tun, indem sie ihre Innovationen mit einigen wesentlichen Leitplanken ausstatten.

Einerseits muss der Mensch die Macht haben, die KI jederzeit zu übersteuern. Computeralgorithmen könnten Datenstapel analysieren und nützliche Handlungsempfehlungen geben. Aber Maschinen können die Komplexität oder Neuartigkeit der sich ständig ändernden Faktoren, die eine strategische Operation beeinflussen, nicht erfassen.

Nur Menschen haben die Fähigkeit, über die langfristigen Folgen militärischer Aktionen nachzudenken. Daher müssen Menschen in der Lage sein, Empfehlungen einer Maschine abzulehnen.

Unternehmen, die militärische KI entwickeln, sollten Benutzern die Möglichkeit geben, Entscheidungen manuell ohne technologische Unterstützung zu treffen; auf halbautomatische Weise; oder vollautomatisch, mit der Fähigkeit zum Übersteuern. Das Ziel sollte die Entwicklung einer KI sein, die einzigartige menschliche Entscheidungsfindungsfähigkeiten ergänzt – und nicht überflüssig macht –, die es Truppen ermöglichen, effektiv auf unvorhergesehene Umstände zu reagieren.

Ein friedlicher Machtwechsel

Militärische maschinelle Lernsysteme brauchen auch eine klare Kette von...