Achten Sie auf Ihre Sprache: die Risiken der Verwendung von KI-gestützten Chatbots wie ChatGPT in einer Organisation

Treffen Sie sich vom 11. bis 12. Juli in San Francisco mit Führungskräften, um zu erfahren, wie Führungskräfte KI-Investitionen für den Erfolg integrieren und optimieren. Erfahren Sie mehr

Millionen von Benutzern haben ChatGPT seit seiner Einführung im November 2022 in Scharen besucht. Mit seinen außergewöhnlichen Fähigkeiten zur menschenähnlichen Sprachgenerierung, seiner Eignung für Codierungssoftware und seiner blitzschnellen Textanalyse hat sich ChatGPT schnell zu einem beliebten Tool entwickelt für Entwickler, Forscher und alltägliche Benutzer.

Aber wie jede bahnbrechende Technologie bergen generative KI-Systeme wie ChatGPT potenzielle Risiken. Insbesondere große Akteure in der Technologiebranche, staatliche Geheimdienste und andere Regierungsbehörden haben alle Warnsignale bezüglich der Einführung sensibler Informationen in KI-Systeme wie ChatGPT gemeldet. .

Die Besorgnis ergibt sich aus dem Potenzial, dass diese Informationen schließlich in die Öffentlichkeit gelangen, sei es durch Sicherheitsverletzungen oder die Verwendung von nutzergenerierten Inhalten zum „Trainieren“ von Chatbots.

Als Reaktion auf diese Bedenken unternehmen Technologieorganisationen Schritte, um die Sicherheitsrisiken zu mindern, die mit großen Sprachmodellen (LLMs) und Conversational AI (CAI) verbunden sind. Mehrere Organisationen haben sich dafür entschieden, die Verwendung von ChatGPT vollständig zu verbieten, während andere ihre Mitarbeiter vor den Risiken gewarnt haben, vertrauliche Daten in solche Vorlagen einzugeben.

Transformation 2023

Besuchen Sie uns vom 11. bis 12. Juli in San Francisco, wo Führungskräfte diskutieren, wie sie KI-Investitionen für den Erfolg integriert und optimiert und häufige Fallstricke vermieden haben.

Das KI-gestützte ChatGPT ist zu einem beliebten Tool für Unternehmen geworden, die ihre Abläufe optimieren und komplexe Aufgaben vereinfachen möchten. Jüngste Vorfälle haben jedoch die potenziellen Gefahren der Weitergabe vertraulicher Informationen über die Plattform deutlich gemacht.

In einer besorgniserregenden Entwicklung wurden in weniger als einem Monat drei Fälle gemeldet, in denen vertrauliche Daten über ChatGPT preisgegeben wurden. Das letzte passierte letzte Woche. Der Smartphone-Hersteller Samsung war in Kontroversen verwickelt, als koreanische Medien berichteten, dass Mitarbeiter seiner großen Halbleiterfabriken im KI-Chatbot vertrauliche Informationen beschlagnahmten, darunter hochsensiblen Quellcode, der zur Behebung von Programmierfehlern verwendet wurde.

Der Quellcode ist eines der am besten gehüteten Geheimnisse eines jeden Technologieunternehmens, da er als Eckpfeiler jeder Software oder jedes Betriebssystems dient. Infolgedessen sind wertvolle Geschäftsgeheimnisse nun unbeabsichtigt in den Besitz von OpenAI gelangt, dem beeindruckenden KI-Dienstleister, der die Tech-Welt im Sturm erobert hat.

Trotz Anfragen von VentureBeat hat Samsung dies nicht kommentiert, aber Quellen in der Nähe des Unternehmens haben ergeben, dass das Unternehmen den Zugang seiner Mitarbeiter zu ChatGPT offenbar eingeschränkt hat.

Andere Fortune-500-Konglomerate, darunter Amazon, Walmart und JPMorgan, sind auf ähnliche Fälle gestoßen, in denen Mitarbeiter versehentlich vertrauliche Daten an den Chatbot weitergegeben haben.

Berichte von Amazon-Mitarbeitern sagen uns...