Mastercard, eBay und Capital One Talk Fair Generative KI und Innovation

Das Women in AI Breakfast, das zum dritten Mal in Folge von Capital One gesponsert wird, war der Auftakt der diesjährigen VB Transform: Get Ahead of the Generative AI Revolution. Über hundert Teilnehmer versammelten sich live und die Sitzung wurde live an ein virtuelles Publikum von über 4.000 Menschen übertragen. Sharon Goldman, Senior Writer bei VentureBeat, begrüßte Emily Roberts, SVP, Head of Enterprise Consumer Product bei Capital One, JoAnn Stonier, Fellow of Data and AI bei Mastercard, und Xiaodi Zhang, VP, Seller Experience bei eBay. /p>

Bei der Frühstücksdiskussion im letzten Jahr ging es um prädiktive KI, Governance, Reduzierung von Verzerrungen und Verhinderung von Modellabweichungen. In diesem Jahr hat die generative KI die Tür geöffnet und dominiert branchenübergreifende Gespräche sowie Frühstücke.

Den Grundstein für eine faire KI-Generation legen

Kunden und Führungskräfte sehen diese Chance fasziniert, aber für die meisten Unternehmen muss sie noch Gestalt annehmen, sagte Emily Roberts, Senior Vice President und Head of Consumer Products bei Capital One.

„Wir haben vor allem darüber nachgedacht, wie man Organisationen aufbaut, die kontinuierlich dazulernen?“ Sie sagt. „Wie denken Sie über die Struktur, in der Sie dies tatsächlich auf unser Denken und unseren Alltag anwenden werden?“

Und ein großer Teil des Images besteht darin, sicherzustellen, dass man in diese Produkte eine Vielfalt an Gedanken und Darstellungen einbaut, fügte sie hinzu. Die große Anzahl an Experten, die an der Erstellung dieser Projekte und ihrer Umsetzung beteiligt sind, seien es Produktmanager, Ingenieure, Datenwissenschaftler oder Unternehmensleiter im gesamten Unternehmen, bietet noch mehr Möglichkeiten, Gerechtigkeit zur Grundlage zu machen.

„Ich möchte, dass wir vor allem darüber nachdenken, wie wir die richtigen Leute in das Gespräch einbeziehen“, sagte Roberts. „Wie können wir außerordentlich neugierig sein und sicherstellen, dass die richtigen Leute im Raum sind und die richtigen Fragen gestellt werden, damit wir die richtigen Leute in dieses Gespräch einbeziehen können.“

Ein Teil des Problems seien wie immer Daten, betonte Stonier, insbesondere bei öffentlichen LLMs.

„Ich denke, eine der Herausforderungen, vor denen wir bei großen öffentlichen Sprachmodellen stehen, ist so faszinierend, dass es sich bei den von ihnen verwendeten Daten um wirklich sehr, sehr historisch beschissene Daten handelt“, erklärte sie. „Wir haben diese Daten nicht im Hinblick auf die [LLM]-Nutzung generiert; sie sind nur historisch vorhanden. Und das Modell lernt aus all unseren gesellschaftlichen Schwächen, nicht wahr? Und all den Ungleichheiten, die es gegeben hat, und so werden diese Grundmodelle weiterbestehen.“ zu lernen und sie werden mit der Zeit verfeinert.“

Als Branche ist es von entscheidender Bedeutung, sicherzustellen, dass die richtigen Gespräche stattfinden, Grenzen zu ziehen, was genau aufgebaut wird, welche Ergebnisse erwartet werden und wie. „Bewerten Sie diese Ergebnisse, wenn Unternehmen ihre eigenen erstellen.“ Informieren Sie sich darüber hinaus über alle Produkte und achten Sie auf mögliche Probleme, damit Sie nie überrascht werden, insbesondere im Finanzdienstleistungsbereich und vor allem im Hinblick auf Betrug.

„Wenn wir Verzerrungen in den Datensätzen haben, müssen wir diese verstehen, wenn wir diesen zusätzlichen Datensatz auf ein neues Tool anwenden“, sagte Stonier. „Eine ergebnisorientierte [Nutzung] wird also wichtiger werden als eine zielorientierte Nutzung.“

Es sei auch von entscheidender Bedeutung, von Anfang an in diese Sicherheitsvorkehrungen zu investieren, fügte Zhang hinzu. Das bedeutet zunächst herauszufinden, wie sie aussehen und wie sie integriert werden können.

„Wie können wir einige der Aufforderungen und Einschränkungen umsetzen, um faire und unvoreingenommene Ergebnisse sicherzustellen?“ Sie sagt. „Es ist definitiv ein völlig anderes Umfeld als das, was wir gewohnt sind. Daher müssen wir alle ständig lernen, flexibel sein und offen für Experimente sein.“

Gut verwaltete und gut gesteuerte Innovation

Obwohl Risiken bestehen bleiben, sind Unternehmen bei der Einführung neuer Anwendungsfälle vorsichtig. Stattdessen investieren sie Zeit in interne Innovationen, um besser zu sehen, was möglich ist. Bei eBay zum Beispiel drehte sich bei ihrem jüngsten Hackathon alles um die Generation KI.

„Wir glauben wirklich an die Kraft unserer Teams, und ich wollte sehen, was unsere Leute leisten können, indem sie alle Fähigkeiten nutzen und einfach ihre Vorstellungskraft einsetzen“, sagte Zhang. „Es war definitiv viel mehr, als sich das Führungsteam überhaupt vorstellen kann. Etwas, das jedes Unternehmen in Betracht ziehen muss, ist, Ihren Hackathon, Ihre Innovationswochen zu nutzen und sich einfach auf generative KI zu konzentrieren und zu sehen, was Ihre Teammitglieder hervorbringen können. Aber wir auf jeden Fall.“ Ich muss über dieses Experiment nachdenken.“

Bei Mastercard fördern sie interne Innovationen, erkannten jedoch die Notwendigkeit, Leitplanken für Experimente und die Einreichung von Anwendungsfällen einzurichten ...