Wie Unternehmen eine umweltfreundlichere generative KI mit nachhaltigeren Schlussfolgerungen erreichen können

Besuchen Sie unsere On-Demand-Bibliothek, um die VB Transform 2023-Sitzungen anzusehen. Melden Sie sich hier an

Generative KI generiert Inhalte, Bilder, Musik und Code genau wie Menschen, jedoch mit phänomenaler Geschwindigkeit und beispielloser Genauigkeit. Sie soll Unternehmen dabei helfen, effizienter zu werden und Innovationen zu präsentieren. Mit der zunehmenden Verbreitung von KI wird sich die Aufmerksamkeit stärker darauf konzentrieren, was erforderlich ist, um solche Ergebnisse zu erzielen, und auf die damit verbundenen Kosten, sowohl finanziell als auch ökologisch.

Wir haben jetzt die Möglichkeit, das Problem vorherzusehen und zu beurteilen, wohin die wichtigsten Ressourcen fließen. Inferenz, der von KI-Modellen durchgeführte Prozess zur Analyse neuer Daten auf der Grundlage der in ihren künstlichen Neuronen gespeicherten Intelligenz, ist die energieintensivste und teuerste Methode zur Erstellung von KI-Modellen. Die Balance besteht darin, nachhaltigere Lösungen zu implementieren, ohne Kompromisse bei Qualität und Durchsatz einzugehen.

Was macht ein Model aus?

Für Uneingeweihte kann es schwer sein, sich vorzustellen, wie KI und die Algorithmen, die der Programmierung zugrunde liegen, solch schwere ökologische oder finanzielle Belastungen tragen können. Eine kurze Zusammenfassung des maschinellen Lernens (ML) würde den zweistufigen Prozess beschreiben.

Die erste besteht darin, das Modell zu trainieren, um intelligente Erkenntnisse zu entwickeln und bestimmte Kategorien zu kennzeichnen. Beispielsweise könnte ein E-Commerce-Unternehmen die Modellbilder seiner Produkte und Kundengewohnheiten einspeisen, um eine spätere Abfrage dieser Datenpunkte zu ermöglichen.

Ereignis

VB Transform 2023 auf Anfrage

Haben Sie eine Sitzung von VB Transform 2023 verpasst? Melden Sie sich an, um auf die On-Demand-Bibliothek aller unserer vorgestellten Sitzungen zuzugreifen.

Jetzt registrieren

Die zweite Möglichkeit ist die Identifizierung oder Inferenz, bei der das Modell gespeicherte Informationen verwendet, um neue Daten zu verstehen. Das E-Commerce-Unternehmen wird beispielsweise in der Lage sein, Produkte nach Typ, Größe, Preis, Farbe und einer Vielzahl anderer Segmentierungen zu katalogisieren und gleichzeitig den Kunden personalisierte Empfehlungen zu präsentieren.

Der Inferenzschritt ist der weniger rechenintensive von beiden, aber wenn er in großem Maßstab eingesetzt wird, beispielsweise auf einer Plattform wie Siri oder Alexa, können die gesammelten Berechnungen potenziell enorme Mengen an Energie verbrauchen, was zu höheren Kosten und CO2-Emissionen führt.< /p>

Der vielleicht auffälligste Unterschied zwischen Inferenz und Training sind die dafür verwendeten Mittel. Schlussfolgerungen sind an die Verkaufskosten gebunden und wirken sich daher auf das Endergebnis aus, während Schulungen normalerweise an F&E-Ausgaben gebunden sind, die getrennt vom eigentlichen Produkt oder der eigentlichen Dienstleistung budgetiert werden.

Daher erfordert Inferenz spezielle Hardware, die Kosten und Stromverbrauch optimiert, um tragfähige und skalierbare Geschäftsmodelle zu unterstützen: eine Lösung, bei der erfrischenderweise Geschäftsinteressen und Umweltinteressen in Einklang stehen.

Versteckten Kosten

ChatGPT, der Star der KI-Generation, ist ein leuchtendes Beispiel für hohe Inferenzkosten, die sich auf Millionen von Dollar belaufen.