Новий чіп Microsoft AI не загрожує Nvidia, але зростаюча LLM потребує Drive Custom Silicon
Приєднайтеся до керівників вищої ланки в Сан-Франциско 11-12 липня, щоб дізнатися, як лідери інтегрують і оптимізують інвестиції в ШІ для успіху. Дізнайтеся більше
Згідно з інформацією, опублікованою сьогодні The Information, Microsoft з 2019 року розробляє новий чіп штучного інтелекту (ШІ) під кодовою назвою Athena. Компанія може зробити Athena широко доступною для використання в самій компанії та OpenAI вже наступного року.
Експерти кажуть, що Nvidia не загрожуватиме цими змінами, але це сигналізує про потребу гіперскейлерів у розробці власного спеціального кремнію.
Розробка мікросхем ШІ у відповідь на кризу GPUЧіп, подібно до мікросхем, розроблених Google (TPU) і Amazon (процесорні архітектури Trainium і Inferentia), призначений для навчання великих мовних моделей (LLM). Це критично важливо, оскільки масштаб передових генеративних моделей штучного інтелекту зростає швидше, ніж обчислювальні можливості, необхідні для їх навчання, повідомив VentureBeat електронною поштою аналітик Gartner Чираг Декате.
За даними John Peddie Research, Nvidia є безперечно лідером на ринку постачання чіпів штучного інтелекту з часткою ринку близько 88%. Компанії просто змагаються, щоб зарезервувати доступ до високоякісних графічних процесорів A100 і H100, які коштують десятки тисяч доларів кожен, що спричиняє те, що можна назвати кризою графічних процесорів.
ПодіяПеретворення 2023
Приєднуйтеся до нас у Сан-Франциско 11-12 липня, де топ-менеджери обговорять, як вони інтегрували та оптимізували інвестиції в штучний інтелект для досягнення успіху та уникнення поширених пасток.
Зареєструватися зараз«Найсучасніші генеративні моделі штучного інтелекту тепер використовують сотні мільярдів параметрів, що вимагають обчислювальних можливостей екзамасштабу», — пояснив він. «З моделями наступного покоління, що налічують трильйони параметрів, не дивно, що провідні технологічні новатори досліджують різноманітні обчислювальні прискорювачі, щоб прискорити навчання, скорочуючи час і вартість навчання».
Оскільки Microsoft прагне прискорити свою генеративну стратегію штучного інтелекту, одночасно зменшуючи витрати, компанії доцільно розробити персоналізовану та диференційовану стратегію прискорення штучного інтелекту, додав він, що «може допомогти їй досягти руйнівної економії масштабу, яка перевищує можливу за допомогою використання традиційна комодитизація». технологічні підходи.”
Спеціальні мікросхеми AI відповідають потребам у швидкості логічного висновкуПотреба в прискоренні також стосується, і що важливо, чіпів штучного інтелекту, які підтримують висновок машинного навчання, тобто коли модель зменшується до набору ваг, які потім використовують поточні дані для отримання ефективних результатів. Обчислювальна інфраструктура використовується для висновків щоразу, коли ChatGPT генерує відповіді на введення природною мовою, наприклад.
Nvidia виробляє дуже потужні мікросхеми штучного інтелекту загального призначення та пропонує свої...
Приєднайтеся до керівників вищої ланки в Сан-Франциско 11-12 липня, щоб дізнатися, як лідери інтегрують і оптимізують інвестиції в ШІ для успіху. Дізнайтеся більше
Згідно з інформацією, опублікованою сьогодні The Information, Microsoft з 2019 року розробляє новий чіп штучного інтелекту (ШІ) під кодовою назвою Athena. Компанія може зробити Athena широко доступною для використання в самій компанії та OpenAI вже наступного року.
Експерти кажуть, що Nvidia не загрожуватиме цими змінами, але це сигналізує про потребу гіперскейлерів у розробці власного спеціального кремнію.
Розробка мікросхем ШІ у відповідь на кризу GPUЧіп, подібно до мікросхем, розроблених Google (TPU) і Amazon (процесорні архітектури Trainium і Inferentia), призначений для навчання великих мовних моделей (LLM). Це критично важливо, оскільки масштаб передових генеративних моделей штучного інтелекту зростає швидше, ніж обчислювальні можливості, необхідні для їх навчання, повідомив VentureBeat електронною поштою аналітик Gartner Чираг Декате.
За даними John Peddie Research, Nvidia є безперечно лідером на ринку постачання чіпів штучного інтелекту з часткою ринку близько 88%. Компанії просто змагаються, щоб зарезервувати доступ до високоякісних графічних процесорів A100 і H100, які коштують десятки тисяч доларів кожен, що спричиняє те, що можна назвати кризою графічних процесорів.
ПодіяПеретворення 2023
Приєднуйтеся до нас у Сан-Франциско 11-12 липня, де топ-менеджери обговорять, як вони інтегрували та оптимізували інвестиції в штучний інтелект для досягнення успіху та уникнення поширених пасток.
Зареєструватися зараз«Найсучасніші генеративні моделі штучного інтелекту тепер використовують сотні мільярдів параметрів, що вимагають обчислювальних можливостей екзамасштабу», — пояснив він. «З моделями наступного покоління, що налічують трильйони параметрів, не дивно, що провідні технологічні новатори досліджують різноманітні обчислювальні прискорювачі, щоб прискорити навчання, скорочуючи час і вартість навчання».
Оскільки Microsoft прагне прискорити свою генеративну стратегію штучного інтелекту, одночасно зменшуючи витрати, компанії доцільно розробити персоналізовану та диференційовану стратегію прискорення штучного інтелекту, додав він, що «може допомогти їй досягти руйнівної економії масштабу, яка перевищує можливу за допомогою використання традиційна комодитизація». технологічні підходи.”
Спеціальні мікросхеми AI відповідають потребам у швидкості логічного висновкуПотреба в прискоренні також стосується, і що важливо, чіпів штучного інтелекту, які підтримують висновок машинного навчання, тобто коли модель зменшується до набору ваг, які потім використовують поточні дані для отримання ефективних результатів. Обчислювальна інфраструктура використовується для висновків щоразу, коли ChatGPT генерує відповіді на введення природною мовою, наприклад.
Nvidia виробляє дуже потужні мікросхеми штучного інтелекту загального призначення та пропонує свої...
What's Your Reaction?
