Що таке AMD Ryzen AI і чому він важливий?

Якщо ви поринете у світ машинного навчання та штучного інтелекту на мобільних обчислювальних платформах, ви будете раді дізнатися, що AMD має щось спеціально для вас. Відкрийте для себе програмну платформу Ryzen AI, надійне середовище, створене для спільної роботи з мобільними процесорами AMD Ryzen 7040U та 7040HS. Яка вишенька на торті? Він повністю сумісний з операційною системою Windows 11.

Одним із найпереконливіших аспектів цієї платформи є її прагнення до простоти. Давайте подивимося, як це полегшить життя розробника:

Мінімальна крива навчання: платформа не вимагає змін у ваших існуючих моделях машинного навчання чи методології навчання. Якщо у вас є попередньо навчена модель PyTorch або TensorFlow, ви можете розпочати роботу з Ryzen AI без додаткових турбот. Інтуїтивно зрозумілі API: незалежно від того, чи є ви ентузіастом C++ чи Python, ONNX Runtime підтримує обидва. Це означає, що ви можете розгортати свої моделі AI, використовуючи мови, які вам зручні. Оптимізована продуктивність: постачальник середовища виконання Vitis AI, інтегрований із середовищем виконання ONNX, дбає про розумне розподілення завдань. Він визначає, які частини вашої моделі повинні працювати на Ryzen IPU, забезпечуючи максимальну продуктивність при низькому енергоспоживанні.

Якщо вам цікаво, як це відобразиться на реальних програмах, подумайте про функції реального часу, про які ви завжди мріяли прямо на своєму ноутбуці. Механізм Ryzen AI, доступний на деяких моделях серії AMD Ryzen 7040, змінює правила гри. Це перший кремній, присвячений обробці ШІ на процесорі Windows x86. Створений на основі найсучаснішого 4-нм техпроцесу, він обіцяє виняткову продуктивність і довговічність акумулятора в ультратонких ноутбуках.

Перегляньте це відео на YouTube.

Інші статті, пов’язані з AMD, які можуть вас зацікавити:

Як налаштувати середовище розробки? Це просто:

Спочатку переконайтеся, що драйвер IPU встановлено правильно. Ви можете перевірити це в диспетчері пристроїв у розділі «Системні пристрої» як «Пристрій IPU AMD». Для більш простих програм, таких як відеоконференції, двійкової конфігурації IPU, що пропонує до 2 TOPS (тероперацій на секунду), має бути достатньо. Ви можете запускати до чотирьох таких потоків AI паралельно без шкоди для продуктивності. Для більш вимогливих додатків ви можете вибрати більшу конфігурацію, яка пропонує до 10 TOPS. Однак майте на увазі, що ця конфігурація наразі підтримує лише одну програму за раз.

Давайте поговоримо про процес розгортання. Після вибору та навчання моделі в фреймворках PyTorch або TensorFlow наступним кроком є ​​кількісна оцінка. Цьому сприяє квантувач AMD Vitis AI, який перетворює модель в INT8 і зберігає її у форматі ONNX. Якщо ви є шанувальником Microsoft Olive, ви будете раді дізнатися, що вона також підтримується, а квантифікатор Vitis AI слугує плагіном. Нарешті, постачальник виконання ONNX Runtime Vitis AI бере на себе, компілює та оптимально запускає вашу квантовану модель на Ryzen AI.

Програмна платформа AMD Ryzen AI — це комплексний інструмент для розробників, які бажають інтегрувати моделі машинного навчання в програми для ноутбуків, оснащених AMD Ryzen. Він пропонує шви...