Машинне навчання на межі: компанія чіпів AI кидає виклик Nvidia та Qualcomm

Не змогли відвідати Transform 2022? Перегляньте всі сесії саміту в нашій бібліотеці за запитом! Подивіться сюди.

Поточний попит на аналіз даних у реальному часі на краю знаменує початок нової ери машинного навчання (ML): периферійний інтелект. Ця потреба в чутливих до часу даних, у свою чергу, підживлює величезний ринок чіпів штучного інтелекту, оскільки компанії прагнуть запропонувати моделі ML на межі, які мають меншу затримку та більшу енергоефективність.

Звичайні периферійні платформи ML споживають багато енергії, що обмежує ефективність роботи інтелектуальних пристроїв, які живуть на межі. Ці пристрої також орієнтовані на апаратне забезпечення, що обмежує їхню обчислювальну потужність і робить їх нездатними обробляти різні робочі навантаження ШІ. Вони використовують архітектури GPU або CPU з низьким енергоспоживанням, а також не оптимізовані для вбудованих програм, які мають вимоги до затримки.

Хоча такі гіганти галузі, як Nvidia та Qualcomm, пропонують широкий спектр рішень, вони здебільшого використовують комбінацію архітектур графічного процесора або центру обробки даних і адаптують їх до інтегрованого краю замість того, щоб створювати спеціально створене рішення з нуля. . Крім того, більшість із цих рішень налаштовано для великих клієнтів, що робить їх надзвичайно дорогими для малого бізнесу.

По суті, глобальний ринок вбудованих периферійних пристроїв вартістю 1 трильйон доларів США залежить від застарілих технологій, які обмежують темпи інновацій.

Подія

MetaBeat 2022

4 жовтня в Сан-Франциско, штат Каліфорнія, MetaBeat збере лідерів думок, щоб порадити, як технологія метавсесвіту змінить спосіб спілкування та ведення бізнесу в усіх галузях.

зареєструватися тут Нове рішення машинного навчання для краю

Компанія ML Sima AI прагне заповнити ці прогалини за допомогою своєї платформи системи машинного навчання (MLSoC), яка забезпечує розгортання та масштабування ML на межі. Каліфорнійська компанія, заснована в 2018 році, сьогодні оголосила, що почала поставляти платформу MLSoC своїм клієнтам з початковою метою допомогти вирішити проблеми комп’ютерного зору в сферах інтелектуального бачення, робототехніки, промисловості 4.0, дронів, автономних транспортних засобів. , охорона здоров'я та охорона здоров'я. державний сектор.

Платформа використовує апаратно-програмний підхід до проектування, який наголошує на можливостях програмного забезпечення для створення рішень Edge-ML, які споживають мінімальну енергію та можуть обробляти різноманітні робочі навантаження ML.

Система обробки MLSoc, заснована на 16-нм технології, складається з процесорів комп’ютерного зору для попередньої та постобробки зображень у поєднанні зі спеціальним прискоренням ML і високопродуктивними прикладними процесорами. Інтелектуальну обробку відео в реальному часі оточують інтерфейси пам’яті, комунікаційні інтерфейси та керування системою, які з’єднані через мережу на кристалі (NoC). MLSoC має низьку робочу потужність і високу здатність обробки ML, що робить його ідеальним як автономний системний контролер на базі периферії або для додавання прискорювача розвантаження ML для ЦП, ASIC та інших пристроїв. /p>

Програмний підхід включає ретельно визначені проміжні представлення (зокрема TVM Relay IR), а також нові методи оптимізації компілятора. Ця програмна архітектура дозволяє Sima AI підтримувати широкий спектр фреймворків (наприклад, TensorFlow, PyTorch, ONNX тощо) і компілювати понад 120 мереж.

Обіцянка MLSoc - підхід, орієнтований на програмне забезпечення

Багато стартапів ML зосереджуються на створенні чистих прискорювачів ML, а не на SoC із процесором комп’ютерного бачення, процесорами додатків, кодеками та зовнішніми інтерфейсами пам’яті, які дозволяють використовувати MLSoc як ста...