Слайд, новий алгоритм глибокого навчання, розроблений Intel
Зміст:
Кілька днів тому Intel Labs та Rice University оголосили про SLIDE - інноваційний алгоритм глибокого навчання, який набагато ефективніше використовує сучасне обладнання.
SLIDE, новий алгоритм глибокого навчання, розроблений Intel
За допомогою SLIDE значно покращується ефективність процесора для глибокого навчання традиційних моделей AI. У дослідницькій роботі показано, що набір платформ з 44 ядрами Xeon та набором платформ вартістю 100 000 доларів США, підкріплених 8 карт прискорення NVIDIA Volta V100, виконував те саме завдання навчання у 3, 5 рази менше часу, ніж будь-який інший алгоритм.
SLIDE не потребує GPU, оскільки він має принципово інший підхід до глибокого навчання. Стандартна методика навчання "поширення назад" для глибоких нейронних мереж вимагає множення матриць, що є ідеальним навантаженням для GPU. За допомогою SLIDE, Shrivastava, Chen та Medini перетворили навчання нейронної мережі на пошукову проблему, яку можна вирішити за допомогою хеш-таблиць.
Це докорінно зменшує навантаження SLIDE порівняно з тренінгами заднього розмноження. Платформа GPU високого класу, подібна до тих, які пропонують Amazon, Google та інші для хмарних сервісів глибокого навчання, має вісім Tesla V100s і коштує близько 100 000 доларів, сказала Шрівастава.
Завітайте в наш довідник про кращі процесори на ринку
Цікаво, що Intel також заявила, що її платформа не була повністю оптимізована, оскільки DLBoost не був увімкнено. Однак точної моделі процесорів Xeon, використовуваних для комплектації 44 ядер, не оголошено. Спекулюючи, вони можуть бути двома Xeon Platinum 6238 з 22 ядер і 44 потоків, хоча вони також можуть бути неопублікованими моделями, про які не було оголошено.
Схоже, майбутнє обчислень проходить через AI та глибоке навчання, сегмент, який добре використовуються Intel та Nvidia. Ми будемо інформувати вас.
Amd radeon instinct mi25, vega 10 приходить до глибокого навчання
Оголошено новий Radeon Instinct MI25, який використовує всю потужність кремнію Vega 10 для галузі глибокого вивчення.
Алгоритм Google Play змінює алгоритм покарання поганих програм
Google Play змінює алгоритми покарання поганих програм. Відкрийте для себе нову міру магазину для боротьби з поганими програмами
Intel nervana - перший процесор глибокого навчання Intel
Сьогодні генеральний директор Intel оголосив у своєму блозі, яким буде перший процесор нейронної мережі - Intel Nervana.