Nvidia запускає tesla t4, найшвидшу карту для центрів обробки даних

Nvidia оголосила про свій новий GPU для машинного навчання та висновку в центрах обробки даних. Нова карта Tesla T4 заснована на архітектурі Тьюрінга і є спадкоємцем нинішньої моделі Tesla P4, яка охоплює практично всіх основних постачальників хмарних обчислень.

Nvidia Tesla T4 хоче революціонізувати центри обробки даних

Nvidia стверджує, що Tesla T4 є значно швидшими, ніж Р4. Наприклад, для висновку про мову, T4, в 34 рази швидше, ніж використання процесора, і в 3, 5 рази швидше, ніж P4. Максимальна пропускна здатність для Tesla P4 - 260 TOPS для 4-бітних цілочисельних операцій і 65 TOPS для операцій з плаваючою комою. T4 знаходиться на стандартній 75-ватній PCI-e картці профілю.

Рекомендуємо ознайомитись з нашим дописом про деталі архітектури Твірінга від Nvidia

Найголовніше, що Nvidia розробила ці чіпи спеціально для висновку AI, що робить Tesla T4 таким ефективним графічним процесором для здійснення висновків - новим Tensor Core є Turing. Дженсен Хуанг вже розповідав про новий Tensor Core та що він може зробити для ігор, рендерінгу та AI-операцій. Загалом, у мікросхемі є 320 Tensor Core Turing та 2560 ядер CUDA.

На додаток до нового чіпа, Nvidia також впроваджує оновлення свого програмного забезпечення TensorRT для оптимізації моделей глибокого навчання. Ця нова версія також включає сервер Inference TensorRT, повністю контейнерний мікросервіс для виводу центру обробки даних, який безперебійно підключається до існуючої інфраструктури Kubernetes.

Тьюрінг є однією з найбільш інноваційних архітектур Nvidia, навіть на ринку ігор, де вона дозволить вперше використовувати трасування променів у режимі реального часу, щоб поліпшити графічну обробку найсучасніших ігор.

Шрифт Techpowerup