NVidia Tesla T4 专业深度学习GPU计算显卡

英伟达T4介绍

NVIDIA TESLA T4深度学习GPU加速HPC超算显卡。拥有极高的深度学习推理吞吐量Tesla P40专为提供极高的深度学习推理吞吐量而打造。T4 可以解码多达 38 个全高清视频流,从而可以轻松地将可扩展的深度学习集成到视频管线中,以提供创新的智能视频服务。

我们正面向未来砥砺前行。在未来,人工智能将会触及并改善与客户的每一次互动、每一种产品以及每一项服务。认识到未来需要一个能够加速现代人工智能各种应用的计算平台,使企业能够创造新的客户体验,重新构想他们如何满足和超越客户需求,并经济高效地扩展他们基于人工智能的产品和服务。 NVIDIA Tesla T4 GPU 是世界上极其先进的推理加速器。搭载 NVIDIA Turing™ Tensor Core 的 Tesla T4 提供革命性的多精度推理性能,以加速现代人工智能的各种应用。Tesla T4 封装在节能的小型 70 瓦 PCIe 中,可针对横向扩展服务器进行优化,并且旨在实时提供极其先进的推理。

配备 NVIDIA Tesla T4 的服务器适用于虚拟 GPU 软件 ,通过 NVIDIA GRID vPC 和 NVIDIA Quadro vDWS 这两款 vGPU 虚拟化软件,可加速 VDI 用户体验,可提供 高于CPU VDI 环境 33% 的出色性能。

T4加速卡产品特点

1、小巧的 70 瓦外形设计

让 T4 针对可扩展服务器进行了优化,能效相比 CPU 提高了50 倍之多,大大降低了运营成本。过去两年, NVIDIA 推理平台的性能提高了 10 多倍,仍然是极具能效的分布式 AI 训练和推理解决方案。

2、NVIDIA T4 数据中心 GPU

是完美适用于分布式计算环境的通用加速器。革命性的多精度性能可加速深度学习以及机器学习训练和推理、视频转码和虚拟桌面。 T4 支持所有 AI 框架和网络类型,性能强劲,效率卓越,可最大限度提高大规模部署的效用。

3、Turing Tensor 核心技术

具有多精度计算特性,实现了从 FP32 、 FP16 到 INT8 以及 INT4 精度的突破性 Al 性能、与 CPU 相比,它的训练性能高达 9 .3 倍,推理性能高达 36 倍。

T4显卡详细参数

Nvidia T4
GPU架构	NVIDIA Turing
NVIDIA Turing Tensor 核心数量	320
NVIDIA CUDA ® 核心数量	2560
单精度	8.1 TFLOPS
混合精度 (FP16/FP32)	65 TFLOPS
INT8	130 TOPS
INT4	260 TOPS
GPU 显存	16 GB GDDR6  300 GB/s
ECC	支持
互联带宽	32 GB / s
系统接口	x16 PCIe Gen3
外形尺寸	PCIe 半高卡
散热解决方案	被动式
计算 API	CUDA    NVIDIA TensorRT ™  ONNX