高度計算機はHPCテックにお任せください。

　NVIDIA A30^® は NVIDIA Ampere アーキテクチャの Tensor コアとマルチインスタンス GPU (MIG) で、大規模な AI 推論やハイパフォーマンスコンピューティング (HPC) アプリケーションといった多様なワークロードを安全に高速化します。
　A30 搭載サーバは強力な演算能力や HBM2 大容量メモリ、毎秒 933 GB のメモリ帯域幅、NVLink によるスケーラビリティをもたらします。 NVIDIA InfiniBand、NVIDIA Magnum IO、RAPIDS オーブンソースライブラリスイート (RAPIDS Accelerator for Apache Spark を含む) との組み合わせにより、NVIDIA データセンタープラットフォームは、かつてないレベルのパフォーマンスと効率で、巨大なワークロードに対応します。

― ディープラーニング　トレーニング

　NVIDIA A30 Tensor コア と Tensor Float (TF32) を利用することで、NVIDIA T4 と比較して最大 10倍のパフォーマンスをコード変更することなく得られます。さらに、Automatic Mixed Precision と FP16 の活用で 2倍の高速化が可能になり、スループットは合わせて 20倍に増えます。
　NVIDIA NVLink、PCIe Gen4、NVIDIA Mellanox ネットワーキング、 NVIDIA Magnum IO SDK と組み合わせることで、数千の GPU までスケールできます。
　Tensor コアと MIG により、A30 はいつでも柔軟にワークロードを処理できます。要求がピークのときには本稼働で推論に使用し、オフピーク時には一部の GPU を転用して同じモデルを高速で再トレーニングできます。

　AI トレーニング — V100 の 3倍、T4 の 6倍のスループット

　BERT Large ファインチューニング、収束までの時間

― ディープラーニング　推論

　NVIDIA A30 には、推論ワークロードを最適化する画期的な機能が導入されています。FP64 から TF32 や INT4 まで、あらゆる精度を加速します。GPU あたり最大 4つの MIG をサポートする NVIDIA A30 では、安全なハードウェアパーティションで複数のネットワークを同時に運用でき、サービス品質 (QoS) が保証されます。また、スパース構造により数々の推論パフォーマンスの向上に加え、最大 2倍のパフォーマンスがもたらされます。

　AI 推論 - リアルタイム対話型 AI で V100 と比較してスループットが最大 3倍

　BERT Large 推論 (正規化済み)

　レイテンシ 10ms 未満でのスループット

 

　AI トレーニング— V100 の 3倍、T4 の 6倍のスループット

　BRN50 v1.5推論 (正規化)

　7ms 以下のレイテンシでのスループット

― ハイパフォーマンス コンピューティング

　NVIDIA A30 は FP64 の NVIDIA Ampere アーキテクチャ Tensor コアを備えています。帯域幅が毎秒 933GB/s の GPU メモリ 24GB との組み合わせにより、倍精度計算を短時間で解決できます。HPC アプリケーションで TF32 を活用すれば、単精度の密行列積演算のスループットを上げることができます。
　FP64 Tensor コアと MIG の組み合わせにより、研究機関は GPU を安全に分割して複数の研究者がコンピューティングリソースを利用できるようにし、QoS を保証し GPU 使用率を最大限まで高めることができます。AI を展開している企業は要求のピーク時に NVIDIA A30 を推論に利用し、オフピーク時には同じコンピューティングサーバを HPC や AI トレーニングのワークロードに転用できます。

　HPC — V100 と比較して最大 1.1 倍、T4 と比較して 8 倍のスループット

　LAMMPS (正規化済み)

― NVIDIA A30 datasheet