> BERT で自然言語処理 (NLP) モデルをトレーニングする
このラボでは、NVIDIA Base Command™ を使用して、質疑応答 (QA) や言語推論などの NLP タスクを実行します。複数の NVIDIA DGX™ A100 640GB システムを活用し、一般に公開されているプレーン テキストで自分だけの高精度 BERT モデルを事前トレーニングします。
> NVIDIA NeMo Megatron で大規模 NLP モデルをトレーニングする
このラボでは、マルチ GPU、マルチノードの NVIDIA DGX™ システムで大規模な Transformer ベースの言語モデルをトレーニングします。シリコンからネットワーク、ソフトウェアまで、スタックのすべてのコンポーネントが最適化され、GPU で高速化されるため、トレーニングの最速時間が約束されることがお分かりいただけるでしょう。GPT-3 モデル用に事前に調整されたハイパーパラメーター構成を使用して、企業の大規模言語モデル (LLM) を立ち上げます。
