Dell Enterprise HubでオンプレミスAIを構築

記事一覧に戻る

本日、Dell Enterprise Hubの発表を行います。これは、Dellプラットフォームを使用してオンプレミスでオープンなモデルを簡単にトレーニングおよびデプロイできる、Hugging Face上の新しいエクスペリエンスです。

dell.huggingface.co でお試しください。

企業はオープンなモデルでAIを構築する必要がある

AIシステムを構築する際、オープンなモデルは企業のセキュリティ、コンプライアンス、プライバシー要件を満たすための最善のソリューションです。

• オープンなモデルを基盤に構築することで、企業は自社のAI機能を理解し、所有し、制御できます。
• オープンなモデルは、企業のセキュアなIT環境内にホストできます。
• オンプレミスでオープンなモデルをトレーニングおよびデプロイすることで、顧客データを保護できます。

しかし、オンプレミスインフラ内で大規模言語モデル（LLM）を扱うには、コンテナ、並列処理、量子化、メモリ不足エラーへの対応など、数週間にわたる試行錯誤が必要になることがよくあります。

Dell Enterprise Hubにより、Dellプラットフォームを使用してオンプレミスでLLMをトレーニングおよびデプロイすることが容易になり、数週間のエンジニアリング作業を数分に短縮できます。

Dell Enterprise Hub：オンプレミスLLMを簡単に実現

Dell Enterprise Hubでは、MetaのLlama 3、Mistral AIのMixtral、GoogleのGemmaなど、現在利用可能な最先端のオープンなモデルのキュレーション済みリストを提供しています。

Dell Enterprise Hubにアクセスするには、Hugging Faceアカウントが必要です。

Dell Enterprise Hubは、企業向けにゼロから設計されており、Dellプラットフォーム向けに最適化されています。

ライセンスやモデルサイズで利用可能なモデルを簡単にフィルタリングできます。

モデルを選択すると、エンタープライズ向けに設計された包括的なモデルカードを確認できます。一目でモデルの主要情報、サイズ、どのDellプラットフォームで適切にサポートされているかがわかります。

Meta、Mistral、Googleの多くのモデルは、モデルウェイトへのアクセス許可が必要です。Dell Enterprise HubはHugging Faceユーザーアカウント上に構築されているため、アカウントの権限はDell Enterprise Hubにも引き継がれ、許可は一度取得するだけで済みます。

Dell Enterprise Hubでオープンなモデルをデプロイ

デプロイ可能なモデルを選択したら、Dell環境へのデプロイは非常に簡単です。サポートされているDellプラットフォームと、デプロイに使用するGPUの数を選択するだけです。

提供されたスクリプトをDell環境のターミナルまたはサーバーに貼り付けると、Dellプラットフォーム上でAPIエンドポイントとしてモデルを利用可能にするために、すべてが自動的に処理されます。Hugging Faceは、各Dellプラットフォーム向けに最適化されたデプロイ構成を提供しており、利用可能なハードウェア、メモリ、接続機能を考慮し、Dellインフラ上で定期的にテストすることで、すぐに最適な結果を提供します。

Dell Enterprise Hubでオープンなモデルをトレーニング

ファインチューニングは、企業固有のトレーニングデータに基づいてモデルウェイトを更新することで、特定のドメインやユースケースにおけるパフォーマンスを向上させます。ファインチューニングされたオープンなモデルは、GPT-4のような最高のクローズドモデルを上回ることが示されており、特定のAI機能を強化するためのより効率的で高性能なモデルを提供します。企業固有のトレーニングデータには機密情報、知的財産、顧客データが含まれることが多いため、ファインチューニングをオンプレミスで行い、データが企業のセキュアなIT環境から外部に出ないようにすることは、企業のコンプライアンスにとって重要です。

Dell Enterprise Hubを使用したオンプレミスでのオープンなモデルのファインチューニングは、モデルのデプロイと同様に簡単です。主な追加パラメータは、トレーニングデータセットがホストされているDell環境のローカルパスと、完了時にファインチューニング済みモデルをアップロードする場所を、最適化されたトレーニングコンテナに提供することです。トレーニングデータセットは、この仕様に従い、CSVまたはJSONL形式のファイルとして提供できます。

Dell Enterprise Hubで独自のモデルを持ち込む

セキュアな環境から一度も出さずに、独自のモデルをオンプレミスでデプロイしたい場合はどうすればよいでしょうか？

Dell Enterprise Hubでは、モデルをトレーニングすると、選択したパスでローカルのセキュアな環境にホストされます。デプロイは「Deploy Fine-Tuned」タブを選択するだけで、もう1つの簡単なステップです。

また、Dell Enterprise Hubがサポートするモデルアーキテクチャのいずれかを使用して独自にモデルをトレーニングした場合も、同じ方法でデプロイできます。

提供されたコードスニペットを実行する環境で、モデルウェイトを保存したローカルパスを設定するだけです。

デプロイが完了すると、モデルはOpenAI互換のMessages APIに従ってリクエストを送信することで簡単に呼び出せるAPIエンドポイントとして利用可能になります。これにより、OpenAIで構築したプロトタイプを、Dell Enterprise Hubでセットアップされたセキュアなオンプレミスデプロイメントに簡単に移行できます。

まだ始まったばかり

本日、多くのプラットフォーム向けに最適化されたすぐに使えるコンテナとして多数のモデルが利用可能になったDell Enterprise Hubのリリースを発表でき、大変嬉しく思います。これは、Dell Technologiesとの提携発表から6ヶ月後のことです。

DellはNVIDIA、AMD、Intel GaudiのAIハードウェアアクセラレータを基盤とした多くのプラットフォームを提供しています。Hugging FaceはNVIDIA（optimum-nvidia）、AMD（optimum-amd）、Intel（optimum-intelおよびoptimum-habana）とのエンジニアリングコラボレーションを通じて、すべてのDellプラットフォーム構成でオープンなモデルのデプロイとトレーニング向けに、さらに最適化されたコンテナを提供できるようになります。私たちは、より最先端のオープンなモデルへのサポートを追加し、より多くのDellプラットフォームでそれらを利用可能にできることを楽しみにしています。まだ始まったばかりです！