バイトダンス、米NVIDIAにGPUを10億米ドル発注か AI開発競争で
動画投稿アプリ「抖音(TikTok)」を運営する北京字節跳動科技(バイトダンス、北京市)が今年に入り、米半導体大手エヌビディア(NVIDIA)にGPU(画像処理装置)を10億米ドル(約1,402億円)分、発注したもようだ。晩点LatePostが伝えた。
情報筋によると、バイトダンスはエヌビディアのGPU「A100」と「H800」コンピューティングカードが在庫切れの状態だという。 H800は今年3月に生産が開始されたばかり。
あるバイトダンス関係者は、同社は2020年6月に米OpenAIが高性能な言語モデル「GPT-3」を発売した後、V100コンピューティングカードの助けを借りて数十億のパラメータを持つ大規模言語モデル(LLM)を訓練したが、パラメータのサイズが限られていたためにモデルの生成能力は平均的で、当時は商業化する可能性を見出せずに事業を中止したと明らかにしていた。
また、別の関係者によると、阿里巴巴集団(アリババ・グループ)でクラウドサービス事業を手掛ける阿里雲智能(アリババクラウド、Alibaba Cloud Intelligence)も2018年から19年にかけて、エヌビディアのV100や「T4」コンピュートカード」など少なくとも数万個を購入していたという。このうちの約10分の1は人工知能(AI)技術開発に用いられ、21年にリリースした兆パラメータのビッグモデル「M6」にも使用された。
エヌビディアのウェブサイトによると、A100の価格は1個1万ドル、H100は3万6,000ドルとなっている。