AIラージモデルとは、「人工知能事前トレーニングラージモデル」の略称で、「事前トレーニング」と「大規模モデル」の2つの意味を含みます。この2つを組み合わせることで、新しい人工知能モデル、つまりモデルは大規模なデータセットでトレーニングされます。事前トレーニングが完了した後は、微調整の必要がなく、または少量のデータでの微調整のみが必要であり、さまざまなアプリケーションを直接サポートできます。

このうち、大規模モデルの事前トレーニングは、基礎知識をすべて理解し、「一般教養」を修了した大学生、さらには博士課程の学生のようなものです。ただし、タスクをより適切に完了するには、練習とフィードバック後の微調整が必​​要です。

また、大規模なAIモデルは汎用性や大規模複製など多くの利点があり、AGI（汎用人工知能）実現の重要な方向性となっています。

現在の大規模 AI モデルには、自然言語処理 (NLP)、コンピューター ビジョン (CV) などのほか、統合および統合されたマルチモーダル大規模モデルが含まれます。たとえば、ChatGPT は、自然言語処理の分野における画期的なイノベーションであり、「人間の言語」を理解して話します。以前の自然言語処理モデルを超え、機械翻訳、質問応答、テキスト生成など、さまざまな自然言語処理タスクを処理できます。

簡単に言うと、大規模モデルは、コンピューターが入力データをよりよく理解して処理するのに役立つ大量の情報と知識を保存する非常に大規模な知識ベースと考えることができます。大規模モデル内の各ニューロンとパラメーターは一緒になって、入力データを効率的に処理および変換できる強力なネットワークを形成します。

現在、Baidu、Alibaba、Tencent、Huawei などの国内企業が、それぞれのモデル シリーズに独自の焦点を当てた大規模な AI モデルを開発し、いくつかのモデルが発売され、いくつかのアプリケーションが実装されています。

Baidu は長年にわたって AI を導入しており、大規模なモデルに関して一定の先行者利益を持っています。現在、Wen Xin Yi Yan の API 呼び出しサービスのテストに応募した企業の数は 65,000 社を超えています。大規模な産業モデルに関しては、State Grid、上海浦東開発銀行、Geely、TCL、People's Daily Online、Shanghai Dictionary Publishing House などのケーススタディで使用されています。

Alibaba Tongyi の大規模モデルは、論理演算、コーディング機能、音声処理に優れており、旅行シナリオ、オフィス シナリオ、ショッピング シナリオ、生活シナリオで広く使用されている豊富なエコシステムと製品ラインを持っています。

Tencent の Hunyuan 大規模モデルは、広告やゲーム制作に使用されており、同グループは現在、会話型インテリジェント アシスタントを研究しており、実用化後は QQ と WeChat のエコロジーを最適化することが期待されています。

ファーウェイはBサイドと緊密に協力しており、将来のアプリケーションは主にToB​​になることが予想されます。さらに、ファーウェイはアルゴリズムと計算能力において豊富な資源を持っています。たとえば、「Pengcheng Cloud Brain II」は世界IO500ランキングを5回連続で受賞しており、強力なAIコンピューティング能力とデータスループット能力を備えており、Huawei Cloud ModelArtsプラットフォームは大量のデータを効率的に処理する能力を備えており、40TBのテキストデータ処理を完了します。 Pangu データモデルは、2021 年 4 月には正式にリリースされました。現在の Pangu の大規模モデル トレーニング テキスト データは最大 40 TB (GPT-3 は 45 TB) です。

大規模なモデルは通常、数億から数十億のパラメータで構成されており、より高い予測精度と汎化機能を実現するには、大量のデータに基づいてトレーニングおよび最適化する必要があります。業界関係者は、大規模モデルは「ビッグデータ、大きなコンピューティング能力、強力なアルゴリズム」の組み合わせの産物であるとよく言います。産業発展の鍵もこの3点にあります。

ビッグデータ

大きなコンピューティング能力

強力なアルゴリズム

将来的には、従来の「一般知識、プロセス作業能力などの習得」が徐々に隠れた下位要件となり、より明示的で上位の要件は「価値を創造し、ツールを効率的に使用する能力」となるでしょう。問題解決。"

一般の人々にとって、大型 AI モデルがもたらす機会は、短期的な投資機会と長期的なキャリア機会の 2 つに大別できます。

短期的には、テンセント・ホールディングス、アリババ、バイドゥなど、大型モデルの分野で技術的余裕を持つ企業がより有利になるだろう。同時に、iFlytek、Danghong Technology、Jebsen Holdings、BlueFocus、Fengyuzhu、Zhewen Internet など、ビデオ、マーケティング、読書、およびその他の関連部門で主導権を握っている主要ターゲットに注目することができます。

長い目で見ると、Lu Qi 氏のスピーチの言葉を借りれば、「この時代 (大型モデルの時代) は、ゴールド ラッシュの時代によく似ています。当時、金を採掘するためにカリフォルニアに行ったとしたら、多くの人々がゴールド ラッシュの時代に似ています。」人は死ぬだろうが、スプーンやシャベルを売る人はいつでもお金を稼ぐことができる。」

人間のテクノロジーによって推進される起業家精神に基づくイノベーションは、主に 3 種類の機会 (基礎となるテクノロジー、ニーズを満たす、世界を変える) に分類できます。

1 つ目は、最も低いレベルのデジタル テクノロジーです。デジタル化は人間の延長です。GPT を含め、現在リリースされている大型モデル AI はすべてテクノロジーに基づいています。 Nvidia や Cambrian などのチップ企業も、基礎となるテクノロジーのためのハードウェア設備を提供しています。フロントエンド、バックエンド、機器、チップなど、自分に合った機会を探すことも、このポジションのスキルを向上させるために熱心に取り組むこともできます。

2つ目はテクノロジーを活用してニーズを解決することです。需要は 2 つの方向に分けることができます。C にとって、AI はすべての人のエンターテイメント、消費、ソーシャル ネットワーキング、コンテンツなどを解決するために使用でき、人々がより良い生活を送るのに役立つすべてのニーズを満たす必要があります。企業のコスト削減と成長効果の向上を支援します。この部分の機会は主に人々と接触し、ユーザーのニーズをより深く理解し、より良い製品やエクスペリエンスを提供することです。

3つ目は世界を変えることです。たとえば、エネルギー技術、変換エネルギー、ライフサイエンス、新しい宇宙などです。たとえば、マスク氏はロボット、ブレイン・コンピューター・インターフェースなど、さらにはメタバースやWeb 3にも取り組んでいる。

Lu Qi 氏は講演の中で、大規模モデルに関する自身の見解を述べました。大規模で複雑なモデル構造は、より広い応用分野とより多くの機会を意味しますが、それらは慎重に検討し、最初に考えてから、アクション指向を使用する必要があります。

一般の人々にとっての機会は、大規模なモデルの開発と非常に似ています。長期的な開発はテクノロジーによって推進される必要がありますが、実装中のニーズの解体、分析、整理、制御がすべてです。できることはやって、あとは未来に任せましょう！