Up 大規模言語モデル (LLM) 作成: 2025-04-29
更新: 2025-05-07

  • 学習データとパラメータ数を大きく

  • 「スケーリングの法則」:
      言語モデルの性能は, 「計算能力 (GPU)」に加えて「モデルサイズ (パラメータ数)」と「学習データセットの量」に比例する。

  • 言語理解の段階
    1. 形態素 (トークン) 解析
    2. 構文解析
    3. 意味解析・文脈理解
    4. 言語理解