LLM・生成AI

BERTとは？

読み: ばーと英語: Bidirectional Encoder Representations from Transformers更新日: 2026-06-23

文脈を双方向から理解するTransformer系モデルで、文章分類や意味理解タスクに強みがあります。

試験で問われるポイント

レビュー文の感情分析や文章分類に利用されます。

生成AIパスポートG検定

関連する表記: BERT / Bidirectional Encoder

自然言語処理における「BERT」の特徴として、最も適切なものはどれか。

文章分類や感情分析など「理解」タスクにはBERT、文章生成にはGPTが適しているとされる。この違いを生む主な要因はどれか。

GPT、BERT、LLaMAなどに共通する「基盤モデル」の特徴に関する次の記述のうち、最も不適切なものはどれか。

GPTは「デコーダのみ」、BERTは「エンコーダのみ」を使用する。翻訳や要約に適した「エンコーダ・デコーダ」構造を持つモデルはどれか。

入力の一部をマスクして予測させる、BERTに代表されるモデルタイプを何と呼ぶか。

「Transformer」の特徴として、最も適切なものはどれか。

マスク言語モデル（Masked Language Model）の事前学習として、最も適切なものはどれか。

日本語処理に特化または強化されたLLMに関する次の記述のうち、最も不適切なものはどれか。