LLM・生成AI
BERTとは？
読み: ばーと英語: Bidirectional Encoder Representations from Transformers更新日: 2026-06-23
BERTとは、文脈を双方向から理解するTransformer系モデルで、文章分類や意味理解タスクに強みがあります。
生成AIパスポートG検定
関連表記: BERT / Bidirectional Encoder
試験で問われるポイント
- GPTが生成に強いのに対し、BERTは理解・分類系タスクで説明されやすいです。
- 双方向の文脈理解が特徴です。
- Transformerを使う代表的なモデルとして問われます。
具体例
レビュー文の感情分析や文章分類に利用されます。
混同しやすい点
- BERTを画像生成モデルと混同する。
- GPTとBERTの用途の違いを無視する。
関連問題で復習
生成AIパスポート生成AI（ジェネレーティブAI）
GPTモデルとBERTモデルの学習・利用上の違いとして最も適切なものはどれか。
生成AIパスポート生成AI（ジェネレーティブAI）
BERTのNSPとRoBERTaの関係について最も適切な説明はどれか。
生成AIパスポート生成AI（ジェネレーティブAI）
ALBERTがBERT系モデルに対して目指した改良として最も適切なものはどれか。
G検定ディープラーニングの応用例
ImageNetで事前学習したResNetや大規模テキストで事前学習したBERTが、多様な下流タスクで精度向上に使われた理由として最も適切なものはどれか。
生成AIパスポート生成AI（ジェネレーティブAI）
BERTのMLM（Masked Language Model）で行う学習はどれか。
G検定ディープラーニングの応用例
否定表現や語順で意図が変わる長文を分類し、別の機能では質問文と文書の関係から回答箇所を推定したい。候補として最も適切なものはどれか。
G検定ディープラーニングの応用例
自然言語処理タスクの組合せとして、最も適切なものはどれか。
G検定ディープラーニングの応用例
自然言語モデル・評価に関する説明として、最も適切なものはどれか。