ディープラーニングの概要
G検定 学習ガイド / 30問 / 更新:2026年9月8日
ニューラルネットワークの学習を、予測・損失の計算・勾配の計算・重みの更新という流れで整理します。活性化関数、損失関数、正則化、最適化がそれぞれ何を担うのかを確認します。
理解のポイント
誤差逆伝播法は勾配を求める手続きで、勾配降下法などの最適化手法が重みを更新します。学習率は更新の歩幅です。訓練損失だけでなく検証損失も見て、過学習と学習不足を区別しましょう。
このページは解答を確認しながら読む教材です。答えを見ずに挑戦したい場合は、演習ページの単元一覧から該当する単元を選んでください。
30問の解答と解説
問題文を開くと、正解・考え方・各選択肢の理由を確認できます。
01GPUが深層学習の計算でよく用いられる主な理由を選べ。
ニューラルネットワークとディープラーニング / 問題ID:g-011
正解:積和演算の並列処理に適している
ニューラルネットワークでは行列積など、似た演算を多数の要素に適用します。GPUはこの並列性を生かせるため有効です。処理の規模やデータ転送などによっては、CPUが適する場合もあります。
選択肢ごとの理由
- 積和演算の並列処理に適している(正解)
行列演算の並列化と相性が良いことが理由です。
- あらゆる処理でCPUより必ず速い
分岐の多い処理や小規模な処理では有利とは限りません。
- 学習データがなくても正解を導ける
計算装置がデータの代わりになるわけではありません。
- 使うだけで過学習を防止できる
過学習対策はデータや正則化などの問題です。
覚える要点:GPUの強みは、多数の似た演算を並列に行うこと。
公式シラバスを確認02ReLUに入力x=-2とx=3をそれぞれ与えた場合の出力の組を選べ。
活性化関数 / 問題ID:g-012
正解:0と3
ReLUはmax(0,x)です。負の入力は0に、正の入力はそのまま出します。計算が単純で、正の領域の微分が1になる一方、負の領域では勾配が0になる点に注意します。
選択肢ごとの理由
- 0と3(正解)
max(0,-2)=0、max(0,3)=3です。
- -2と3
負の入力をそのまま出す恒等関数とは異なります。
- 0と1
正の値をすべて1にする関数ではありません。
- 2と3
絶対値関数ではありません。
覚える要点:ReLU=負は0、正はそのまま。
公式シラバスを確認03互いに排他的な3クラス分類で、正解クラスへの予測確率を高めたい。softmax出力とよく組み合わせる損失を選べ。
誤差関数 / 問題ID:g-013
正解:交差エントロピー
正解がクラスkのとき、交差エントロピーは−log(p_k)です。正解クラスの確率が高いほど損失が小さくなります。例えば正解に0.9を割り当てる予測は、0.1を割り当てる予測より損失が小さくなります。
選択肢ごとの理由
- 交差エントロピー(正解)
確率分布としての予測と正解を比較する典型的な損失です。
- ユークリッド距離によるクラスタ内平方和
k-meansなどの目的関数として使われます。
- 決定係数そのもの
主に回帰モデルの評価で使います。
- コサイン類似度そのもの
ベクトルの向きの近さであり、標準的な組合せではありません。
覚える要点:正解の予測確率が低いほど交差エントロピーは大きい。
公式シラバスを確認04不要な特徴量の係数を0にしやすい性質を期待して線形モデルに加える正則化を選べ。
正則化 / 問題ID:g-014
正解:L1正則化
L1正則化は係数の絶対値の和を損失に加えます。係数の一部を0にしやすく、疎なモデルを得られます。L2は係数の二乗和を使い、多くの係数を小さくする傾向があります。
選択肢ごとの理由
- L1正則化(正解)
係数を0にしやすい、ラッソに使われる正則化です。
- L2正則化
リッジに使われ、多くの係数を縮める傾向があります。
- バッチ正規化
中間表現の統計を整える正規化です。
- 学習データの単純複製
同じデータの複製では新しい情報は増えません。
覚える要点:L1はスパース化、L2は重みの縮小。
公式シラバスを確認05誤差逆伝播法で、出力の損失から各層の重みに関する勾配を効率的に求める際の数学的な原理を選べ。
誤差逆伝播法 / 問題ID:g-015
正解:連鎖律
合成関数の微分を各部分の微分の積に分ける連鎖律を用います。出力側で求めた勾配を再利用しながら入力側へ伝えることで、多数の重みの勾配を効率的に計算します。重みの更新自体は最適化手法が行います。
選択肢ごとの理由
- 連鎖律(正解)
合成関数の微分を計算する原理です。
- 多数決
アンサンブル予測などの集約法です。
- ベイズ情報量規準
モデル選択の指標です。
- 幅優先探索
グラフを探索する方法です。
覚える要点:逆伝播は勾配を計算し、最適化手法が重みを更新する。
公式シラバスを確認06通常の勾配降下法で、重みwの更新方向として適切なものを選べ。
最適化手法 / 問題ID:g-016
正解:損失の勾配と逆方向
勾配は関数が最も増える方向を示します。最小化ではw←w−η∇L(w)と逆向きに小さく進みます。ηは学習率です。学習率が大きすぎると損失が増えたり発散したりするので、必ず減るわけではありません。
選択肢ごとの理由
- 損失の勾配と逆方向(正解)
負の勾配方向へ更新します。
- 損失の勾配と同じ方向
勾配と同じ方向は局所的な増加方向です。
- 常にwを増やす方向
勾配の符号によって増減は変わります。
- 勾配を使わずwを0にする方向
0に固定しても損失の最小化にはなりません。
覚える要点:勾配降下=勾配を引く。歩幅は学習率。
公式シラバスを確認07単純パーセプトロンの線形分離で、そのまま表現できない代表的な論理関数を選べ。
ニューラルネットワークとディープラーニング / 問題ID:g-136
正解:XOR
XORは入力が異なるときだけ1になります。二次元に描くと対角の組が同じクラスになり、一つの直線では分離できません。非線形変換や隠れ層の役割を考える例です。
選択肢ごとの理由
- XOR(正解)
一つの直線で出力を分けられません。
- AND
線形に分離できます。
- OR
線形に分離できます。
- NOT
一入力で線形に扱えます。
覚える要点:XORは、一つの線形境界では分けられない。
公式シラバスを確認08活性化関数をすべて恒等関数にした全結合層を何層も重ねると、全体はどうなるか。
ニューラルネットワークとディープラーニング / 問題ID:g-137
正解:一つのアフィン変換で表せる
層を増やすだけで非線形の表現力が増すわけではありません。行列変換を重ねてもまとめて一つにできます。途中に非線形活性化を入れることが重要です。
選択肢ごとの理由
- 一つのアフィン変換で表せる(正解)
線形変換とバイアスの合成は同じ形です。
- 任意の非線形関数を必ず表せる
非線形性を加えていません。
- 入力に関係なく0になる
そのような制約はありません。
- 分類ラベルが自動生成される
層の合成と無関係です。
覚える要点:深さを生かすには、非線形性が必要。
公式シラバスを確認09シグモイド関数の出力範囲を選べ。
活性化関数 / 問題ID:g-138
正解:0から1の間
シグモイドは1/(1+exp(−x))で、実数入力を0と1の間に写します。大きな正負の入力では出力が飽和し、微分が小さくなることに注意します。
選択肢ごとの理由
- 0から1の間(正解)
二値の確率表現などに利用します。
- 必ず−1から1
これはtanhに対応します。
- 0以上で上限なし
ReLUの出力範囲です。
- 必ず整数のみ
連続した値を取ります。
覚える要点:シグモイドは0〜1、端では勾配が小さい。
公式シラバスを確認10tanhの出力がシグモイドと異なる特徴を選べ。
活性化関数 / 問題ID:g-139
正解:負の出力も取り、0を中心とする
tanhは双曲線正接で、入力0なら出力0です。シグモイドと違い負の出力も持ちますが、大きな入力での飽和や勾配の小ささは共通の注意点です。
選択肢ごとの理由
- 負の出力も取り、0を中心とする(正解)
出力範囲は−1から1です。
- 出力は正に限られ、負にならない
負も取り得ます。
- 出力には上限がなく、際限なく増える
−1と1に挟まれます。
- どの入力でも、微分の値は1になる
飽和すると微分が小さくなります。
覚える要点:tanhは−1〜1で、中心が0。
公式シラバスを確認11softmaxに同じ値の3つのスコアを入力したとき、各出力はどうなるか。
活性化関数 / 問題ID:g-140
正解:それぞれ1/3
softmaxは各スコアの指数を指数の総和で割ります。3つが同値なら指数も同じなので各1/3です。出力をクラス確率のように扱うときに使います。
選択肢ごとの理由
- それぞれ1/3(正解)
等しい値を合計1に正規化します。
- それぞれ1
合計が3になります。
- すべて0
合計1になりません。
- 最初だけ必ず1
同値を特定クラスに固定しません。
覚える要点:同じスコアなら、同じ確率。合計は1。
公式シラバスを確認12Leaky ReLUが通常のReLUと異なる点を選べ。
活性化関数 / 問題ID:g-141
正解:負の入力にも小さな傾きを持たせる
ReLUは負の領域で勾配が0です。Leaky ReLUは負の側にも小さな線形の傾きを持たせ、ユニットが更新されなくなる問題を緩和します。
選択肢ごとの理由
- 負の入力にも小さな傾きを持たせる(正解)
負領域でも勾配を流せます。
- 正の入力をすべて0にする
正領域を消すものではありません。
- 常に出力を1に固定する
定数関数ではありません。
- 正解ラベルを必要としない損失である
活性化関数です。
覚える要点:負の側にも少し勾配を残す。
公式シラバスを確認13実測値2、予測値5の一件に対する二乗誤差を選べ。
誤差関数 / 問題ID:g-142
正解:9
二乗誤差は予測と実測の差を二乗します。複数件ならその平均がMSEです。二乗するので大きな誤差が強く影響します。この例では差が3なので3×3=9です。
選択肢ごとの理由
- 9(正解)
(5−2)²です。
- 3
絶対誤差です。
- 7
二つの値の和です。
- 25
実測値との差を取っていません。
覚える要点:MSEは差を二乗して平均する。
公式シラバスを確認14KL情報量の性質として正しいものを選べ。
誤差関数 / 問題ID:g-143
正解:一般に、PからQとQからPの値は異なる
KL情報量は分布の違いを測る量ですが、通常の距離と違い対称ではありません。Pの確率を重みにして比を評価するため、向きを入れ替えると値も変わります。
選択肢ごとの理由
- 一般に、PからQとQからPの値は異なる(正解)
非対称な量です。
- PとQを入れ替えても、値は常に一致する
向きを入れ替えると一般に変わります。
- どの分布の組合せでも、値は負になる
定義できる場合に非負です。
- PとQが同一の分布なら、値は必ず1になる
同じ分布なら0です。
覚える要点:KLは非対称。距離と呼ぶ際も性質に注意。
公式シラバスを確認15Triplet Lossが近づけたい組を選べ。
誤差関数 / 問題ID:g-144
正解:基準例と同じ意味・クラスの正例
Triplet Lossはアンカー、正例、負例の三つ組を使います。アンカーと正例の距離を、負例との距離より一定以上小さくするように学びます。類似検索などの表現学習に使います。
選択肢ごとの理由
- 基準例と同じ意味・クラスの正例(正解)
負例より近くすることを狙います。
- 基準例と異なるクラスの負例だけ
通常は離す側です。
- すべての例を同一点
識別する表現を失います。
- 重みと学習率
表現の三つ組ではありません。
覚える要点:正例を近く、負例を遠く。
公式シラバスを確認16L2正則化に対応する回帰モデル名を選べ。
正則化 / 問題ID:g-145
正解:リッジ回帰
リッジ回帰は係数が大きくなりすぎることを抑えます。ラッソのように0の係数を作ることよりも、係数全体を縮めて安定させる性質に注目します。
選択肢ごとの理由
- リッジ回帰(正解)
係数の二乗和に罰則を加えます。
- ラッソ回帰
L1正則化を使います。
- k-means
教師なしのクラスタリングです。
- 単純な最頻値
回帰の正則化ではありません。
覚える要点:リッジはL2、ラッソはL1。
公式シラバスを確認17ドロップアウトの学習時の操作として適切なものを選べ。
正則化 / 問題ID:g-146
正解:一部ユニットの出力をランダムに無効化する
学習時にランダムなユニットを無効にすることで、特定ユニット同士への依存を弱めます。通常の推論時には無効化を止め、学習時とのスケールの整合も取ります。
選択肢ごとの理由
- 一部ユニットの出力をランダムに無効化する(正解)
特定の経路への過度な依存を抑えます。
- 学習データの正解を全件削除する
教師信号をなくす手法ではありません。
- 重みをすべて恒久的に削除する
構造を永続的に削る手法ではありません。
- 推論結果を必ず同じ値にする
予測は入力に応じます。
覚える要点:ドロップアウトは学習中のランダムな無効化。
公式シラバスを確認18正則化の強さを過度に大きくしたときに起き得ることを選べ。
正則化 / 問題ID:g-147
正解:必要な特徴も抑制され、学習不足になる
正則化は強いほど良いわけではありません。弱すぎると過学習、強すぎると必要な構造も捉えにくくなります。検証データでバランスを選びます。
選択肢ごとの理由
- 必要な特徴も抑制され、学習不足になる(正解)
制約が強すぎる場合があります。
- 必ず全データに完全適合する
制約は適合を抑える方向です。
- 訓練ラベルが増える
件数は変わりません。
- 汎化誤差が必ず0になる
最適な強さは課題に依存します。
覚える要点:制約は、弱すぎても強すぎても問題になる。
公式シラバスを確認19微分が0.1の変換を多数の層で掛け合わせると起きやすいことを選べ。
誤差逆伝播法 / 問題ID:g-148
正解:入力側へ伝わる勾配が小さくなる
逆伝播では連鎖律によって各層の微分が掛かります。小さい値を何度も掛けると勾配がほぼ0になり、前の層が学びにくくなります。これが勾配消失の一因です。
選択肢ごとの理由
- 入力側へ伝わる勾配が小さくなる(正解)
小さい値の積が減衰します。
- 必ず無限大になる
1より小さい数の積は減ります。
- すべての重みが即座に正解になる
更新が進みにくくなることがあります。
- 学習データが増える
件数は変わりません。
覚える要点:小さな微分の積が、勾配を消してしまう。
公式シラバスを確認20勾配爆発への対策として、勾配の大きさに上限を設ける手法を選べ。
誤差逆伝播法 / 問題ID:g-149
正解:勾配クリッピング
勾配クリッピングは、勾配のノルムなどがしきい値を超えた際に大きさを抑える操作です。特に系列の学習などで、巨大な更新による不安定化を防ぐ助けになります。
選択肢ごとの理由
- 勾配クリッピング(正解)
過大な更新を抑えます。
- データの完全複製
勾配の上限を設定しません。
- 出力ラベルの並べ替え
正解の対応が壊れます。
- 全重みを無限大にする
不安定性を悪化させます。
覚える要点:大きすぎる勾配には、更新前に上限を設ける。
公式シラバスを確認21重みw=2、勾配3、学習率0.1で一回勾配降下すると、更新後のwはどれか。
最適化手法 / 問題ID:g-150
正解:1.7
基本の更新式はw←w−ηgです。値を入れると2−0.3=1.7になります。勾配の符号と学習率の積を確認してから引きます。勾配が負なら、引くことで重みは増えます。
選択肢ごとの理由
- 1.7(正解)
2−0.1×3です。
- 2.3
勾配を足しており上昇方向です。
- 0.6
wと勾配を掛ける式ではありません。
- −1
学習率を無視しています。
覚える要点:更新後=今の重み−学習率×勾配。
公式シラバスを確認22学習率が大きすぎる場合の挙動を選べ。
最適化手法 / 問題ID:g-151
正解:最小値を飛び越え、振動や発散が起き得る
勾配が示す方向へ進んでも、歩幅が大きすぎれば谷を通り過ぎます。損失の変化を見ながら学習率やスケジュールを調整します。学習率を小さくすると安定する一方、進み方は遅くなる場合があります。
選択肢ごとの理由
- 最小値を飛び越え、振動や発散が起き得る(正解)
更新の歩幅が過大になります。
- 必ず速く正しい最小値に到達する
大きければ良いわけではありません。
- 重みを更新しなくなる
大きな更新が問題です。
- データ数が0になる
学習率とは無関係です。
覚える要点:良い方向でも、歩幅が大きすぎると行き過ぎる。
公式シラバスを確認23学習データ1000件、バッチサイズ100件、端数なしで1エポックに何回更新するか。
最適化手法 / 問題ID:g-152
正解:10回
1エポックは訓練データを一巡することです。100件ずつ取り出すなら10バッチとなり、各バッチで一回更新する条件では10回更新します。
選択肢ごとの理由
- 10回(正解)
1000÷100です。
- 100回
バッチサイズそのものではありません。
- 1000回
一件ずつの更新ではありません。
- 1回
全件を一バッチにしていません。
覚える要点:エポックは一巡、イテレーションは一回の更新。
公式シラバスを確認24ミニバッチ学習の説明を選べ。
最適化手法 / 問題ID:g-153
正解:データの一部をまとめて勾配を求める
ミニバッチは訓練データの一部をまとめて処理します。GPUの並列性を使いながら、全データを待たずに更新できます。大きさは速度とメモリ、学習挙動に関わります。
選択肢ごとの理由
- データの一部をまとめて勾配を求める(正解)
計算効率と更新頻度の折衷です。
- 必ず一件だけでしか更新しない
オンライン更新の典型に近い説明です。
- 必ず全データをまとめて一度だけ更新する
バッチ学習の説明です。
- 勾配を計算しない
通常は勾配を使います。
覚える要点:少数の例をまとめて、一歩ずつ更新。
公式シラバスを確認25モーメンタムが利用する情報を選べ。
最適化手法 / 問題ID:g-154
正解:過去の更新方向の蓄積
モーメンタムは過去の方向を考慮して更新します。同じ方向に続く勾配を生かし、細い谷での振動を抑える助けになります。学習率とは別の役割です。
選択肢ごとの理由
- 過去の更新方向の蓄積(正解)
慣性のように進む方向を滑らかにします。
- 未来の正解だけ
予測時に未知の情報は使えません。
- データのファイル名だけ
勾配更新の情報ではありません。
- すべての重みの符号をランダムに反転
目的に沿う更新になりません。
覚える要点:過去の進み方を、次の更新に生かす。
公式シラバスを確認26AdaGradの累積二乗勾配に関する注意点を選べ。
最適化手法 / 問題ID:g-155
正解:累積によって実効学習率が小さくなりすぎる
AdaGradはパラメータごとの過去の勾配を利用して学習率を調整します。勾配二乗の累積が分母に効くため、長く学ぶと更新が小さくなる場合があります。
選択肢ごとの理由
- 累積によって実効学習率が小さくなりすぎる(正解)
過去の勾配をすべて蓄積します。
- 過去の勾配を一切使わない
適応的な調整に利用します。
- すべてのパラメータを同じ値に固定する
各パラメータで調整します。
- 分類だけにしか適用できない
タスクは分類に限定されません。
覚える要点:累積する分母が大きくなると、歩幅は小さくなる。
公式シラバスを確認27Adamの基本的な考え方に近いものを選べ。
最適化手法 / 問題ID:g-156
正解:勾配の一次・二次モーメントを使う
Adamは勾配の平均と二乗の平均を移動平均で推定して更新を調整します。使いやすい手法ですが、どんな問題でも最善というわけではなく、学習率などの調整は必要です。
選択肢ごとの理由
- 勾配の一次・二次モーメントを使う(正解)
方向と大きさの履歴を利用します。
- 最大深さの木だけを多数作る
ランダムフォレストではありません。
- ラベルの頻度だけで全重みを決める
勾配を利用します。
- 常に厳密な大域最適解を保証する
一般の非凸最適化で保証しません。
覚える要点:Adamも万能ではなく、設定と評価が必要。
公式シラバスを確認28早期終了を行う典型的な判断を選べ。
最適化手法 / 問題ID:g-157
正解:訓練損失は低下するが、検証損失の改善が止まる
Early Stoppingは検証性能の推移を見て訓練を止める方法です。一時的な変動に反応しすぎないよう、改善を待つ回数などを設けることがあります。
選択肢ごとの理由
- 訓練損失は低下するが、検証損失の改善が止まる(正解)
汎化の悪化を監視します。
- 検証損失に関係なく、訓練損失の低下中は続ける
過学習を防げません。
- 最終テストの点数を見続け、最大になるまで調整する
テストへの過適合になります。
- 訓練と検証を実施せず、初回更新の前に停止する
学習できません。
覚える要点:訓練への適合より、検証での改善を見守る。
公式シラバスを確認29ハイパーパラメータに当たるものを選べ。
最適化手法 / 問題ID:g-158
正解:学習率やネットワークの層数
モデルパラメータはデータを用いて学習します。一方、学習率や層数などは、学習の方法や構造を定めるハイパーパラメータとして検証により選択します。
選択肢ごとの理由
- 学習率やネットワークの層数(正解)
通常は学習手順の外で設定・探索します。
- 逆伝播で直接更新する重み
モデルパラメータです。
- 各入力の予測結果だけ
学習設定ではありません。
- 検証データの正解そのもの
評価用の教師情報です。
覚える要点:学習する重みと、学習の設定を区別する。
公式シラバスを確認30ノーフリーランチの定理から学ぶモデル選択の姿勢を選べ。
最適化手法 / 問題ID:g-159
正解:あらゆる課題に最良な手法は想定しない
ノーフリーランチは、全問題に対する無条件の万能手法という考えを戒めます。現実の問題には構造があるため、その構造に合う仮定やモデルを選ぶことに意味があります。
選択肢ごとの理由
- あらゆる課題に最良な手法は想定しない(正解)
対象の性質に応じた選択が重要です。
- 新しい手法なら常にすべての問題で勝つ
普遍的な優位性ではありません。
- すべての手法は個別課題でも同じ性能になる
個別の課題では差が出ます。
- データの特徴は選択に不要である
課題の性質を使うことが重要です。
覚える要点:万能を探すより、問題の性質に合わせる。
公式シラバスを確認