深層学習を支える基盤技術：残差ブロックと残差接続とは何か？

こんにちは。Altam Ease代表の本田直輝です。

現代の人工知能（AI）技術の中核を成すものの一つに、深層ニューラルネットワーク（Deep Neural Network）があります。画像認識、音声認識、自然言語処理など、さまざまな分野でこの技術が活躍しています。

一方で、ネットワークの「深さ」、つまり層の数を増やすことには限界があることも早くから知られていました。たとえば、単純に層を増やしていけば性能が上がり続けるわけではなく、逆に性能が劣化することすらあったのです。

この課題を解決するために登場したのが、ResNet（Residual Network）というアーキテクチャと、その中心をなす「残差ブロック（Residual Block）」という構造です。本記事では、この残差ブロックの仕組みと、その効果について丁寧に解説していきます。

なぜ「残差」が必要だったのか？

深層学習では、「ネットワークをより深くする（＝層を増やす）」ことで、モデルがより複雑で高度な特徴を学習できると考えられてきました。これは一面では正しいのですが、実際には深くなりすぎると、いくつかの問題が顕在化します。

主な問題点：

• 勾配消失・勾配爆発
  　→ 誤差を逆伝播するときに、勾配が極端に小さくなったり大きくなったりし、学習が進まなくなる。

• 性能の劣化
  　→ ネットワークを深くしても、必ずしも精度が上がるわけではなく、逆にテスト精度が落ちる現象が観測された。

• 情報の劣化・消失
  　→ 入力データの特徴が、層を重ねるごとに変換され続け、必要な情報が失われてしまう。

これらの問題を解決するには、「情報を変換しすぎないこと」「重要な入力情報をそのまま後ろの層に伝えること」が重要になります。そこで登場するのが「残差接続（Residual Connection）」です。

残差接続とは何か？

基本的な考え方

残差接続の考え方は非常にシンプルです。

従来のニューラルネットワークでは、ある層の入力 x に対して変換 F(x) を行い、その結果のみを次の層に渡していました。しかし、残差接続では次のような計算を行います：

つまり、「入力 x を変換した結果（F(x)）」に、元の入力そのもの（x）を加えるのです。これにより、「入力とその変化分（差分）」の両方を次の層に伝えることができます。

この「差分を学習する」ことの意味

この構造によって、ニューラルネットワークは「入力を大きく変換する必要がある場合」はもちろん、「入力をほとんど変えないほうが良い場合」でも適切に学習できるようになります。

たとえば、ある層で学習がうまく進まなかったとしても、元の入力がそのまま後段に伝わるため、性能が大きく劣化するリスクが下がるのです。

残差ブロックの構造

残差接続を実装したブロックが「残差ブロック（Residual Block）」です。中では、以下のような構造が使われます：

擬似コード的に表すと

この「ショートカット経路」によって、入力 x は何の変換も受けずに出力に加算されます。F(x) は変化・差分を表しており、ネットワークは「この入力に何を加えたらよいか」を学習する形になります。

実際の効果：なぜこれがうまくいくのか？

残差ブロックによる改善は、次のような効果につながります。

1. 学習の安定性が向上する

ショートカット経路により、勾配がスムーズに後方まで伝わりやすくなります。これにより、「勾配消失」が起きにくくなり、層が深くても学習が可能になります。

2. 恒等マッピングが可能になる

もし変換 F(x) がゼロに近い値を出すように学習されれば、出力は x + 0 = x になります。これは「入力そのままを通す」ことを意味し、性能の劣化を防ぎます。従来の深層ネットではこれが困難でした。

3. 非常に深いネットワークでも性能が上がる

ResNetでは、50層、101層、152層といった非常に深いモデルでも高い精度が得られました。これにより、層を深くすることが本当の意味で有効な技術となりました。

おわりに：残差構造のインパクト

残差接続は、ニューラルネットワークの歴史において非常に重要な転換点でした。これによって、より深いモデルが現実的な時間と計算量で学習できるようになり、多くのアプリケーションに飛躍的な性能向上をもたらしました。

現在ではResNetにとどまらず、さまざまなモデル（ResNeXt、DenseNet、Transformerなど）にも残差的なアイデアが応用されています。これからAIを学ぶ方にとっても、「残差接続」という考え方は必ず押さえておくべき基本技術の一つだと言えるでしょう。