【０から学ぶAI】第284回：Fine-tuningの方法 〜転移学習モデルの一部を再学習する手法を説明

前回のおさらいと今回のテーマ

こんにちは！前回は、転移学習について解説し、事前学習済みモデル（VGG16など）を活用して新しい画像分類タスクに適応させる方法を学びました。転移学習では、既に大規模なデータセットで学習されたモデルの特徴抽出能力を利用することで、少ないデータでも効率的に高精度なモデルを構築できました。

今回は、転移学習の一歩進んだ手法であるFine-tuning（ファインチューニング）について解説します。Fine-tuningは、転移学習モデルの一部の層を再学習させ、特定のタスクに対してさらに最適化する手法です。本記事では、Fine-tuningの基本的な概念と実装方法について詳しく説明します。

Fine-tuningとは？

Fine-tuningとは、転移学習モデルの一部の層（特に深い層）を再学習させ、特定のデータセットに最適化する手法です。転移学習では、通常、事前学習済みのモデルをそのまま利用し、新たに追加した出力層のみを学習しますが、Fine-tuningではモデル全体、もしくは一部の層の重みも調整することで、モデルの精度をさらに向上させます。

Fine-tuningのメリット

• 精度向上: 事前学習済みモデルの特徴を活用しつつ、特定のタスクに合わせてモデルを微調整するため、精度が大幅に向上する可能性があります。
• 柔軟性: モデルの一部のみを再学習するため、計算コストを抑えつつ、特定のデータセットに合わせた調整が可能です。

Fine-tuningの流れ

Fine-tuningを行う際の一般的な流れは以下の通りです。

1. 事前学習済みモデルの読み込み: 転移学習で使用する事前学習済みモデル（例：VGG、ResNetなど）をロードします。
2. 出力層の追加と学習: 最後の出力層を新たに追加し、この層のみを学習します。このステップは、転移学習の基本的なアプローチです。
3. 特定の層を解凍（アンフリーズ）: モデルの一部の層（通常は深い層）を再学習可能に設定します。
4. Fine-tuningの実行: 解凍した層を含むモデル全体を再学習させ、特定のタスクに合わせて重みを調整します。

PythonとKerasを用いたFine-tuningの実装

ここでは、PythonとKerasを使って、事前学習済みモデル（VGG16）をFine-tuningする方法を紹介します。Fine-tuningを行うことで、モデルが新しいデータセットにさらに適応し、精度を高めることができます。

1. 必要なライブラリのインストール

pip install tensorflow

2. Fine-tuningの実装例

以下のコードでは、VGG16モデルを使い、新しい画像データセットにFine-tuningを実施します。

import tensorflow as tf
from tensorflow.keras import layers, models
from tensorflow.keras.applications import VGG16
from tensorflow.keras.preprocessing.image import ImageDataGenerator
from tensorflow.keras.optimizers import Adam

# 事前学習済みのVGG16モデルの読み込み（出力層を除去）
base_model = VGG16(weights='imagenet', include_top=False, input_shape=(150, 150, 3))

# ベースモデルの重みを凍結（初期は全層を固定）
base_model.trainable = False

# 転移学習用のモデル構築
model = models.Sequential([
    base_model,
    layers.Flatten(),
    layers.Dense(256, activation='relu'),
    layers.Dropout(0.5),
    layers.Dense(1, activation='sigmoid')  # バイナリ分類の場合
])

# モデルのコンパイル
model.compile(optimizer=Adam(),
              loss='binary_crossentropy',
              metrics=['accuracy'])

# データジェネレーターの設定（データ拡張込み）
train_datagen = ImageDataGenerator(
    rescale=1./255,
    rotation_range=20,
    width_shift_range=0.2,
    height_shift_range=0.2,
    horizontal_flip=True
)

test_datagen = ImageDataGenerator(rescale=1./255)

# データセットの読み込み
train_generator = train_datagen.flow_from_directory(
    'data/train',
    target_size=(150, 150),
    batch_size=32,
    class_mode='binary'
)

validation_generator = test_datagen.flow_from_directory(
    'data/validation',
    target_size=(150, 150),
    batch_size=32,
    class_mode='binary'
)

# 最初のトレーニング（出力層のみを学習）
history = model.fit(
    train_generator,
    epochs=5,
    validation_data=validation_generator
)

# Fine-tuningの準備（ベースモデルの一部を解凍）
# 今回はVGG16の最後の3つの畳み込みブロックを解凍
base_model.trainable = True
for layer in base_model.layers[:15]:
    layer.trainable = False

# モデルの再コンパイル（学習率を小さく設定）
model.compile(optimizer=Adam(learning_rate=1e-5),
              loss='binary_crossentropy',
              metrics=['accuracy'])

# Fine-tuningを実行
history_finetune = model.fit(
    train_generator,
    epochs=5,
    validation_data=validation_generator
)

# 学習結果の可視化
import matplotlib.pyplot as plt

plt.plot(history_finetune.history['accuracy'], label='accuracy')
plt.plot(history_finetune.history['val_accuracy'], label='val_accuracy')
plt.xlabel('Epoch')
plt.ylabel('Accuracy')
plt.legend()
plt.show()

• ベースモデルの重みを凍結: 最初の段階では、事前学習済みモデルの全層を凍結し、出力層のみを学習させます。
• 一部の層を解凍（アンフリーズ）: Fine-tuningのステップでは、VGG16の最後の3つの畳み込みブロックを再学習可能に設定し、特定のタスクに合わせて調整します。
• 学習率の調整: Fine-tuningの際には、学習率を小さく設定（例：1e-5）し、既に学習済みの重みを大きく変更しすぎないようにします。

Fine-tuningのポイントと注意点

1. 再学習させる層の選択

Fine-tuningでは、モデル全体を再学習させるのではなく、一部の層（特に深い層）だけを再学習させることが一般的です。これにより、計算コストを抑えながら、特定のデータセットに適した特徴を学習させることができます。

• 浅い層: 画像の基本的なエッジやパターンなど、汎用的な特徴を捉えるため、通常は凍結します。
• 深い層: より具体的なパターンやオブジェクトに関連する特徴を捉えるため、Fine-tuningの対象にすることが多いです。

2. 学習率の調整

学習率は、Fine-tuningでのパフォーマンスに大きな影響を与えます。事前学習済みの重みを大きく変えてしまうと、既存の知識が損なわれてしまうため、Fine-tuningでは小さな学習率を設定することが推奨されます。

3. データ拡張と正則化の活用

過学習を防ぐために、データ拡張や正則化（例：ドロップアウト）を併用することが有効です。データ拡張を活用することで、学習データの多様性が増し、モデルがより一般化することができます。

Fine-tuningの応用例

1. 医療分野での診断支援

医療画像（例：X線やMRI）の診断支援

システムでは、少量のデータでも高精度な診断が求められます。事前学習済みモデルをFine-tuningすることで、特定の病変や異常に対する検出精度を高めることが可能です。

2. 自動運転の物体認識

自動運転車のシステムでは、道路上の標識や車両、歩行者を正確に認識する必要があります。Fine-tuningを行うことで、事前学習済みの物体検出モデルを特定のシナリオや地域に適応させ、高精度な物体認識を実現します。

3. 監視カメラシステムの精度向上

監視カメラ映像から不審な行動や特定の人物を検出するシステムにおいて、Fine-tuningは特定の環境や条件に適応させるために有効です。例えば、異なる照明条件やカメラの位置に対応できるモデルを構築できます。

まとめ

今回は、Fine-tuningについて解説し、転移学習モデルの一部を再学習する手法とその実装方法を紹介しました。Fine-tuningは、転移学習のメリットを活かしつつ、モデルの精度をさらに向上させるための強力な手法です。次回は、物体検出の基礎について、画像内の物体を検出する技術とその実装方法を学びます。

次回予告

次回は、物体検出の基礎について、画像内の特定の物体を検出するための技術を解説します。物体検出の基本アルゴリズムとその実装方法について、ぜひ学びましょう！

---

注釈

• 学習率（Learning Rate）: モデルの重みを更新する際のステップサイズ。学習率が大きすぎると収束しにくく、小さすぎると学習が遅くなる。
• 正則化（Regularization）: モデルの過学習を防ぐために、重みの更新にペナルティを加える手法。