| English | 意味 |
|---|---|
| regression/rɪˈɡreʃn/ | 回帰 |
| classification/ˌklæsɪfɪˈkeɪʃn/ | 分類 |
| linear regression/ˈlɪnɪə rɪˈɡreʃn/ | 線形回帰 |
| OCR/ˌəʊ siː ˈɑː/ | 光学文字認識(OCR) |
名前ではなく数を予測する
- モデルに「このメールはスパムか?」と聞けば、固定された選択肢の中から選ぶ必要がある。「この家はいくらで売れるか?」と聞けば、選ぶべき選択肢はない:答えは数であり、千ポンド外れていてもほぼ正解となる。
- これらは2つの異なるタスクであり、これらを混同することがこの分野における最も一般的なミスである。どちらも教師あり学習だが、答えの形状だけが異なる。
- このレッスンはregression(回帰)対classification(分類)、**linear regression(線形回帰)**がどのように直線を選ぶか、そして実製品がどのように学習済みモデルをパイプラインとしてつなげているかについてである。
回帰と分類
- **Classification(分類)は固定されたセットからcategory(カテゴリー)**を予測する:猫または犬、スパムまたは非スパム、10桁の数字のうちどれか。
- **Regression(回帰)は連続スケール上のnumber(数)**を予測する:家賃、明日の気温、旅にかかる時間など。
- 両方とも**supervised(教師あり)**である:どちらもラベル付きの例から学ぶ。両者の選択は一つの問いによって決定される:答えはラベルかそれとも数か?
- この区別は成功の測り方を変える。分類器は正解か誤答か;回帰器は特定の距離だけ外れているため、そのためにloss functions(損失関数)が異なる。
回帰と分類の違いは、回帰が以下を予測することである:
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
回帰は連続的な数(価格、温度)を出力し、分類はカテゴリーを出力する。
回帰は連続的な数(価格、温度)を予測し、分類はカテゴリー(猫と犬)を予測する。
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
出力が数=回帰;出力がカテゴリー=分類 — これら2つが主要な教師あり予測の種別である。
演習例:どのタスクがどれか
- 買い物客が5種類の顧客タイプに属するかを予測する Classification:答えは固定されたカテゴリーの一つである。
- その買い物客が来月にいくだけ使うかを予測する Regression:答えは数であり、近い値であればほぼ正解とみなされる。
- 機械が来週中に故障するかを予測する Classification:はいまたはいいえ。 故障するまで何日後かを予測する Regression。
- 同じ基盤となるデータがどちらにも使われる。対象分野ではなく、問われている**question(質問)**を読むこと。
各予測タスクをその種別に一致させよ。
難易度 2/5 · 140 コイン + 今日初回完了時に小ボーナス付与
同じデータがどちらにも適用できる。問題を読み解け:固定されたセットからのラベルか、スケール上の数か。
線形回帰
- **Linear regression(線形回帰)**は直線をfit(フィット)させる、あるいは複数の入力が存在する場合は平面をfitさせる:
- 係数は、直線の予測値と実際のトレーニング値との間の**二乗誤差和(sum of the squared errors)をminimise(最小化)**するために選ばれる。
- 二乗とする理由は、試験で認められる2つの理由がある:線上および線下のエラーが互いに打ち消し合えないこと、そして大きなエラーはいくつかの小さなエラーよりもはるかに厳しくペナルティされること。

総二乗距離が最も少ない直線
回帰線のフィット
コントロールを動かせ。線形回帰は、データ点への二乗距離を最小にする直線を描き、新しい入力に対して数を予測する。
線形回帰は以下の目的で係数を選ぶ:
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
データ点からの二乗差分が最小になるように直線/超平面をフィットさせる。
なぜ線形回帰は単なる誤差ではなく「二乗」された誤差和を最小化するのか?
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
両方の理由が許容される。二乗如果不用い場合、直線は上下で大きな誤差を持っていても合計ゼロとなり得る。
直線が適切なモデルとなる場合
- 関係性が**roughly linear(おおよそ線形)**に見え、人間が読み取れるモデルを望む場合に線形回帰を用いる:各係数はその入力がどれだけ重要で、どの方向に影響するかを示す。
- データが曲がる場合でも、同じアイデアは異なるモデルで適用可能である:多項式回帰、意思決定木、あるいはニューラルネットワーク。どの場合でもレシピは同じ、モデルを選び、loss(損失)を定義し、それを最小化すること。
- そのレシピこそが、このレッスンを前回のレッスンに結びつけるものである:勾配降下法とは、答えに対する公式がない場合に最小化を行うための手法にすぎない。
実製品におけるAI
- 実システムは通常、1つのモデルだけを使うことはない。複数の学習済みモデルを**pipeline(パイプライン)**としてつなぎ、それぞれが1つの工程を行う。
- ドアでの顔認識:カメラが顔をキャッチし、画像認識がそれを数値表現に変換し、登録されている人物の表現と比較する。
- 旅行者のための看板読み上げ:画像認識がテキスト位置を特定し、OCRがピクセルを文字に変換し、機械翻訳が単語を変換し、**text-to-speech(音声合成)**がオーディオを生成する。
- 試験ではシナリオを与え、どのようなモデルが用いられ、順に説明を求められる。段階と、それが次の段階に提供する出力を名指しせよ。
各AIの概念とその意味を一致させよ。
難易度 2/5 · 140 コイン + 今日初回完了時に小ボーナス付与
学習はモデルを一度フィットさせること、推論はユーザーとのやり取りごとに迅速な予測を行うことである。
"看板を声に出して読む"機能は通常どのモデルをチェーンで使いますか?
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
複数の学習済みモデルがパイプラインを形成する:テキストを見つけ、文字を抽出、翻訳し、最後に発音する。
外国の看板を声に出して読むアプリの工程を正しい順序で並べ替えよ。
難易度 3/5 · 200 コイン + 今日初回完了時に小ボーナス付与
複数の学習済みモデルがチェーンでつながり、それぞれ次のモデルに出力を渡す。工程名とそれが産物するものを述べよ。
演習例:トレーニング対推論
- スマートフォンアプリが写真から植物を瞬時に認識するが、モデルのトレーニングには多数のマシンで数週間かかった。なぜか説明せよ。
- **Training(トレーニング)**は非常に大きいラベル付きデータセットに対してフォワードおよびバックワードパスを反復的に実行し、多くのエポックにわたって数百万の重みを調整する。これが数週間かかったのである。
- 推論(Inference)とは、学習済みのモデルを用いて、重みが固定されたネットワークを単一の順伝播で通すことです:乗算、加算、活性化関数適用を層ごとに一度だけ行います。
- 知性は学習された重みに宿っているため、完成したモデルは小さく高速であり、携帯電話でも動作するようになります。
学習済みモデルを使って予測を行うには、単一の____パス只需要必要である。
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
学習は巨大なデータセット上で順伝播と逆伝播を繰り返す。推論は固定された重みを一度だけ通すため、即座に結果が出る。
見落としやすいポイント
- **分類(Classification)はカテゴリを出力し、回帰(Regression)は数値を出力します。**どちらも教師あり学習ですが、これが違いではありません。
- 線形回帰は「総距離」ではなく二乗誤差和を最小化します。「二乗」という言葉を使用し、その理由も述べてください。
- パイプラインの答えは、段階を順序立てて列挙し、各工程が次の工程に何を渡すかを説明する必要があります。
- **学習(Training)**は順伝播と逆伝播の繰り返しです。**推論(Inference)**は単一の順伝播のみです。使用について問われている場合、学習の説明は不要です。
理解できましたか
- **分類(classification)**はカテゴリを予測し、**回帰(regression)**は数値を予測します。どちらも教師あり学習であり、問題の答えの形式によってどちらを選ぶかが決まります。
- 線形回帰(linear regression)は$y = m_1x_1 + \ldots + c$を二乗誤差和を最小化することによってフィットするため、誤差が相殺されず、大きな誤差は強くペナルティとして課されます。
- 曲線のデータには別のモデルが必要ですが、手順は変わりません:モデルを選び、損失関数を定義し、それを最小化します。
- 実際の製品ではモデルを連鎖させます:画像認識、OCR(光学文字認識)、翻訳、音声合成などです。**学習(training)**は多数の順伝播・逆伝播であり、**推論(inference)**は単一の順伝播です。