線形回帰

目的
連続値(例: サイズ)を予測する。
モデル
データにフィットする直線を引く。
学習方法
最小二乗法: データ点と直線の間の距離(残差)の二乗和が最小になるように直線を決める。

ロジスティック回帰

目的
カテゴリ(例: 肥満/非肥満)を予測する。
モデル
0から1の範囲で確率を表すS字曲線をフィットさせる。
学習方法
最尤法: 観測されたデータがその曲線から生成される確率(尤度)が最大になるように曲線を決める。