Entries

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。
この記事にトラックバックする(FC2ブログユーザー)
http://exphenomenologist.blog100.fc2.com/tb.php/905-fae2bd15

トラックバック

コメント

コメントの投稿

コメントの投稿
管理者にだけ表示を許可する

岩波データサイエンス刊行委員会編『岩波データサイエンス Vol.5』


本巻はスパース性について。データ量に比べてパラメータ数が多い場合、そのままでは学習が難しい。データがスパースである場合、L1ノルムを用いた罰則項を入れるなどのテクニックにより、学習が可能になる。逆に、データ量がパラメータ数に比べて小さいと、学習率を一つに固定して選択されるパラメータは実際とは異なる誤った結果になる可能性が高くなる。この場合、回帰分析は容易ではない(p.24f)。

スパース性といっても様々な場面があり、スパース化が3つに分類されて書かれている(p.48-50)。上に書いた、lasso回帰で余分な変数を減らすというスパース化。各標本に重みを付けて最適化することにより、標本数(データ量)のほうを削減するスパース化。そして変数間の関係のうち重要なものを特定する関係のスパース化。

情報を削減するという意味で画像処理への応用が大きい。例えば、画像処理におけるスパースランドモデルの威力には驚く(p.68-73)。ノイズを含む画像から、元のきれいな画像を見事に復元している。あるいは、品目数とその組み合わせに対して顧客数が少ない、レコメンデーションの場面でスパース化の手法が有効と扱われている。
スポンサーサイト
この記事にトラックバックする(FC2ブログユーザー)
http://exphenomenologist.blog100.fc2.com/tb.php/905-fae2bd15

トラックバック

コメント

コメントの投稿

コメントの投稿
管理者にだけ表示を許可する

上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。