書いている時間がないのでヒントを 巡回セールスマン問題は対称群を引数に持つコスト関数の最小化問題とみなせる。 対称群は隣同士の互換から生成できる。 という事実をアニーリングに適用すると得られる。 ただし、スケーリングに関しての収束性のよさは不…
bocchi-talks-information.hatenablog.com をシミュレーティッドアニーリング的に(準)最適解を求める方法を少し考えたので、メモ的にソースコードだけでも。 解説はそのうちやります。 #define flp(i, n) for(int i = 0; i < n; ++i) #include <iostream> #include <bitset> </bitset></iostream>…
今回は、少し趣向を変えてボルツマンマシンが使われている例をみたいと思う。 参考にしたサイトは次のサイト。基本的にすべてここに書いてあることを焼きなおししようと思う。 ボルツマンマシンによる巡回セールスマン問題 ただし、今回は25地点のリンクや…
ボルツマンマシンの状態数 前回はなしたボルツマンマシンだけれど、実際に学習を実行しようとなると、あるパラメータにおける期待値を計算する必要がある。 期待値は例えば、 というようなもので、ボルツマンマシンは上の確率分布だったから、が大きくなると…
本の紹介 基本的には、 深層学習 (機械学習プロフェッショナルシリーズ)作者: 岡谷貴之出版社/メーカー: 講談社発売日: 2015/04/08メディア: 単行本(ソフトカバー)この商品を含むブログ (6件) を見る の最終章をいろいろと端折りながら紹介する。 ボルツマ…
学会予稿やら、博士論文の最終稿やらでここ数日ネタを考えてませんでした。 そしたら、その間に itpro.nikkeibp.co.jp 内容そのものは www.nature.com と言う話がhotになってきたので、次回から少し脱線して ボルツマンマシンや、ディープラーニング、 最終…
今日は、推定理論にもどって、不偏推定量について書こうと思う。 設定 データ集合が与えられているとして、を集合上の確率分布全体のなす集合とする。 また、モデルとして、 を仮定する。 同時独立分布 今回も、データが出てくる順番に関係なく毎回モデル上…
今日は予告どおり、有限集合上の分布全体について書きたいと思う。 設定と指数型分布族の復習(昨日と同じもの) データ集合が与えられているとして、を集合上の確率分布全体のなす集合とする。 また、モデルとして、 を仮定する。 ここで、は次元ベクトルと…
今日も昨日に引き続いてそんなに時間がないので、 指数型分布族の例について書きたいと思う。 設定と指数型分布族の復習 データ集合が与えられているとして、を集合上の確率分布全体のなす集合とする。 また、モデルとして、 を仮定する。 ここで、は次元ベ…
推定論について書こうと思っていたけれど、 時間がなくなったので 今日は指数型分布族の導入を 設定 データ集合が与えられているとして、を集合上の確率分布全体のなす集合とする。 また、モデルとして、 を仮定する。 ここで、は次元ベクトルとみなせるので…
推定が難しいときにまずやろう 今回は最尤推定について話をする。 この推定は与えられたモデルが複雑だった場合に有効な(というか唯一使える)推定方法。 以下に理論的な話を書いていくけれども、ひょっとしたら、昨日の推定量の話は(最尤推定だけを語る上…
本の紹介 現代数理統計学 (創文社現代経済学選書)作者: 竹村彰通出版社/メーカー: 創文社発売日: 1991/12メディア: 単行本購入: 2人 クリック: 26回この商品を含むブログ (21件) を見る の統計量や十分統計量に関するところを荒く紹介*1。 最も実用的な推定…
本の紹介 統計学関連での本は日本語の本よりも英語の本のほうが良いものが多い。 と言うわけで、今回は、次を紹介。 Asymptotic Statistics (Cambridge Series in Statistical and Probabilistic Mathematics)作者: A. W. van der Vaart出版社/メーカー: Cam…
本の紹介 今回参考にしているのは、コレ!と言うものはないのだけれど、 たぶん、今回の話を格式高くしたものが 情報幾何学の基礎 (数理情報科学シリーズ)作者: 藤原彰夫出版社/メーカー: 牧野書店発売日: 2015/08/07メディア: 単行本この商品を含むブログを…
本の紹介 異常検知と変化検知 (機械学習プロフェッショナルシリーズ)作者: 井手剛,杉山将出版社/メーカー: 講談社発売日: 2015/08/08メディア: 単行本(ソフトカバー)この商品を含むブログを見る の2章の補足のときに言いたかったことをつらつらと。 設定 …
第一回勉強会の補足。約束したものの中から一番簡単なものを。 本の紹介 現代数理統計学 (創文社現代経済学選書)作者: 竹村彰通出版社/メーカー: 創文社発売日: 1991/12メディア: 単行本購入: 2人 クリック: 26回この商品を含むブログ (21件) を見る のp.168…
本の紹介 今日、夕方から 異常検知と変化検知 (機械学習プロフェッショナルシリーズ)作者: 井手剛,杉山将出版社/メーカー: 講談社発売日: 2015/08/08メディア: 単行本(ソフトカバー)この商品を含むブログを見る の勉強会があるので、予習もかねて。 異常検…
texが使える?使えない? Hatena blogならtexが使えると聞いて練習中。 たとえば、 が書けるのに [tex:{ \displaystyle {\rm det}(A) = \sum{\sigma \in \mathscr{S}(N)}{\rm sgn}(\sigma) \prod_i a{i} }] が書けないのはなぜ?*1 と気になるところもありま…