<h2>Overview</h2>
<p>t分布型確率的近傍埋め込み法(T-distributed Stochastic Neighbor Embedding, t-SNE）は、Laurens van der Maatenとジェフリー・ヒントンにより開発された可視化のための機械学習アルゴリズムである。[1] これは、高次元データの可視化のため2次元または3次元の低次元空間へ埋め込みに最適な非線形次元削減手法である。具体的には、高次元のデータ集合を2次元または3次元へ配置する際に、高い確率で類似した集合が近傍に、異なる集合が遠方となるように対応付ける。</p>
<p>t分布型確率的近傍埋め込み法のアルゴリズムは主に２つの段階で構成される。 第一に、高次元データの各対について類似する集合が選択される可能性が高く、一方で異なる集合が選択される可能性が極めて小さくなるように確率分布を構築する。第二に、低次元マップ上の集合について同様な確率分布を定義し、2つの分布間のカルバック・ライブラー情報量を最小化する低次元マップ内の点の位置を求める。元のアルゴリズムは二点の類似度の指標にユークリッド距離を使用しているが、これは必要に応じ適切に変更する必要がある。</p>
<p>t 分布型確率的近傍埋め込みは、コンピュータセキュリティ研究[2]、音楽分析[3]、癌研究,[4]、バイオインフォマティクス[5]、および生物医学信号処理[6]を含む、幅広い応用の可視化に利用されている。人工ニューラルネットワークによって学習された高レベルの表現の可視化にもよく使用される。[7]</p>
<p>多くの場合、t分布型確率的近傍埋め込み法で表示された図ではクラスターが見えるが、可視化されたクラスターは選択したパラメータにより強く影響される可能性があるため、t分布型確率的近傍埋め込み法のパラメータをよく理解することが必要である。 そのような「クラスター」は、非クラスターのデータにも現れることがあり[8]、したがって誤った発見かもしれない。したがって、パラメータを選択して結果を検証を繰り返す探索が必要となる可能性がある。[9][10] t 分布型確率的近傍埋め込みはよく分離されたクラスターを復元できることが多く、特別なパラメーターを選択により単純な形のスペクトルクラスター形状を近似することが実証されている。[11]</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


t-SNE

<h2>Overview</h2>
<p>ランダムフォレスト（英: random forest, randomized trees）は、2001年に Leo Breiman によって提案された[1]機械学習のアルゴリズムであり、分類、回帰、クラスタリングに用いられる。決定木を弱学習器とするアンサンブル学習アルゴリズムであり、この名称は、ランダムサンプリングされたトレーニングデータによって学習した多数の決定木を使用することによる。ランダムフォレストをさらに多層にしたアルゴリズムにディープ・フォレストがある。対象によっては、同じくアンサンブル学習を用いるブースティングよりも有効とされる。</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


Random Forest

<h2>Overview</h2>
<p>ニューラルネットワークはシナプスの結合によりネットワークを形成した人工ニューロン（ノード）が、学習によってシナプスの結合強度を変化させ、問題解決能力を持つようなモデル全般を指す。狭義には誤差逆伝播法を用いた多層パーセプトロンを指す場合もある。一般的なニューラルネットワークでの人工ニューロンは生体のニューロンの動作を極めて簡易化したものを利用する。</p>
<p>ニューラルネットワークは、教師信号（正解）の入力によって問題に最適化されていく教師あり学習と、教師信号を必要としない教師なし学習に分けられることがあるが、本質的には教師なし学習と教師あり学習は等価である。三層以上のニューラルネットワークは可微分で連続な任意関数を近似できることが証明されている。</p>
<p>画像や統計など多次元量のデータで線形分離不可能な問題に対して、比較的小さい計算量で良好な解を得られることが多い。 現在では、画像認識、市場における顧客データに基づく購入物の類推などとして応用されている(パターン認識、データマイニング)。</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


Logistic regression

<h2>Overview</h2>
<p>k近傍法は、ほぼあらゆる機械学習アルゴリズムの中で最も単純である。あるオブジェクトの分類は、その近傍のオブジェクト群の投票によって決定される（すなわち、k 個の最近傍のオブジェクト群で最も一般的なクラスをそのオブジェクトに割り当てる）。k は正の整数で、一般に小さい。k = 1 なら、最近傍のオブジェクトと同じクラスに分類されるだけである。二項分類の場合、k を奇数にすると同票数で分類できなくなる問題を避けることができる。同じ手法は回帰分析に使われる。この場合、オブジェクトの属性値を k 個の最近傍のオブジェクト群の属性値の平均値とする。より近いオブジェクトに大きく重み付けすることもできる。近傍のオブジェクトは、正しい分類が判っているもの（あるいは回帰分析の場合、属性値が判っているもの）から選ばれる。これをアルゴリズムの訓練例と考えることもできるが、明確な訓練段階は不要である。近傍を選ぶにあたって、各オブジェクトは多次元の特徴空間における位置ベクトルで表される。通常、ユークリッド距離を使うが、マンハッタン距離などの他の距離も原理的には使うことができる。k近傍法は、データの局所的構造に左右されやすい。</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


<h2>Overview</h2>
<p>ロジスティック回帰（ロジスティックかいき、英: Logistic regression）は、ベルヌーイ分布に従う変数の統計的回帰モデルの一種である。連結関数としてロジットを使用する一般化線形モデル (GLM) の一種でもある。1958年にデイヴィッド・コックス（英語版）が発表した[1]。確率の回帰であり、統計学の分類に主に使われる。医学や社会科学でもよく使われる[要出典]。</p>
<p>モデルは同じく1958年に発表された単純パーセプトロンと等価であるが、scikit-learnなどでは、パラメータを決める最適化問題で確率的勾配降下法を使用する物をパーセプトロンと呼び、座標降下法や準ニュートン法などを使用する物をロジスティック回帰と呼んでいる。</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


k-means

<h2>Overview</h2>
<p>サポートベクターマシン（英: support vector machine, SVM）は、教師あり学習を用いるパターン認識モデルの一つである。分類や回帰へ適用できる。1963年に Vladimir N. Vapnik, Alexey Ya. Chervonenkis が線形サポートベクターマシンを発表し[1]、1992年に Bernhard E. Boser, Isabelle M. Guyon, Vladimir N. Vapnik が非線形へと拡張した。サポートベクターマシンは、現在知られている手法の中でも認識性能が優れた学習モデルの一つである。サポートベクターマシンが優れた認識性能を発揮することができる理由は、未学習データに対して高い識別性能を得るための工夫があるためである。</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


Support Vector Machine

<h2>Overview</h2>
<p>線形回帰（せんけいかいき、英: linear regression）とは、統計学における回帰分析の一種である。線形回帰は非線形回帰と対比される。</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


Linear Regression

<h2>Overview</h2>
<p>統計学では、混合モデルは観察されたデータ集合が個々のオブザベーションが属する部分集団を識別すべきであることを要求せずに、全体の母集団内の部分集団の存在を表現するための確率モデルである。形式的には、混合モデルは、全体の母集団内のオブザベーションの確率分布を表す混合分布に対応する。しかし、「混合分布」に関連する問題は、全体の母集団の特性を部分集団の特性から導出することに関連しているが、「混合モデル」は、部分集団の識別情報なしで、プールされた母集団上のオブザベーションだけを与えられた部分集団の特性について統計的推論を行うために使用される。</p>
<p>混合モデルは、組成データのモデル、すなわち、成分が一定値（1、100％など）に和するように制約されているデータのモデルと混同してはならない。しかし、組成モデルは、母集団のメンバーがランダムにサンプリングされる混合モデルと考えることができ、逆に混合モデルは、全サイズ読取母集団が1に正規化された組成モデルと考えることができる。</p>
<h2>-</h2>
<h2>Use Case</h2>
<p>comming soon...　　</p>
<h2>-</h2>
<h2>reference</h2>
<ul>
<li>wikipedia</li>
<li>「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」秋庭 伸也 (著)、 杉山 阿聖 (著), 寺田 学  (著), 加藤 公一 (監修)</li>
</ul>


Patterns of Algorithm