Data Jungler

經過一學期的折磨，筆者終於挨過去了，直到現在才有空寫文。今次的主題是一個非常入門也是很重要的，那就是Clustering！ Clustering (聚集) 一般用作把相似的事物，都把它圈起來，至於多少個群組才是最好，留在之後討論吧。在香港有一句押韻冷笑話：痴痴呆呆；坐埋一枱。愈痴呆愈容易會被圈起來。在介紹當中的算法設計，我們先反思為什麼Clustering的出現是那麼重要呢？ 首先，Clustering這個算法是非監督式的(Unsupervised)，這意味著它不會透過已知的答案去訓練自己，反過來是根據數據本身的特質去計算相似度，然後把集群圈出來。舉例來說，對於我們人腦要分辦男女是一件如意反掌的事，但對機器並不是，Clustering在訓練過程不會因為知道男女，只會把相似的特質的人圈起來，當然，我們要教會機器利用適合的特質，例如：身高，頭髮長度等特徵，來進行聚集，否則永遠結果都不似預期的。來到這裡，有讀者可能會反思一下，竟然我們都已經能輕易分辦男女，早已知道答案是什麼，為何不直接不用監督式的算法呢？因此，認請楚自己的想達到的目標和了解算法背後的設計的原意，無論在數據分析或者機器學習均是極為重要的第一步！來總結一下，Clustering可在人們心中沒有答案的前提下，圈出群組來作分類。另外， 請記僅用作分類的算法，不一定是監督式的 。 在數學上，一般會用距離來量化相似度，這是最直觀和容易解稱的。而距離的計算方法，也有很多不同樣式，而最常用的是Euclidean Distance：$\sqrt{\sum_{i=1}^n (x_i - y_i)^2}$，假設$x$和$y$這兩點都依付在一個笛卡爾坐標平面上，即是$n=2$，用以前中學學習的距離分式就是：$\sqrt{\sum_{i=1}^2 (x_i - y_i)^2}$，你會發現兩點之間的最短離正正是Euclidean Distance。假設痴呆程度是由兩個特徵：行為和心理(5分為滿分 ，代表最痴呆)這兩個因素組成的，現在有一對痴呆和正常的朋友，他們的距離等於$\sqrt{(5-0)^2+(5-0)^2}=5$，如果兩個都是痴呆的話，距離就變短了：$\sqrt{(5-5)^2+(5-5)^2}=0$。所以距離愈少的，暗示了兩者相似度十分的高。 當明白了距離的藝術之後，要理解Clustering這算法的設...