亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

kNN算法python實現和簡單數字識別的方法

系統 1654 0

本文實例講述了kNN算法python實現和簡單數字識別的方法。分享給大家供大家參考。具體如下:

kNN算法算法優缺點:

優點:精度高、對異常值不敏感、無輸入數據假定
缺點:時間復雜度和空間復雜度都很高
適用數據范圍:數值型和標稱型

算法的思路:

KNN算法(全稱K最近鄰算法),算法的思想很簡單,簡單的說就是物以類聚,也就是說我們從一堆已知的訓練集中找出k個與目標最靠近的,然后看他們中最多的分類是哪個,就以這個為依據分類。

函數解析:

庫函數:

tile()
如tile(A,n)就是將A重復n次

復制代碼 代碼如下:
a = np.array([0, 1, 2])
np.tile(a, 2)
array([0, 1, 2, 0, 1, 2])
np.tile(a, (2, 2))
array([[0, 1, 2, 0, 1, 2],[0, 1, 2, 0, 1, 2]])
np.tile(a, (2, 1, 2))
array([[[0, 1, 2, 0, 1, 2]],[[0, 1, 2, 0, 1, 2]]])
b = np.array([[1, 2], [3, 4]])
np.tile(b, 2)
array([[1, 2, 1, 2],[3, 4, 3, 4]])
np.tile(b, (2, 1))
array([[1, 2],[3, 4],[1, 2],[3, 4]])`

自己實現的函數

createDataSet()生成測試數組
kNNclassify(inputX, dataSet, labels, k)分類函數

inputX 輸入的參數
dataSet 訓練集
labels 訓練集的標號
k 最近鄰的數目

復制代碼 代碼如下:

#coding=utf-8
from numpy import *
import operator

def createDataSet():
??? group = array([[1.0, 0.9], [1.0, 1.0], [0.1, 0.2], [0.0, 0.1]])
??? labels = ['A','A','B','B']
??? return group,labels
#inputX表示輸入向量(也就是我們要判斷它屬于哪一類的)
#dataSet表示訓練樣本
#label表示訓練樣本的標簽
#k是最近鄰的參數,選最近k個
def kNNclassify(inputX, dataSet, labels, k):
??? dataSetSize = dataSet.shape[0]#計算有幾個訓練數據
??? #開始計算歐幾里得距離
??? diffMat = tile(inputX, (dataSetSize,1)) - dataSet
???
??? sqDiffMat = diffMat ** 2
??? sqDistances = sqDiffMat.sum(axis=1)#矩陣每一行向量相加
??? distances = sqDistances ** 0.5
??? #歐幾里得距離計算完畢
??? sortedDistance = distances.argsort()
??? classCount = {}
??? for i in xrange(k):
??????? voteLabel = labels[sortedDistance[i]]
??????? classCount[voteLabel] = classCount.get(voteLabel,0) + 1
??? res = max(classCount)
??? return res

def main():
??? group,labels = createDataSet()
??? t = kNNclassify([0,0],group,labels,3)
??? print t
???
if __name__=='__main__':
??? main()

kNN應用實例

手寫識別系統的實現

數據集:

兩個數據集:training和test。分類的標號在文件名中。像素32*32的。數據大概這個樣子:

kNN算法python實現和簡單數字識別的方法_第1張圖片

kNN算法python實現和簡單數字識別的方法_第2張圖片

方法:

kNN的使用,不過這個距離算起來比較復雜(1024個特征),主要是要處理如何讀取數據這個問題的,比較方面直接調用就可以了。

速度:

速度還是比較慢的,這里數據集是:training 2000+,test 900+(i5的CPU)

k=3的時候要32s+

復制代碼 代碼如下:

#coding=utf-8
from numpy import *
import operator
import os
import time

def createDataSet():
??? group = array([[1.0, 0.9], [1.0, 1.0], [0.1, 0.2], [0.0, 0.1]])
??? labels = ['A','A','B','B']
??? return group,labels
#inputX表示輸入向量(也就是我們要判斷它屬于哪一類的)
#dataSet表示訓練樣本
#label表示訓練樣本的標簽
#k是最近鄰的參數,選最近k個
def kNNclassify(inputX, dataSet, labels, k):
??? dataSetSize = dataSet.shape[0]#計算有幾個訓練數據
??? #開始計算歐幾里得距離
??? diffMat = tile(inputX, (dataSetSize,1)) - dataSet
??? #diffMat = inputX.repeat(dataSetSize, aixs=1) - dataSet
??? sqDiffMat = diffMat ** 2
??? sqDistances = sqDiffMat.sum(axis=1)#矩陣每一行向量相加
??? distances = sqDistances ** 0.5
??? #歐幾里得距離計算完畢
??? sortedDistance = distances.argsort()
??? classCount = {}
??? for i in xrange(k):
??????? voteLabel = labels[sortedDistance[i]]
??????? classCount[voteLabel] = classCount.get(voteLabel,0) + 1
??? res = max(classCount)
??? return res

def img2vec(filename):
??? returnVec = zeros((1,1024))
??? fr = open(filename)
??? for i in range(32):
??????? lineStr = fr.readline()
??????? for j in range(32):
??????????? returnVec[0,32*i+j] = int(lineStr[j])
??? return returnVec
???
def handwritingClassTest(trainingFloder,testFloder,K):
??? hwLabels = []
??? trainingFileList = os.listdir(trainingFloder)
??? m = len(trainingFileList)
??? trainingMat = zeros((m,1024))
??? for i in range(m):
??????? fileName = trainingFileList[i]
??????? fileStr = fileName.split('.')[0]
??????? classNumStr = int(fileStr.split('_')[0])
??????? hwLabels.append(classNumStr)
??????? trainingMat[i,:] = img2vec(trainingFloder+'/'+fileName)
??? testFileList = os.listdir(testFloder)
??? errorCount = 0.0
??? mTest = len(testFileList)
??? for i in range(mTest):
??????? fileName = testFileList[i]
??????? fileStr = fileName.split('.')[0]
??????? classNumStr = int(fileStr.split('_')[0])
??????? vectorUnderTest = img2vec(testFloder+'/'+fileName)
??????? classifierResult = kNNclassify(vectorUnderTest, trainingMat, hwLabels, K)
??????? #print classifierResult,' ',classNumStr
??????? if classifierResult != classNumStr:
??????????? errorCount +=1
??? print 'tatal error ',errorCount
??? print 'error rate',errorCount/mTest
???????
def main():
??? t1 = time.clock()
??? handwritingClassTest('trainingDigits','testDigits',3)
??? t2 = time.clock()
??? print 'execute ',t2-t1
if __name__=='__main__':
??? main()

希望本文所述對大家的Python程序設計有所幫助。


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 久久精品男人的天堂 | 国产在线日韩 | 久久久精品久久 | 国产一区二区三区免费视频 | 久久综合久久自在自线精品自 | 性猛交毛片 | 深夜福利免费观看 | 亚洲成人精品 | 五月天激情视频在线观看 | 人人爰人人人人人鲁 | 天天干天天操天天透 | 亚洲国产精品看片在线观看 | 久久频这里精品香蕉久久 | 国产伦一区二区三区四区久久 | 99在线热视频只有精品免费 | 五月婷婷狠狠干 | 四虎影院永久在线观看 | 四虎最新紧急入口 | 亚洲免费在线 | 久久国产精品99久久久久久牛牛 | 91精选视频 | 日本一本不卡 | 国外成人免费视频 | 国产三级久久久精品三级 | 四虎永久在线日韩精品观看 | 亚洲成在人线久久综合 | 久久久久伊人 | 四虎一级片 | 四小虎免费永久观看 | 国产精品亚洲欧美大片在线看 | 日本一区二区成人教育 | 午夜情趣视频 | 国产精品色 | 视频一区国产精品 | 网友自拍视频悠悠在线 | 欧美视频一区二区三区 | 国产精品亚洲综合一区 | 日韩精品久久久毛片一区二区 | 欧美图片一区 | 色综合视频 | 99精品视频99 |