사이킷런 KNN모델로 데이터 분류하기

# 도미 데이터 준비

bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0,

                31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0,

                35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]

bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0,

                500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0,

                700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

# 빙어 데이터 준비

smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]

smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

 

도미 데이터와 빙어 데이터를 각각 준비한다.

해당 데이터셋은 캐글의 fish-market 데이터셋이다.

---

# 두 데이터의 산점도 그리기

import matplotlib.pyplot as plt

plt.scatter(bream_length, bream_weight)

plt.scatter(smelt_length, smelt_weight)

plt.xlabel('length')

plt.ylabel('weight')

plt.show()

두 데이터의 산점도를 그린다.

 

 

matplotlib은 산점도를 겹쳐서 그릴 수 있으며, 각 산점도의 색깔을 자동으로 구분해서 나타낸다.

---

# 사이킷런 사용을 위해 2차원 리스트 만들기

length = bream_length + smelt_length

weight = bream_weight + smelt_weight

fish_data = [[l, w] for l, w in zip(length, weight)]

# 정답 리스트 준비

# 머신러닝 이진분류에서는 찾으려는 대상을 1, 그 외에는 0으로 놓는다.

# 여기서는 도미를 1, 빙어를 0으로 놓았다.

fish_target = [1] * 35 + [0] * 14

 

KNN모델은 사이킷런의 클래스를 사용한다.

사이킷런 패키지를 사용하기 위해서는 2차원 리스트가 필요하다.

zip()함수와 리스트 컴프리센션을 사용하여 2차원 리스트를 만들고,

모델 훈련을 위해 정답 리스트도 만든다.(이진분류이므로 1과 0으로 설정)

 

---

# 사이킷런의 KNeighborsClassifier 클래스의 '객체 만들기 - 훈련하기 - 모델 평가하기'

from sklearn.neighbors import KNeighborsClassifier

kn = KNeighborsClassifier()

kn.fit(fish_data, fish_target)

score = f'KNN 모델(kn) 정확도: {kn.score(fish_data, fish_target)}'

print(score)

 

사이킷런의 KNeighborsClassifier 클래스의 객체를 만들고,

도미(숫자 1로 설정)를 찾기 위한 기준을 fit()함수를 통해 학습시킨다.

score()함수로 모델의 정확도(accuracy)를 확인한다.

kn모델은 정확도가 1.0이 나온다.

(사이킷런에서는 정확도가 0~1 사이 값이 출력됨)

 

---

# 만들어진 모델로 새로운 데이터 예측하기

predict = kn.predict([[30, 600]])

print(predict)

 

길이 30, 무게 600의 새로운 생선 데이터를 추가하여 kn모델을 사용하여 분류한다.

출력값은 [1]이 나오며, 새로운 데이터는 도미임을 알 수 있다.

 

---

# 참고 데이터를 49개로 한 kn49모델 만들기(기본값은 5)

# 49개의 데이터 모두를 사용하므로 어떤 데이터든 도미로 예측한다.

kn49 = KNeighborsClassifier(n_neighbors=49)

kn49.fit(fish_data, fish_target)

score49 = f'KNN 모델(kn49) 정확도: {kn49.score(fish_data, fish_target)}'

print(score49)

print(35/49) # 도미가 35개, 빙어가 14개 이므로 kn49모델의 정확도는 35/49와 같다.

 

KNN은 가까운 N개의 데이터를 참고한다.

KNeighborsClassifier 클래스의 객체가 참고하는 데이터 수의 기본값은 5이다.

'n_neighbors='로 참고 데이터 수를 변경해볼 수 있다.

'n_neighbors=49'로 설정할 경우, 모든 데이터를 참고로 하여

전체 데이터 49개 중 도미만 정확하게 맞히기 때문에 '35/49'와 같은 값을 얻게 된다.