k-NN은 어떠한 패턴도 학습할 수 있을까?k-NN 알고리즘의 놀라운 특성 중 하나는 보편 근사 능력(Universal Approximation)입니다. 쉽게 말해, 충분한 예시 데이터만 있다면 k-NN은 이론적으로 어떤 복잡한 패턴도 학습할 수 있습니다.이것은 마치 여러분이 지도에서 모든 장소의 날씨를 알고 있다면, 새로운 장소의 날씨도 주변 장소들의 날씨를 보고 꽤 정확하게 예측할 수 있는 것과 비슷합니다.하지만 여기서 중요한 문제가 생깁니다. 지구 표면의 모든 장소에 대한 날씨 정보를 수집하는 것은 불가능하죠. 마찬가지로 고차원 데이터(예: 이미지)에서는 가능한 모든 경우를 커버하는 데이터를 모으는 것이 현실적으로 불가능합니다.이것이 바로 차원의 저주(Curse of Dimensionality)라고..

k-NN이란?k-최근접 이웃(k-Nearest Neighbors)의 줄임말가장 간단한 인공지능 알고리즘 중 하나핵심 아이디어: "비슷한 것들은 비슷하게 분류한다"작동 방식'훈련 데이터'를 저장 - 훈련 데이터란 정답이 이미 정해진 예시들 - 예: 사과, 오렌지, 바나나 등의 색상, 무게, 맛새로운 문제가 생겼을 때, 그 사진을 '훈련 데이터'들과 비교 - 새로운 것이 나타나면, 기억하고 있는 모든 예시와 얼마나 다른지 계산 - 색깔 차이, 무게 차이 등을 모두 고려해서 '거리'로 표현가장 가까운 k개 이웃 찾기 - 계산한 거리가 가장 가까운(가장 비슷한) k개의 예시를 선택 - k=3이면 가장 비슷한 3개, k=5면 가장 비슷한 5개의 예시를 탐색다수결로 결정 - 찾은 k개 중에서 가장 많은 종류가 새로..