[CS231n] lecture 1. KNN 강의 요약

 포스팅을 시작하기에 앞서 수준 높은 강의와 강의 자료를 무료로 배포해주신 Stanford University CS231n 교수진께 감사의 말씀을 드립니다.

온라인 강의: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk

강의 자료: https://cs231n.github.io


Image Classification(이미지 분류)

 Image Classification은 컴퓨터를 통해 이미지를 분류하는 작업입니다. 최근에는 AI를 통해 간단한 사진 분류는 인간보다 높은 정확도를 보이고 있으며 Stanford의 Fei-Fei Li 교수님께서는 이미지를 통해 이미지에서 어떠한 일이 일어나고 있는지 설명하는 단계까지 연구가 이루어지고 있습니다. 
ex. 잔디밭 위 파란색 반바지와 하얀색 티셔츠를 입은 남성이 손으로 자신의 발을 잡은 채 몸을 스트레칭 하고 있습니다. 그의 앞에는 축구공이 있으며 배경으로 검은 옷을 입은 또 다른 사람이 잔디 위에 누워있습니다 등.



사진 출처: https://pixnio.com/ko/media/ko-2267795

 Nearest Neighbor

 그렇다면 컴퓨터를 통해 어떻게 이미지를 분류할까요? 사람의 눈으로 보기에 이미지를 분류하고 해석하는 것은 매우 쉬워 보이지만 눈을 가지고 있지 않은 컴퓨터에게 이 작업은 매우 어려워 보입니다. AI에 관하여 사전 지식이 없으시다면 대개 함수를 통해 주어진 이미지를 분류하고 해석하려고 시도하실 것입니다. 하지만 이 시도는 여러분이 생각하는 것처럼 어떠한 함수를 어떻게 생성해야 하며 설사 함수를 작성해도 변형된 사진 등에 잘 적용될지 의문이 듭니다. 이러한 패러다임을 깬 방법이 Data-driven approach로 수많은 이미지 데이터를 통해
새로운 이미지를 추측하는 방법입니다. 그렇다면 어떻게 수많은 이미지로 새로운 이미지의 label을 추측할까요? 가장 간단한 방법은 컴퓨터가 보는 방법, 픽셀을 서로 비교하는 방법입니다. 즉, 각각의 픽셀에서 비슷한 값을 가지면 두 사진은 동일한 label을 가지는 것으로 생각할 수 있습니다.                

ex. 서로의 픽셀을 비교하는 것 만으로도 컴퓨터는 두 사진을 동일한 label인 해변으로 분류 지을 확률이 높을 것으로 기대됩니다.

L1 Distance

픽셀을 비교하는 가장 간단한 방법으로는 두 픽셀의 절대값을 비교하는 방법이 있습니다. 

dists[i][:]= np.sum(np.abs(self.Xtr-X[i,:]),axis=1)  (self.Xtr: training image, X: test image)

위의 코드가 L1 distance를 이용하여 Train Image와 Test Iamge의 픽셀을 비교한 코드입니다.

  보시면 행 별로 L1 distance를 적용하였는데 이는 계산의 편의성을 위해 np.reshape() 함수를 통해 하나의 이미지 데이터를 하나의 행으로 폈기 때문입니다. 즉 i번째 행은 i번째 image의 모든 pixel과 color데이터를 포함합니다.

L2 Distance


L2 distance는 절대값 대신 두 차이를 제곱하여 루트를 취한 값입니다. 
코드는 다음과 같습니다.

dists[i][:]= np.sqrt(np.sum(np.square(X[i][:]-X_train),axis=1)

K-Nearest Neighbor Classifier(KNN)

위의 방법대로 픽셀간 비교를 통해 Test Image를 예측하는 방법은 예상하듯이 그리 좋은 효율을 보여주지 않습니다. (강의 노트에 따르면 CIFAR-10의 경우 35.4%의 정확도를 보여주네요.) 
따라서 NN Classifier를 적용하여 가장 차이를 적게 보이는 사진 한 장만을 토대로 결과를 예측할 때 매우 불안정한 결과를 도출할 것입니다. 이를 해결하기 위해 K개의 후보군을 통해 가장 많이 뽑혀진 label를 결과값으로 도출하는 것이 확률적으로 더 좋은 정확도를 보일 것으로 기대됩니다.

Validation

그렇다면 후보군(k)을 어느정도로 설정하는 것이 알고리즘의 정확도를 극대화할 수 있을까요? 아쉽게도 이를 알 수 있는 방법은 직접 Training image를 통해 예측하는 방법밖에 없습니다. 
(* Test Image의 경우 실제 문제에서는 Label을 모르기 때문에 Validation에 적합하지 않습니다.)




Validation의 효과를 극대화하기 위해 Training data를 n개로 나누어 Validation을 위한 set와 새로운 Training data를 위한 set를 구별 짓습니다. 이를 임의의 k에 대해 KNN을 수행하면 정확도의 평균과 표준편차를 구할 수 있습니다.  

결론

* 데이터 전처리: 픽셀, color 데이터를 행으로 나열

* KNN 알고리즘
    Class Nearest Neighbor(object)
    
    def train()
    - test image의 pixel 정보와 label 저장

    def predict(k=k)
    - L1 or L2 distance를 이용하여 가장 적은 차이를 보내는 이미지의 label k개 오름차순으로 저장. 가장 많은 개수를 가지는 label return
 
* Cross Validation
    - 최적의 정확도를 가지는 변수 k 도출 

* 실제 데이터 예측


위치: 대한민국

이 블로그의 인기 게시물

[CS231n] Features 과제(Assignment)

이미지
포스팅을 시작하기에 앞서 수준 높은 강의와 강의 자료를 무료로 배포해주신 Stanford University CS231n 교수진께 감사의 말씀을 드립니다.  온라인 강의: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk  강의 자료: https://cs231n.github.io   * 블로그 작성자 github 주소: https://github.com/withAnewWorld/JamesHanamura 서론 이전까지의 과제에서 Image data로 모두 RGB 데이터를 이용했습니다. 하지만 사진 이미지를 분류할 때에 RGB 데이터뿐 아니라 Image의 edge, texture 등 다양한 정보를 이용할수록 컴퓨터가 더 잘 학습을 할 것이라고 기대할 수 있습니다.  Assignment 구조 작성되어 있는 부분(파란색), 과제로 주어진 부분(빨간색)     - Load data     - PreProcessing(Extract Features)     - linear classifier(svm)          - Cross Validation          - Test image 예측     - Two Layer Network           - Cross Validation          - Test image 예측 Linear Classifier(svm) 기존 과제들과 같이 Cross Validation을 통해 가장 좋은 예측을 보일 것으로 기대되는 hyper parameters를 선택해 주시면 됩니다. 이 때 random.uniform 함수와 반복문...
자세한 내용 보기

[minGPT]play_image 설명

이미지
play_image Train GPT on images ¶ Effectively re-implements OpenAI's Image GPT model, getting GPT to model images instead of text, but using a near identical model. It's truly quite remarkable that a single model can agnostically do a great job modeling whatever data you give it: text, images, or whatever else. At the end of the day it is just a sequence of integers. Notice that unlike models like PixelCNN++ etc, this model knows nothing at all about the spatial layout of the pixels and has to learn the appropriate positional embeddings that reflect the spatial topology of the data. github: https://github.com/karpathy/minGPT minGPT 코드 이해를 돕기 위한 노트북. attention 설명 생략 전체 코드 및 참고 자료는 Andrej karpathy github 참고 바람 play_image 목적 image 데이터를 학습하여 새로운 image 생성 -> how?: image 데이터도 결국 숫자로 이루어진 데이터에 불과. 이를 sequential data로 변환하여 transformer 모델에 적용. (즉, 다음에 나올 pixel value 예측) image 변환(sequential data) -> Model -> image 예측(se...
자세한 내용 보기

[CS231n] lecture 4. backpropagation 강의 요약

이미지
포스팅을 시작하기에 앞서 수준 높은 강의와 강의 자료를 무료로 배포해주신 Stanford University CS231n 교수진께 감사의 말씀을 드립니다.  온라인 강의: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk  강의 자료: https://cs231n.github.io 1. 필요성     Deep learning의 경우 layer의 개수가 많아짐에 따라 자연스레 loss function은 매우 복잡한 형태를 띠게 된다. 따라서 이를 변수에 따라 편미분 하기 매우 어려워진다. 2. Idea     Chain rule에 따라 복잡한 문제를 쉬운 문제의 집합체로 생각한다. 3. 예시 새로운 노드의 gradient = 이전 노드의 gradient*새로운 노드의 미분 값 (value = result) 4. 특성(Add, Multiplication, Max)      뉴럴 네트워크의 특성 상 add 연산과 mul 연산, max 연산이 자주 쓰인다. ex) max(0, wx+b)    1. Add gate Add gate는 이전의 gradient를 공평하게 나눠주는 역할을 한다. 즉, 해당 노드의 gradient = 이전노드의 gradient (${d(x+y) \over dx}={d(x+y) \over dy}=1$)     2. Multiplication gate 해당 노드의 gradient = 이전 노드의 gradient*상대 value (${d(x*y) \over dx}$ = y, ${d(x*y) \over dy}$= $x$)     3. Max gate Max gate는 Add gate와 비슷하게 이전 노드의 gradient를 그대로 끌고 온다는 점이 비슷하지만 가장 큰 value를 가졌던 노드에만 gradient가 할...
자세한 내용 보기