혼자 공부하는 머신러닝+딥러닝 6주차

혼공단 - 혼공머신, 혼자 공부하는 머신러닝+딥러닝

각 Chapter의 '학습목표'를 바탕으로 내용을 정리했습니다.

 

#	진도	기본 미션	선택 미션
6주차 (2/5 ~ 2/12)	Chapter 07	Ch.07(07-1) 확인 문제 풀고, 풀이 과정 정리하기	Ch.07(07-2) 확인 문제 풀고, 풀이 과정 정리하기

 

 

※ 기대하지 않았는데 또 되었다!! 우수 혼공족! 😄
  족장님, 감사합니다. 지난번 50% 완주도 아직 못 바꿔 먹었는데.. 이디야와 메가가 함께 있는 건물을 찾아 동시에 해치울 계획입니다.

 

 

□ Chapter 07

딥러닝의 핵심 알고리즘인 인공 신경망을 이해

 - 인공 신경망: 생물학적 뉴런에서 영감을 받아 만든 머신러닝 알고리즘

   . 딥러닝이라고도 불리며, 기존 머신러닝으로 다루기 어려웠던 이미지, 음성, 텍스트 분야에서 뛰어난 성능을 발휘

   . 다양한 층으로 구성된 인공 신경망 모델은 복잡한 데이터를 학습하고 예측 가능

 - 밀집층: 인공 신경망의 여러 종류의 층 중에서 가장 간단한 층

   . 뉴런들이 모두 연결되어 있기 때문에 완전 연결 층이라고도 부름

   . 출력층에 밀집층을 사용할 때는 분류하려는 클래스와 동일한 개수의 뉴런을 사용

- 심층 신경망: 2개 이상의 층을 포함한 신경망 (다층 인공 신경망, 심층 신경망, 딥러닝을 같은 의미로 사용하기도 함)

   . 렐루 함수: 이미지 분류 모델의 은닉층에 많이 사용하는 활성화 함수

     ※ 시그모이드 함수는 층이 많을수록 활성화 함수의 양쪽 끝에서 변화가 작기 때문에 학습이 어려워짐

       → 렐루 함수는 이런 문제가 없으며 계산도 간단
   . 옵티마이저: 신경망의 가중치와 절편을 학습하기 위한 알고리즘 또는 방법

대표적인 인공 신경망 라이브러리인 텐서플로와 케라스를 이해

 - 텐서플로: 구글이 만든 인기있는 딥러닝 라이브러리

   . CPU와 GPU를 사용해 인공 신경망 모델을 효율적으로 훈련하며 모델 구축과 서비스에 필요한 다양한 도구를 제공

 - 케라스: 텐서플로 2.0부터는 신경망 모델을 빠르게 구성할 수 있는 케라스를 핵심 API로 채택

   . 이를 사용하면 간단한 모델에서 아주 복잡한 모델까지 손쉽게 생성 가능

   . 케라스에는 다양한 경사 하강법 알고리즘이 구현되어 있음

     → 대표적으로는 SGD, 네스테로프 모멘텀, RMSprop, Adam 등 존재

인공 신경망 모델의 훈련을 돕는 도구를 이해

 - 원-핫 인코딩: 정숫값을 배열에서 해당 정수 위치의 원소만 1이고 나머지는 모두 0으로 변환

   . 다중 분류에서 출력층에서 만든 확률과 크로스 엔트로피 손실을 계산하기 위한 목적

   . 텐서플로에서는 'sparse_categorical_entropy'손실을 지정하여 생략 가능

 - 드롭아웃: 은닉층에 있는 뉴런의 출력을 랜덤하게 꺼서 과대적합을 막는 기법

   . 훈련 중에 적용되며 평가나 예측에서는 미적용 (텐서플로에서는 자동으로 처리)
 - 콜백: 케라스 모델을 훈련하는 도중에 어떤 작업을 수행할 수 있도록 도와주는 도구

   . 최상의 모델을 자동으로 저장해 주거나 검증 점수가 더 이상 향상되지 않을때 조기 종료 등

 - 조기 종료: 검증 점수가 더 이상 감소하지 않고 상승하여 과대적합이 일어나면, 훈련을 계속 진행하지 않고 멈추는 기법

   . 계산 비용과 시간 절약의 목적

 

 

■ 기본 미션

Ch.07(07-1) 확인 문제 풀고, 풀이 과정 정리하기

 

 

■ 선택 미션

Ch.07(07-2) 확인 문제 풀고, 풀이 과정 정리하기

 

 

■ 추가 미션

 - 07-3 신경망 모델 훈련을 실습하며, 손실 곡선과 검증 손실 및 드롭아웃 그리고 모델의 저장과 복원에 대해 실습한 내용을 살펴보려면, 아래 링크를 통해 이동하세요.

https://colab.research.google.com/drive/13PuoM3vIesgtuYVXE7LGJ3OJEs2eUVnY?usp=sharing