본문 바로가기

Study

'머신 러닝 프로젝트 구조화' 강좌 - 2주차(3) 정리

'머신 러닝 프로젝트 구조화' 강좌 - 종단 간 딥 러닝 - 2주 차 정리

  • Andrew Ng 강사님의 머신 러닝 프로젝트 구조화 [2주 차] 다중 작업을 통한 학습 강좌를 보고 정리한 내용
  • [K-MOOC x COURSERA] 구독권을 통해 강좌를 수강함

교육 기관 : https://www.deeplearning.ai/


2주 차(1) 강좌 후기

접근성이 높은 이미지 인식 딥러닝 프로젝트를 할 때마다 보인 논문들에 적힌 end to end에 대해 궁금했는데 강좌를 통해 알 수 있었지만 아직 이해를 잘 못해서 정리 내용도 많이 부족하다.


1. 종단 간 딥 러닝 정의

엔드 투 엔드 러닝은 무엇인가?
  • 여러 단계를 처리하는 데이터 프로세싱 시스템이나 학습 시스템이 있는데 엔드 투 엔드 딥러닝이 하는 일은 이런 여러 단계를 거치는 것들을 수행하고 하나의 신경 네트워크로 변환하는 것
음성인식 예시
  • 오디오 클립을 입력 X로 가져와서 출력 Y에 매핑하면 오디오 클립이 글로 옮겨지게 되는 것
  • 그래서 전통적으로 음성인식은 많은 단계를 필요로 했다
  • 몇 가지 몇 가지 특징을 추출하고 몇 가지 오디오의 핸드 디자인 특징을 추출한다
  • 예를 들면 ‘캣’은 세 가지 소리로 구성되어 있음 ㅋ/ ㅐ/ㅌ 으로 추출할 수 있음
  • 그리고 개별적인 단어를 만들기 위해 음성들을 결합시키며, 음절을 묶어서 오디오 클립의 문자 형태로 만듦
  • 여러 단계로 이루어진 파이프 라인과는 대조적으로 엔드 투 엔드 러닝이 하는 일은
  • 거대한 신경 네트워크를 훈련시켜 오디오 클립에 입력하고 그것이 직접 문자로 출력하도록 하는 것
  • 즉, 엔드 투 엔드 딥러닝이 마지막 훈련 세트와 직접 x와 y의 함수 매핑을 학습하면 많은 중간 단계를 우회하는 것

2. 종다간 딥러닝 사용 여부

엔드 투 엔드 장점

첫 번쨰

  • 완벽한 학습을 통해 데이터가 말을 할 수 있도록 하는 것임
  • 충분한 X, Y데이터를 가지고 있다면, X에서 Y에 이르기까지 가장 적절한 기능 지도를 만들어 낼 것

두 번째

  • 구성품의 수동 설계가 더 적다는 것
  • 이렇게 하면 설계 작업 흐름을 단순화할 수 있음
엔드 투 엔드 단점
  • 데이터가 많이 필요할 수 있음
  • 유용하게 설계된 수동 구성품을 배제한다는 점

2주 차 평가 시험