[Coursera]Neural network and deep Learning: Week1
Coursera에서 deeplearning.ai가 운영하는 ‘Neural network and deep learning[↗NW] ]‘의 1주차 강의 정리입니다.
- 동영상 목록
- Welcome: (5min)
- What is a neural network (7min)
- Surpervised Learning with neural network (8min)
- Why is deep learning taking off? (10min)
- About This Courses? (2min)
- Frequently asked questions? (10min)
Welcome(5min)
- AI is the new electircity
- 100년 전부터 전기 공급이 모든 산업계를 변화 시켰던 것 처럼, AI도 모든 산업계를 변화 시키고 있다.
- 운송, 제고, 의료, 통신 등등
- AI의 한 부분이 Deep Learning이다.
Specialization Courses 구성
- Neural network and deep Learning
- 4주 과정
- 데이터를 통해서 학습하는 과저을 소개
- 최종 목표: 고양이 인식기 개발, 네트워크 개발
- Improving Deep Learning Network: Hyperparameter tuning, Regularization and Optimization
- 3주 과정
- 직접 만든 네트워크의 동작 방식 소개
- 파이퍼파라미터 튜닝, 정향화,
- Structuring your machine learning project
- 머신러닝 시스템 구축 전략
- 학습 데이터와 테스트 데이터를 구성하는 방법
- End-to-End Deep Learning 소개
- Andrew NG의 경험 소개
- Convolutional Neural Networks
- CNN
- 이미지를 주제로 함
- Natural Language Processing: Building Sequence Model
- Sequence Model
- 자연어 처리
- RNN(재귀 뉴럴 네트워크), LSTM model
What is a neural network (7min)
- Deep Learning: 신경망 학습
- 신경망이란?
- neuron이 입력을 받고 일차 함수를 만드는 것
그림 1: 머신러닝과 신경망
그림 2: 뉴런의 결합, 신경망
그림 3: 주택 가격 예측 개념
그림 4: 주택 가격 예측 모델
Surpervised Learning with Neural Networks(8min)
- 현재 딥러닝의 경제적 가치는 지도학습에서 발생
| 입력(x) | 출력(y) | 애플리케이션 | DL 타입 |
|---|---|---|---|
| 주택 특성(features) | 가격 | 부동산 | Standard NN(Neural Network) |
| 광고, 사용자 정보 | True/False | 온라인 광고 | Standard NN |
| 이미지 | 객체(1..10000) | 사진 테깅 | CNN |
| 음성 | 텍스트 스크립트 | 음성 인식 | RNN |
| 영어 | 한국어 | 기계 번역 | RNN |
| 이미지, 레이저 정보 | 다른 자동차 위치 | 자율주행 자동차 | CNN 혹은 Hybrid NN |
- 인공지능이 모든것을 해결하는 것은 아니다.
- 특정 문제에 머신러닝을 적용하여 가치 향상.
대표적인 Neural Network
- Standard NN
- Convolutional NN: 이미지 처리
- Recurrent NN: 시간적인 요소를 담는 데이터
그림 5: 대표적인 신경망 모델
지도학습의 데이터
- Structured Data
- 관계형 데이터
- 여러 컬으로 구성
- 각 컬럼은 명확한 의미를 갖음
- Unstructured Data
- Audio
- Image
- Text
- 현재 상태
- Unstructured 분야가 급속히 발전하고 있음
- 현재 경재적 가치는 Structured Data에서 발생
Why is Deep Learning taking off? (10min)
- 전통적인 머신러닝 기법에서
- 데이터에증가와 성능 개선은 초기에는 양의 상관관곌르 가짐
- 일정 데이터 규모 이상에서는 상관성이 없음
- 데이터 증가에 따른 성능 개선 효과 없음
- 지난 10년간 데이터 급증
- Smart Phone
- IoT
- Cloud etc
그림 6: 데이터 증거와 모델간의 성능 개선 효과
Deep Learning의 성장 배경
- Data
- Computation
- Algorithms
관련 문서
Andrew NG 교수님이 집필 중인 Machine Learning Yearning의 7~9장을 참고하면 좋을 것 같습니다.
