[딥러닝] 뉴럴 네트워크 Part. 7 - 배치 정규화
이전 까지의 내용 이전 글에서는 가중치 초기화의 방법들에 대해서 살펴보고 출력값 자체를 정규화하는 아이디어에 대해 살펴보았습니다. 이번 글에서는 각 층의 출력값 자체를 안정화하는 방법인 배치 정규화를 다룰 예정입니다.전체 내용은 SlideShare 에서 한번에 보실 수 있으며 youtube 로도 볼 수 있습니다. 배치 정규화 배치 정규화는 각 층의 출력값들을 정규화하는 방법입니다. 배치라는 단어는 전체 데이터에서 일부분을 칭하는 단어 입니다. 신경망을 학습시킬 때 보통 전체 데이터를 한 번에 학습시키지 않고 조그만 단위로 분할해서 학습을 시키는데 이 때의 조그만 단위가 배치입니다. 배치별로 구분하고 각각의 출력값들을 정규화 하기 때문에 배치 정규화 라는 이름을 갖고 있습니다.Part.5 , Part.6 ..
머신러닝
2018. 3. 28. 09:01
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
TAG
- 머신러닝
- 코딩테스트
- PPT
- 광명
- Oracle
- 신입 공채
- python
- ML
- 산업단지
- KNN
- ALIAS
- 시흥
- 일반산업단지
- dict
- 의사결정트리
- 백준
- 리트
- 첨단산업단지
- 블라인드
- 알고리즘
- 블라인드 코딩
- 카카오
- 지도학습
- 넘파이
- 딥러닝
- 로스쿨
- MLP
- 파이썬
- sql
- 리눅스
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
글 보관함