๊ธฐ์ค : ์ ๋ ฅ ๋ฐ์ดํฐ์ ์คํธ๋ฆผ์ผ๋ก๋ถํฐ ์ ์ง์ ์ผ๋ก ํ์ตํ ์ ์๋๊ฐ?
NO! ๋ฐฐ์นํ์ต (์คํ๋ผ์ธ ํ์ต)
- ์์คํ ํ๋ จ ํ ์ ํ ์์คํ ์ ์ ์ฉํ๋ฉด ๋ ์ด์ ํ์ต์์ด ์คํ๋๋ค.(ํ์ตํ ๊ฒ์ ์ ์ฉ๋ง ํจ)
- ์๊ฐ๊ณผ ์์์ ๋ง์ด ์๋นํ๋ฏ๋ก ์คํ๋ผ์ธ์์ ์ํ๋๋ค.
- ๋ณดํต 24์๊ฐ๋ง๋ค ๋๋ ๋งค์ฃผ ํ๋ จ์ํด(์ฆ์ ํ๋ จ ํ์)
- ์ ์ฒด ๋ฐ์ดํฐ์ ์ฌ์ฉํ๋ ํ๋ จ - ๋ง์ ์ปดํจํ ์์(CPU ๋ฉ๋ชจ๋ฆฌ๊ณต๊ฐ, ๋์คํฌ๊ณต๊ฐ ๋ฑ)ํ์
- ์๋ก์ด ๋ฐ์ดํฐ์ ๋ํด ํ์ตํ ๋ ์ ์ฒด ๋ฐ์ดํฐ์ ์ ์ฌ์ฉํ์ฌ ์์คํ ์ ์๋ก์ด ๋ฒ์ ์ ์ฒ์๋ถํฐ ๋ค์ ํ๋ จ
YES! ์จ๋ผ์ธ ํ์ต
- ๋ฐ์ดํฐ๋ฅผ ์์ฐจ์ ์ผ๋ก ํ ๊ฐ์ฉ ๋๋ ๋ฏธ๋๋ฐฐ์น(mini-batch)๋ผ ๋ถ๋ฅด๋ ์์ ๋ฌถ์ ๋จ์๋ก ์ฃผ์ ํ์ฌ ํ๋ จ์ํด
- ๋งค ํ์ต ๋จ๊ณ๊ฐ ๋น ๋ฅด๊ณ ์ ์ ๋น์ฉ์ด ๋ฆ -- ์ ํ ๋ก ์นญ ํ์๋ ์๋ก์ด ๋ฐ์ดํฐ ๋์ฐฉํ๋ ๋๋ก ํ์ต ๊ฐ๋ฅ
- ์ฐ์์ ์ผ๋ก ๋ฐ์ดํฐ ๋ฐ๊ณ ๋น ๋ฅธ ๋ณํ์ ์ ์ ํ์ํ ์์คํ , ์ปดํจํ ์์์ ์ ํ๋ ๊ฒฝ์ฐ์ ์ ํฉ (์ฃผ์ ๊ฐ๊ฒฉ)
- ๋๋์ ๋ฐ์ดํฐ ์ฒ๋ฆฌ, ์ธ๋ถ๋ฉ๋ชจ๋ฆฌํ์ต(์ ์ง์ ํ์ต) - ๋ฐ์ดํฐ ๋ถ๋ถ์ผ๋ก ๋๋์ด ํ๋ จ
- ํ์ต๋ฅ ๋ณํํ๋ ๋ฐ์ดํฐ์ ์ผ๋ง๋ ๋น ๋ฅด๊ฒ ์ ์ํ๋๊ฐ?
- ๋์ ํ์ต๋ฅ = ๋น ๋ฅธ์ ์, ์์ ๋ฐ์ดํฐ๋ฅผ ๊ธ๋ฐฉ ์์ด๋ฒ๋ฆผ
- ๋ฎ์ ํ์ต๋ฅ = ๋๋ฆฐ ํ์ต
- ์จ๋ผ์ธ ํ์ต์ ๋ฌธ์ ์ : ์์คํ ์ ๋์ ๋ฐ์ดํฐ๊ฐ ์ฃผ์ ๋์์ ๋ ์์คํ ์ฑ๋ฅ ์ ์ง์ ์ผ๋ก ๊ฐ์
- ํด์ : ์ด์ ์ด์์ํ๋ก ๋๋๋ฆฌ๊ธฐ, ๋ชจ๋ํฐ๋ง- ๊ฐ์ง ์ ์ฆ๊ฐ ํ์ต ์ค์ง, ์ด์์น ํ์ง ์๊ณ ๋ฆฌ์ฆ ๋ฑ์ผ๋ก ๋น์ ์ ๋ฐ์ดํฐ ์ก์๋ด๊ธฐ
๊ธฐ์ค : ์ด๋ป๊ฒ ์ผ๋ฐํ๋๋๊ฐ?
์ฌ๋ก ๊ธฐ๋ฐ ํ์ต
-ํ๋ จ ์ํ์ ๊ธฐ์ต, ์ ์ฌ๋ ์ธก์ ์ ์ด์ฉํด ๋น๊ตํ๋ ๋ฐฉ์์ผ๋ก ์ผ๋ฐํ
๋ชจ๋ธ ๊ธฐ๋ฐ ํ์ต
- ์ํ๋ค์ ๋ชจ๋ธ์ ๋ง๋ค์ด ์์ธก์ ์ฌ์ฉ
- ๋ชจ๋ธ : ๋ชจ๋ธ์ ์ข ๋ฅ( ์ ํ ํ๊ท ๋ฑ) , ์์ ํ ์ ์๋ ๋ชจ๋ธ ๊ตฌ์กฐ( ํ๋์ ์ ์ถ๋ ฅ์ ๊ฐ์ง ์ ํ ํ๊ท), ์์ธก ์ํด ์ค๋น๋ ํ๋ จ๋ ๋ชจ๋ธ
- ๋ชจ๋ธ ์ ํ : ๋ชจ๋ธ์ ์ข ๋ฅ ํน์ ์์ ํ ์ ์๋ ๋ชจ๋ธ ๊ตฌ์กฐ๋ฅผ ์ ํํ๋ ๊ฒ
- ๋ชจ๋ธ ํ๋ จ : ํ๋ จ ๋ฐ์ดํฐ์ ๊ฐ์ฅ ์ ๋ง๋ ๋ชจ๋ธ ํ๋ผ๋ฏธํฐ๋ฅผ ์ฐพ๊ธฐ ์ํด ์๊ณ ๋ฆฌ์ฆ ์คํํ๋ ๊ฒ
๋จธ์ ๋ฌ๋ ํ๋ก์ ํธ ์์
1. ๋ฐ์ดํฐ ๋ถ์
2. ๋ชจ๋ธ ์ ํ
3. ํ๋ จ ๋ฐ์ดํฐ๋ก ๋ชจ๋ธ ํ๋ จ(๋ชจ๋ธ ํ๋ผ๋ฏธํฐ ์ฐพ๊ธฐ)
4. ์๋ก์ด ๋ฐ์ดํฐ์ ๋ชจ๋ธ ์ ์ฉํด ์์ธก (์ถ๋ก )
'๋ฅ๋ฌ๋ > Today I learned :' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
๋จธ์ ๋ฌ๋ ์ ๋ฆฌ 1์ฅ (0) | 2021.07.26 |
---|---|
๋จธ์ ๋ฌ๋์ ์ฃผ์ ๋์ ๊ณผ์ (0) | 2021.07.24 |
๋จธ์ ๋ฌ๋ ์ ์์ ๋ถ๋ฅ (0) | 2021.06.04 |
[๋ฅ๋ฌ๋] ํ ์ํ๋ก(tensorflow) ์ค์นํ๊ธฐ (0) | 2021.04.09 |
[๋ฅ๋ฌ๋] ๋ฅ๋ฌ๋ ๊ตฌํ ์ํ ๊ฐ์ํ๊ฒฝ ๊ตฌ์ถํ๊ธฐ (0) | 2021.04.07 |