์ด๋ชฉ๋ ๊ณ ๋ฑ ์ค๋ฑ ์์ด๊ณผ์ธ ์ด๋ฑ ์จ์ ๋ ๊ตญ์ด๊ณผ์ธ ์คํ์ ๋ด์ ์์
์ด๋ชฉ๋ ๊ณ ๋ฑ ์ค๋ฑ ์์ด๊ณผ์ธ ์ด๋ฑ ์จ์ ๋ ๊ตญ์ด๊ณผ์ธ ์คํ์ ๋ด์ ์์


์ธํ
๋ ๋ค๋ฆ๊ฒ ์ ์ ๋ ฅ ๋ฐ๋์ฒด๋ฅผ ๊ถ์ ๊ตฌ ์จ์ ๋์ด๋ฑ์์ด๊ณผ์ธ ๊ถ์ ๊ตฌ ์จ์ ๋์ค๋ฑ๊ตญ์ด๊ณผ์ธ ๋ด์ ํน๊ฐ ๋ง๋ค์ด ๊ณต๊ธํ์ง๋ง 2์ธ๋๊ฐ ์๋ฆฌ๋ฅผ ์ก์ง ๋ชปํ๊ฒ ๊ถ์ ๊ตฌ ์จ์ ๋์์ด๊ณผ์ธ ๊ณ 1 ๊ณ 2 ๊ณ 3 ์ค2 ์ค3 ์ค1 ์คํ์์ด ์ค๋ฑ๋ด์ 1:1 ํ๋ค.์ฟ ๋ค ์ํ๊ณ์์ ๋ฒ์ด๋๊ธฐ๋ ์ด๋ ต์ง๋ง ํ๋์จ์ด ์ฑ๋ฅ ์์ฒด๋ ์๋น๋์์ ์๋์ ์ด๋ค. ์ด๋ฑ ์ด๋ชฉ๋๊ณ ๋ฑ์์ด๊ณผ์ธ ์ค๊ฐ ๊ธฐ๋ง๊ณ ์ฌ ์ํํ๊ฐ๋๋น AI ๋ฐ๋์ฒด๋ ๋ค์ํ ์ฐ์ฐ์ด ํ์ํ๋ ๊ธฐ์ฑ์ธ๋ ๋ฐ๋์ฒด์ ๋ฌ๋ฆฌ ๋จ์ ๊ถ์ ๊ตฌ ์จ์ ๋๊ณ ๋ฑํ์๊ตญ์ด๊ณผ์ธ ์ด๋ฑ ๊ถ์ ๊ตฌ ์จ์ ๋๊ตญ์ด๊ณผ์ธ ๋๊ท๋ชจ ์ฐ์ฐ์ด ํ์ํ๋ค. 175์ต๊ฐ์ ์ด๋ชฉ๋๊ตญ์์๊ณผ์ธ ๊ถ์ ๊ตฌ ์จ์ ๋์์๊ณผ์ธ ์ํ ๊ณ ๋ฑ ๋ฌธ๊ณผ ์ด๊ณผ ๋งค๊ฐ๋ณ์๋ฅผ ๊ฐ์ง GPT-3๋ฅผ ์๋ก ๋ค์ด๋ณด์ฃ . ๊ฐ ํ๋ผ๋ฏธํฐ๋ ์ฝ 2๋ฐ์ดํธ์ด๋ฏ๋ก, 175์ต ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ 350GB ์ฉ๋์ ํด๋นํฉ๋๋ค. AI๊ฐ ๋จ์ด๋ฅผ ์์ฑํ๊ธฐ ์ํด์๋ 175์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ๊ฒํ ํด์ผ ํ๋ค. ๋จ์ด๋ฅผ ๋ง๋ค๋ ค๋ฉด 350๊ธฐ๊ฐ๋ฐ์ดํธ์ ๋ฐ์ดํฐ๋ฅผ ์ฒ๋ฆฌํด์ผ ํ๋ค. ์ด๋ชฉ๋๊ณ ๋ฑํ์์์ด๊ณผ์ธ ์ด๋ชฉ๋๊ณ ๋ฑํ์๊ตญ์ด๊ณผ์ธ
์ ๋ ฅ ์ฌ์ฉ๋์ด ๋ง์ ๊ฒ์ ํผํ ์ ์๋ ๋จ์ ์
๋๋ค. AI๊ฐ ๊ถ์ ๊ตฌ ์จ์ ๋๊ณ ๋ฑ๊ตญ์ด๊ณผ์ธ ์ด๋ฑ ๊ถ์ ๊ตฌ ์จ์ ๋๊ณ ๋ฑ์์ด๊ณผ์ธ ์๋ ๋ฌด๊ฒ๊ธฐ ๋๋ฌธ์ ์ด๋ค ์์ผ๋ก๋ ์ ๊ธฐ๋ฅผ ๋ง์ด ์ธ ์๋ฐ์ ์์ต๋๋ค. AMD(MI300)์ ์ธํ
(๊ฐ์ฐ๋3) ๋ฑ ์ ํต์ ์ธ ์ด๋ชฉ๋๊ตญ์ด๊ณผ์ธ ๊ถ์ ๊ตฌ ์จ์ ๋๊ตญ์ด๊ณผ์ธ ์๋จ์ด ์๊ธฐ ์๋ฅ๋ฃ๊ธฐํ๊ฐ ๋ฐ๋์ฒด ์
์ฒด๋ค์ ์๋น๋์๋ณด๋ค ๋ ์ธ๊ณ ํจ์จ์ ์ธ AI ๋ฐ๋์ฒด๋ฅผ ๊ฐ๋ฐํด ๊ฒฝ์์ ๋์ฐ์ต๋๋ค. ๋ง์ดํฌ๋ก์ํํธ์ ์๋ง์กด ๋ฑ ํด๋ผ์ฐ๋ ์๋ฒ๋ฅผ ์ด์ํ๋ ๊ธฐ์
๋ค๋ AI ๋ฐ๋์ฒด๋ฅผ ์์ฒด ๊ฐ๋ฐํด ์์ฌ ํ๋ซํผ์ ํ์ฌํ ๊ณํ์
๋๋ค. ์ฑ๋ฅ์ด ์๋น๋์ ๋ฐ๋์ฒด๋ฅผ ๋ฅ๊ฐํ ์ ์์์ง๋ ๋ฏธ์ง์์
๋๋ค.ํ๋ค๋ ์๋ ๋ค์ฏ ๊ฐ์ ์๊ฐ๋ฝ์ ๊ฐ์ง๊ณ ์์์ง๋ง ๋๋๋ฌด๋ฅผ ์ก๊ธฐ ์ํด ์์ง์๊ฐ๋ฝ์ ํด๋นํ๋ ์ฌ์ฏ ๋ฒ์งธ ์๊ฐ๋ฝ์ ๋ง๋ค์์ต๋๋ค. ์งํ ๋๋ถ์ ํ๋์ค ์ด๋ชฉ๋์คํ์๊ตญ์ด๊ณผ์ธ ์ด๋ชฉ๋์คํ์์์ด๊ณผ์ธ ์๋ชฉ์ ์์ ๋ผ๊ฐ ์ฌ์ฏ ๋ฒ์งธ ์๊ฐ๋ฝ์ด ๋์ต๋๋ค ์ด๋ชฉ๋๊ณผ์ธ ๊ถ์ ๊ตฌ ์จ์ ๋๋ด์ ๊ณผ์ธ ์ผ๋์ผ ์๋ฅ ์์ด์์
๊ตญ์ด๊ณผ์ธ
์๋ ์ฆ๊ฐ์ ๊ฐ์ฅ ํฐ ์ฅ์ ๋ฌผ์ ๊ณ์ฐ ์๋๊ฐ ์๋๋ผ ๋ฐ์ดํฐ ์ ์ก ์๋์ด๋ค. GPU๋ ๊ฝค ๋น ๋ฆ
๋๋ค. GPU๊ฐ ๋น ๋ฅธ ์ฐ์ฐ์ ์ํํ๊ธฐ ์ํด์๋ ๋ฉ๋ชจ๋ฆฌ์์ ๋ฐ์ดํฐ๋ฅผ ๋ณต๊ตฌํด์ผ ํ๋ค. ๋ฐ์ดํฐ ์ ์ก ์๋๊ฐ ๋๋ฆฌ๋ฉด GPU๋ ์ต๋ํ ๋นจ๋ฆฌ ๋น์๋ฌ์ผ ํ๋ค. ์๋น๋์๋ GPU ์์ ํ์์ฒ๋ผ ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด๋ฅผ ์์๋๊ณ 1024๊ฐ์ ๋ฐ์ดํฐ ์ ์ก ํต๋ก๋ฅผ ๋ซ์ ๊ด๋์ญ๋ฉ๋ชจ๋ฆฌ(HBM)๋ฅผ ๋ฉ๋ชจ๋ฆฌ ํ์์ ๋ถ์๋ค. ์ด๋ฐ ๋ฐฉ์์ผ๋ก ๊ถ์ ๊ตฌ ์จ์ ๋์คํ์๊ตญ์ด๊ณผ์ธ ์ด๋ฑ ๊ถ์ ๊ตฌ ์จ์ ๋์คํ์์์ด๊ณผ์ธ ์ด๋น 3.35๋ฉ๊ฐ๋ฐ์ดํธ(์๋น๋์์ GPU 'H100' ๊ธฐ์ค)์ ์๋๋ฅผ ๊ตฌํํ๋ค. ์๋๋ฅผ ๋์ด๊ณ ์ฌ๋ฌ ๊ฐ์ ๋ฐ๋์ฒด๋ฅผ ์ง์ ํ๋๋ฐ ์ต์ ํ๋ ๊ตฌ์ฑ์ด๋ค. ์ด๋ ๊ฒ ํฐ ๋ฐ๋์ฒด๋ฅผ ๋ง๋ค๊ณ ์ด๋ชฉ๋์์ด๊ณผ์ธ ๊ถ์ ๊ตฌ ์จ์ ๋๊ณ ๋ฑํ์์์ด๊ณผ์ธ ์ผ๋์ผ ํ์ต ๊ทธ๋ค์ ๊ฑฐ๋ํ ์๋๋ฅผ ์ ์ดํ๋ ๊ฒ์ ์๋น๋์์ ๋
๋ณด์ ์ธ ๊ธฐ์ ์ด๋ค.
์๋น๋์์ AI ๋ฐ๋์ฒด ์ด๋ชฉ๋๋ด์ ๊ณผ์ธ ๊ถ์ ๊ตฌ ์จ์ ๋๊ณผ์ธ ์๋ฅ ๊ตญ์ด์์
์์ด๊ณผ์ธ ์ํํ๊ฐ ์ํ๊ณ๋ ๋งค์ฐ ์ข์ง๋ง ํ๊ณ๊ฐ ์๋ค. ๋๋ฌด ๋น์ธ๊ณ , ์ ๊ธฐ๋ ๋ง์ด ์ฌ์ฉํด์. AI ๋ฐ๋์ฒด๋ ๋ฉ๋ชจ๋ฆฌ ๊ถ์ ๊ตฌ ์จ์ ๋๋ด์ ์์ด๊ณผ์ธ ์ด๋ชฉ๋๋
ผ์ ๊ณผ์ธ ๊ตญ์ด ์ฌํ ๋น๋ฌธํ ๋ฌธํ ๋ฐ๋์ฒด๋ฅผ 12๋จ๊ณ๋ก ์์ ์ฌ๋ฆฐ ๊ฐ๋น์ผ HBM์ ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ ๋น์ธ๋ค.