์ํฝAI์ ‘์ฝํ์ผ๋ฟ’์ด ์ฑGPT๋ณด๋ค ์ ํํ ์๋ณธ์์ฅ ๋ฐ์ดํฐ๋ฅผ ๋น ๋ฅด๊ฒ ์ ๊ณตํ ์ ์๋ ๋ฐฐ๊ฒฝ์ ์๋ณธ์์ฅ์ ์ต์ ํํ ‘RAG(retrieval-augmented generationยท๊ฒ์์ฆ๊ฐ์์ฑ)’์ ‘์ง์๋ฌธ ์ค๊ณ(prompt engineering)’์ ๊ณ ๋ํ๋ค.

RAG๋ ๋จ์ํ AI๊ฐ ์๊ณ ์๋ ์ง์๋ง์ผ๋ก ๋ตํ์ง ์๊ณ , ์ธ๋ถ ๋ฐ์ดํฐ๋ฅผ ์ฐพ์ ๊ทธ ์ ๋ณด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ต๋ณ์ ์์ฑํ๋ ์ผ๋ จ์ ๊ณผ์ ์ ๋ปํ๋ค. ํ๊ฒฝ๋ฏธ๋์ด๊ทธ๋ฃน์ ์๋ณธ์์ฅ ๋ฐ์ดํฐ ๊ณ์ด์ฌ์ธ ํ๊ฒฝ์์ด์ ์ ์ด์ฉ์๊ฐ ์ง๋ฌธ์ ์ ๋ ฅํ๋ฉด ์์ฒด ๋ฐ์ดํฐ๋ฒ ์ด์ค(DB)๋ฅผ ๊ฒ์(retrieval)ํด ๊ฐ์ฅ ๊ด๋ จ์ฑ์ด ๋์ ๋ฌธ์๋ฅผ ์ฐธ์กฐํ๋๋ก ์ค๊ณํ๋ค. AI๋ ์ผ๋ฐ์ ์ธ ์ง์๋ฌธ์ ‘ํฌ์ ๋ชฉ์ ์ ๋ถํฉํ๋’ ํํ๋ก ์ฆ๊ฐ(augmentation)ํ๋ ๊ณผ์ ์ ๊ฑฐ์ณ ๋ต๋ณ์ ์์ฑํ๋ค.
๊ฒฝ์๋ ฅ์ ํต์ฌ์ ์ผ๋ง๋ ๋ง์ ์์ฒดยท์ ํด ๋ฐ์ดํฐ๋ฅผ ๋ณด์ ํ๊ณ ์๋๋๋ค. ํ๊ฒฝ์์ด์ ์ ๋ฆฌ์์น ๋ณด๊ณ ์์ ์ฌ์ ๋ณด๊ณ ์, ์ค์๊ฐ ๊ธ์ต์์ฅ ๋ฐ์ดํฐ, ๋ด์ค ๋ฑ ๋ฐฉ๋ํ ์๋ณธ์์ฅ DB๋ฅผ ์ฝํ์ผ๋ฟ ๊ฒ์๊ณผ ์ฐ๊ฒฐํ๋ค.
AI์ ์ ํํ๊ฒ ์ผ์ ์ํค๊ธฐ ์ํ ์ง์๋ฌธ์ ์ค๊ณ๋ ๋ ๋์ ์๋น์ค๋ฅผ ์ ๊ณตํ ์ ์๋๋ก ๋ง๋ ํต์ฌ ๊ธฐ์ ์ด๋ค. ํ๊ฒฝ์์ด์ ์ ํ๋๋งค๋์ ์ ์ ๋๋ฆฌ์คํธ ์ถ์ ์ ๋ฌธ๊ฐ๋ค์ด ํฌ์์ ์ค์ง์ ์ผ๋ก ๋์์ ์ค ์ ์๋๋ก ์ง์๋ฌธ์ ๊ณ ๋ํยทํ ์คํธยท๊ด๋ฆฌ ์์ ์ ํ๋ค. ์ ํ๊ธธ ํ๊ฒฝ์์ด์ ์ต๊ณ ๊ธฐ์ ์ฑ ์์(CTO)๋ โ์ง์์ ์ผ๋ก ์๋น์ค๋ฅผ ๊ณ ๋ํํด ๋๊ฐ ๊ณํโ์ด๋ผ๊ณ ๋งํ๋ค.
๋ฅ์ํ ๊ธฐ์ ehryu@hankyung.com