이거 찾고 있었죠?… 내가 원한 최적의 답 어떻게 알았을까

에픽AI의 ‘코파일럿’이 챗GPT보다 정확한 자본시장 데이터를 빠르게 제공할 수 있는 배경은 자본시장에 최적화한 ‘RAG(retrieval-augmented generation·검색증강생성)’와 ‘지시문 설계(prompt engineering)’의 고도화다.

이미지 크게보기

RAG는 단순히 AI가 알고 있는 지식만으로 답하지 않고, 외부 데이터를 찾아 그 정보를 기반으로 답변을 작성하는 일련의 과정을 뜻한다. 한경미디어그룹의 자본시장 데이터 계열사인 한경에이셀은 이용자가 질문을 입력하면 자체 데이터베이스(DB)를 검색(retrieval)해 가장 관련성이 높은 문서를 참조하도록 설계했다. AI는 일반적인 지시문을 ‘투자 목적에 부합하는’ 형태로 증강(augmentation)하는 과정을 거쳐 답변을 생성한다.

경쟁력의 핵심은 얼마나 많은 자체·제휴 데이터를 보유하고 있느냐다. 한경에이셀은 리서치 보고서와 사업보고서, 실시간 금융시장 데이터, 뉴스 등 방대한 자본시장 DB를 코파일럿 검색과 연결했다.

AI에 정확하게 일을 시키기 위한 지시문의 설계도 더 나은 서비스를 제공할 수 있도록 만든 핵심 기술이다. 한경에이셀은 펀드매니저와 애널리스트 출신 전문가들이 투자에 실질적으로 도움을 줄 수 있도록 지시문의 고도화·테스트·관리 작업을 했다. 정현길 한경에이셀 최고기술책임자(CTO)는 “지속적으로 서비스를 고도화해 나갈 계획”이라고 말했다.

류은혁 기자 ehryu@hankyung.com