1세대 AI CFO 이어 2세대 에이전트 개발
생성형 방식으로 내년 2월 중 베타 서비스
계획·조회·답 나뉜 세가지 LLM 조합 활용
모든 IT 시스템과 소프트웨어 변화 전망
은행업무서 화면·버튼 사라지는 미래올 것
내년엔 AI뱅킹 변화… 중견·중소기업 확보
생성형 방식으로 내년 2월 중 베타 서비스
계획·조회·답 나뉜 세가지 LLM 조합 활용
모든 IT 시스템과 소프트웨어 변화 전망
은행업무서 화면·버튼 사라지는 미래올 것
내년엔 AI뱅킹 변화… 중견·중소기업 확보
![[스타트업·혁신기업] "GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다"](http://contents.dt.co.kr/images/202412/2024122702101831650001[1].jpg "[스타트업·혁신기업] \"GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다\"")
윤완수 웹케시 부회장
"수천만원 하는 엔비디아 그래픽처리장치(GPU)를 8개 정도 사서 GPU센터를 만들고 있습니다. AI에이전트 서비스를 내놓기 위해 본격적인 투자를 시작한 거죠."
지난 19일 서울 영등포구 본사에서 만난 윤완수 웹케시 부회장은 "기업들의 자금 데이터를 바탕으로 AI 서비스를 제공하려면 외부 클라우드를 써선 안 된다. 엄격한 보안체계와 망분리까지 적용한 인프라를 갖추고 있다"며 "주어진 예제에 따라 답을 주는 게 아니라 AI 에이전트 형태로 진화한 '2세대 AI CFO' 베타 서비스를 내년 2월 중순 시작할 예정"이라고 말했다.
기업용 핀테크 기업 웹케시의 공동 창립자인 윤 부회장은 3년 이상 100억원 가량을 투입해 지난 10월 1세대 AI CFO를 내놨다. 기업 자금관리 솔루션과 AI 기술을 연계해, 단순한 자금관리 도구를 넘어 기업의 의사결정을 돕는 '자금관리 특화 AI 비서'다. 기업의 실시간 자금 데이터를 바탕으로 자금 흐름을 모니터링·예측·분석하고 질문에 답을 주도록 개발됐다.
1세대 AI CFO가 질문별로 사전에 세팅된 답을 주도록 '룰 기반 설계'를 채택했다면 2세대는 생성형 AI 방식의 리얼 AI서비스라는 데 차이가 있다. 태생부터 전혀 다르다. 웹케시는 이를 위해 톱클래스 AI 개발자들로 개발그룹을 완전히 새로 구성했다. 또 개방형 AI모델 중 가장 최적의 기술을 선택해서 서비스를 개발하고 있다.
![[스타트업·혁신기업] "GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다"](http://contents.dt.co.kr/images/202412/2024122702101831650001[2].jpg "[스타트업·혁신기업] \"GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다\"")
◇"젊은 외인부대 중심으로 AI 개발조직 구성…신나는 경험"
윤 부회장은 "2세대야말로 진정한 AI 에이전트 서비스다. 제한된 질의에 답을 주는 게 아니라 뭘 물어도 답을 주는 것"이라며 "1월 중순 내부 베타서비스부터 시작할 것"이라고 말했다. 이어 "AI CFO 개발조직은 20명 이상 규모로, 기존 웹케시 기술에 익숙한 인력이 아니라, 젊으면서도 최신 AI기술로 무장된 국내 베스트 인력들로 꾸렸다"면서 "서울대 경제학과 출신이 에이전트를 개발하고, 연세대 출신 분석가가 전체 설계기획을 맡는 식이다. 외부 서울대, KAIST 박사과정생들도 간접적으로 참여한다"고 밝혔다.
과거 데이터를 분석해 미래를 예측하는 답은 머신러닝 패턴분석 기술을 활용해 얻는다. 젊은 실력자들과 호흡을 맞추는 윤 부회장은 신이 났다. 그는 "같이 일해보니 끝내준다. 일하는 패턴이 완전히 다르다"면서 "일을 일로 하는 게 아니라 재미있게 한다. 귀한 현장 데이터를 직접 만져가며 일할 수 있으니 주말도 밤낮도 가리지 않는다"고 말했다.
이들은 전세계 논문을 뒤져 최신 방법론을 찾아 적용한다. 화이트보드에 전체 솔루션 설계를 그린 다음 하나하나 개발하는 과거 방식이 아니라, 일단 한가지씩 시도해보고 검증하고 부족하면 다시 시도한다.
윤 부회장은 "DNA가 완전히 다르다. 옛날 방식을 쓰는 나같은 사람이 화이트보드 앞에서 과거 경험을 가지고 방향을 지시하는 것은 망하는 길이다. AI시대에는 '나를 따르라'가 아니라 '내가 뭘 도와주면 돼'하고 묻는 게 맞다. 그들이 궁금한 게 있으면 풀어주고 부족한 경험을 커버해주고, 그들이 시키는 일을 열심히 한다"고 했다.
![[스타트업·혁신기업] "GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다"](http://contents.dt.co.kr/images/202412/2024122702101831650001[3].jpg "[스타트업·혁신기업] \"GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다\"")
◇3개 LLM 조합해 활용…계획부터 문제해결까지 한번에
AI CFO 2.0에는 세가지 대규모언어모델(LLM)이 조합해서 쓰인다. 윤 부회장은 "챗GPT가 이미 학습한 결과를 갖고 답을 주는 것과 달리 AI 에이전트에서는 LLM이 두뇌 역할을 하고, 외부 데이터를 활용해 답을 얻는다. 질문이 주어지면 그에 대한 계획을 생성하는 '플래너 모델', 답을 얻기 위해 자연어로 데이터를 조회하는 'NL2SQL 모델', 확보된 데이터를 바탕으로 답변 생성을 요청하는 '솔버 모델' 등 3가지 LLM 엔진을 쓰고, 이들 엔진이 파이썬으로 개발된 LLM 서비스, 포스트그레SQL DB와 연동되는 구조"라고 설명했다.
이 전체 과정이 추론이다. 예를 들어 "지난달 입금내역 중 웹케시에서 입금된 건이 뭔가"하고 물으면 AI가 지난달이 몇월인지 파악하고, 입금내역 중 웹케시 건을 추출하고, 이를 바탕으로 답을 작성하는 것. 플래너와 솔버 모델로는 메타의 라마를, NL2SQL 모델은 중국 기술을 쓴다.
웹케시는 LLM 시스템을 80% 정도 개발하고, 검증팀을 꾸려 AI가 내놓은 답을 검증하는 작업을 시작했다. AI가 준 답에 괴리가 있을 경우 보강한다.
코딩은 AI가 하고, 사람은 AI가 일하는 방식을 이해하면서 풀고자 하는 문제해결에 집중하는 것은 지금까지 해온 SW 개발과는 전혀 다른 접근이다. 윤 부회장은 내년부터 SW 개발 패러다임이 완전히 바뀔 것으로 전망했다. 핵심은 사람이 하던 일을 AI가 대신하면서 SW 화면 구성을 설계하고, 특정 기능이 수행되는 프로세스를 미리 짜던 과정이 필요 없어진다는 것이다.
![[스타트업·혁신기업] "GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다"](http://contents.dt.co.kr/images/202412/2024122702101831650001[4].jpg "[스타트업·혁신기업] \"GPU 사고 AI드림팀 가동… `리얼 AI서비스` 보여주겠다\"")
◇"모든 IT시스템과 SW가 뒤바뀔 것"
윤 부회장은 "예를 들어 은행에서 자금이체 처리를 하려면 프로세스가 설계돼야 한다. 조회버튼을 누르면 다음 화면이 어떻게 나오고, 여기에 날짜를 입력하고 조회 버튼을 누르면 된다는 식으로 아키텍처를 짜야 했다. 또 이런 과정이 다 화면으로 구현돼야 했다. 그런데 AI는 다르다. 계좌 잔액이 얼마냐고 말하면 나머지 화면이 필요없고 AI에이전트가 알아서 찾아와서 알려준다. 사람과 데이터 사이에 AI에이전트만 있으면 되는 것"이라고 말했다. 화면과 버튼이 사라진다는 것은 사용자인터페이스·경험(UI·UX)이 완전히 달라짐을 의미한다.
윤 부회장은 이런 변화가 은행 시스템과 기업 자금관리 솔루션을 포함해 모든 IT시스템과 SW에서 일어날 것으로 내다봤다.
윤 부회장은 "쇼핑몰 서비스 같은 게 모바일앱으로 바뀌는데 10년 정도 걸렸다. 앞으로 SW가 AI에이전트 구조로 바뀌는데도 비슷한 기간이 걸릴 것으로 본다"면서 "AI CFO뿐 아니라 웹케시의 다른 SW들도 AI에이전트로 대체 또는 결합돼 발전할 것으로 본다"고 말했다.
◇AI CFO, 중견·중소기업이 1차 타깃…"AI 벤처붐으로 경제 활력을"
창구 서비스에서 인터넷뱅킹, 스마트뱅킹으로 바뀌어온 은행 서비스 구조도 AI 등장으로 또 한번 바뀔 전망이다. 은행 중 기업 인터넷뱅킹을 가장 먼저 도입한 곳이 2001년 KB국민은행인데 당시 웹케시가 함께 했다.
"은행들이 내년에 AI뱅킹으로의 변화를 시작할 것으로 생각된다. 개인적으론 어느 정도 그림이 그려진다"는 윤 부회장은 "수요가 있는 은행과 같이 논의해 보려 한다. 10여개 은행 중 1~2곳이 먼저 시작하면 과거 인터넷뱅킹이 그랬듯이 2~3년 내에 전체 은행으로 확산될 것"이라고 내다봤다.
AI CFO의 초기 타깃 고객은 총 50만곳에 달하는 중견·중소·벤처기업으로, 내부 구축형을 원하는 대형 고객도 내년 2곳 정도 확보한다는 계획이다. 소상공인과 공공기관에는 또다른 형태로 제공한다는 구상이다.
"내년, 당장 다음달이 너무 기대된다. 사람과 컴퓨터 사이에서 온갖 지시를 처리해주는 AI에이전트는 침체된 경기를 살리고 벤처를 키우는 기회가 될 것"이라는 윤 부회장은 "1990년대 후반 벤처붐, 2020년대 초반 스마트 벤처붐에 이어 내년 AI벤처붐을 일으켜 경제에 활력을 불어넣었으면 한다. 우린 금융에 특화된 AI에이전트 전문기업으로 승부를 걸겠다"고 말했다.
글·사진=안경애기자 naturean@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
