LLM 기반 AI 에이전트 활용 사례와 도입 성과 분석: 업무 효율화에서 신규 서비스까지

1. 조사 목적

이번 글에서는 영리 목적으로 운영 중인 LLM 기반 AI 에이전트 사례를 살펴보고, 에이전트 도입을 통해 어떤 성과가 나타났는지 정리합니다.

특히 SK, LG, NAVER, 당근 등 국내 기업의 사례를 중심으로, AI 에이전트가 기존 업무를 어떻게 효율화하고 있는지, 기존에는 어려웠던 어떤 업무를 가능하게 만들고 있는지 살펴봅니다.

2. 사례 요약: AI 에이전트는 어떤 성과를 만들고 있는가

조사한 10개 사례는 크게 세 가지 성과 유형으로 나눌 수 있습니다.

공통적으로 AI 에이전트는 단순 질의응답을 넘어, 데이터 조회, 분석, 판단, 실행을 연결하는 방식으로 활용되고 있습니다.

3. 주요 활용 사례

3.1 SK - 에이닷 비즈 HR

• 주요 기능 및 성과

  • SK C&C 신입사원 채용 전 과정(서류-필기-면접)에 적용

    • 지원서 평가

    • 면접 질문 생성, 답변 분석

• AI가 활용하는 데이터

  • 인사 DB, 규정 DB

  • 워크플로우(Graph DB) - 프롬프트 형태의 구조화된 업무처리 노하우

  • 외부 데이터 - 채용 공고, 법률 판례 등

  • 지원자 관련 비정형 문서

• 시스템 구조

  • 워크플로우 엔진 + 멀티 에이전트 + 고성능/경량 LLM

3.2 LG - Financial Forecasting Agent

• 주요 기능 및 성과

  • 기업 분석 리포트 작성

  • 5000개 기업 대상 (Large-Cap ~ Micro-Cap) 매일 분석

  • 런던 증권 거래소와 손을 잡고 44,000개 기업 고객 대상 판매 중

• AI가 활용하는 데이터

  • 시계열 예측 도구

  • 비정형 기업 자료

    • 재무제표, 뉴스, 증권사 애널리스트 리포트 등

• 시스템 구조

  • 시계열 예측 도구 → 시계열 예측 에이전트

  • 뉴스, 리포트, 재무제표 도구 → 텍스트 이해 에이전트

  • 전체 과정 총괄 → 마스터 에이전트

3.3 SK AX - 명장 AI

• 주요 기능 및 성과

  • 사용자 자연어 요구사항을 수행하는 AI 에이전트를 생성/실행

  • 숙련된 퇴직자의 지식 디지털화

  • 사용자 피드백을 통해 AI를 지속적으로 학습 시키는 시스템

  • 울산 CLX의 복잡한 문서(RFQ)에서 특정 항목을 추출하는 업무에 적용하여 약 95% 정확도 확보

• AI가 활용하는 데이터

  • 데이터(Data), 정보(Information), 지식(Knowledge), 지혜(Wisdom) 단계로 구분하여 관리

  • 기업 내 대용량 문서(RFQ, RFP 등), 도메인 특화 지식, 숙련자 노하우가 담긴 데이터

  • 메모리

    • 사용자와의 상호작용에서 발생하는 세션 정보와 사용자 피드백 데이터

  • Knowledge - 특정 도메인에서 AI가 수행해야 할 스킬이나 지식을 구조화하여 활용

• 시스템 구조

  • AI가 수행한 업무를 지속적으로 관리

    • 업무 수행 과정 (Recipe), 도메인 지식 (Knowledge Card) 생성, 수정, 재사용

3.4 SK AX - Talent AX

• 주요기능 및 성과

  • 구성원 관리

    • 실적, 동료 피드백 기반의 피드백 리포트 생성

    • 개인의 상황에 맞는 교육, 복지제도, 업무 가이드 제안

    • 이탈 시그널, 케어 필요 포인트 실시간 파악

  • 인재 pool 검색

    • 실시간 인재 검색 (역량 기반), 추천 리포트 생성

• AI가 활용하는 데이터

  • HR 관련 정형, 비정형 데이터

• 시스템 구조

  • 기능별로 개별 UI가 있는 것이 아닌, 단일 대화형 창구

NAVER - 비즈니스 에이전트

• 주요 기능 및 성과

  • 솔루션 진행 후 2030 신규 고객 유입 1.6배 증가

  • 검색, 쇼핑, 플레이스 데이터 기반으로 사업현황 분석 → 개선점, 고객 패턴

    • ex) 주변 위치 방문객 연령, 인원에 기반하여 현재 판매중인 메뉴 기반으로 개선 제안

    • ex) 익선동의 대중교통 이용 고객을 타겟. 디지털 옥외광고 제안

  • 솔루션 제안 및 실행 → 광고 금액 제안, 변경, 타겟 고객에 맞는 광고 캠페인 집행

• AI가 활용하는 데이터

  • 통합 검색, 쇼핑 정보, 플레이스 리뷰, 스마트콜 통화수, 예약 현황 등

  • 결제 데이터, POS 정보, 쿠폰 사용 내역, 방문 패턴 분석 데이터 등

  • 상권 내 키워드 검색 트렌드, 경쟁사 상품/메뉴의 퍼포먼스 및 리뷰 데이터, SNS 및 외부 플랫폼의 트렌드 정보

NAVER - Kepler Chat

• 주요기능 및 성과

  • SQL 작성 시간 단축 - 40~50분 걸리던 작업을 5분 이내로 처리

  • 데이터 확보 기간 단축 - 비분석 직군(마케터, 기획자 등)이 분석가에게 요청 후 1주일씩 기다리던 데이터를 2시간 이내에 셀프서빙으로 직접 확보

  • 정량적 근거에 기반한 의사결정이 가능해짐

• AI가 활용하는 데이터

  • 검증된 공식 데이터셋, 최신 스키마, 도메인 용어 사전 정보

  • 기존에 생성된 BI 대시보드와 지표 정의 정보를 추적하여 어떤 쿼리가 정확한지 학습

  • 사내 위키 및 컨플루언스 - 내부 가이드 문서, 약어 정보

• 시스템 구조

  • Query Build 에이전트 : 자연어를 SQL 초안으로 변환

  • Validation 에이전트 : 생성된 쿼리의 문법, 실제 테이블 존재 여부, 권한 및 보안 규칙(파티션 필터 등)을 실행 전 검증

  • Execution 에이전트 : 실제 쿼리를 실행

  • Knowledge 에이전트 : 벡터 DB를 참고해 결과에 대한 근거를 설명

NAVER - AI 집찾기

• 주요기능 및 성과

  • 기존 필터 검색 방식(약 1분 7초) 대비 2배 이상 빠른 30초 이내에 결과 도출

  • 자연어 매물 검색

    • "네이버 본사 도보 30분 이내, 전세 5억 미만"과 같은 복잡한 조건의 자연어 질의를 이해하고 매물을 추천

  • AI 부동산 보고서 생성

    • 시장 흐름, 지역 경제, 정책/개발 이슈 등 50여 개의 데이터 툴을 활용, 전문가 수준의 투자 분석 보고서 생성

  • 금융 서비스 연계

    • 사용자의 가용 자금에 맞춰 LTV/DSR을 자동 계산하고, 실제 대출 한도와 금리를 시뮬레이션하여 구매 가능한 매물만 필터링

• AI가 활용하는 데이터

  • 매물 데이터, 실거래가, 단지 상세 정보

  • 주택매매가격지수, 인구 이동률, 건축 허가 실적, 기준 금리 등

  • 부동산 관련 최신 뉴스, 교통 인프라(지하철/버스), 지역 개발 계획 정보

• 시스템 구조

  • Section Agent: 보고서의 구조 관리, 섹션 간 논리적 일관성 유지

  • Plan Agent: 질문 분석, 도메인 에이전트 결정 및 계획 수립

  • Domain Agent: 특정 분야(수요 분석, 시장 동향 등) 특화

당근 - VoC 플레이그라운드 (출처 : 요즘 당근 AI 개발)

• 주요기능 및 성과

  • 정량적인 데이터 분석이 가능해짐 (특정 문제가 전체 문의의 몇 %를 차지하는지)

  • 서비스별 문의 분석 보고서 작성 시간 절반 이하로 감소

  • 자연어 기반의 데이터 검색

    • '매물 등록 과정에서 사용자가 겪는 어려움은 무엇인가?'

  • 자연어 기반의 데이터 분석

    • '최근 일주일간 부동산 매물 등록 과정에서 사용자가 가장 자주 언급한 불편사항 3가지가 뭐야?'

    • '가장 긴급히 개선이 필요한 문제점 두 가지와 그 이유를 사용자 의견을 기반으로 설명해줘'

• AI가 활용하는 데이터

  • DB에 있는 원본 데이터셋

    • 부동산 사용자 설문 조사 데이터

    • 부동산 카테고리 문의 데이터

    • 사용자 의견 남기기 데이터

이용제한 사유 설명 (출처 : 요즘 당근 AI 개발)

• 주요기능 및 성과

  • 답변에 길게는 수일이 걸리는 문의 ("저 왜 제재됐나요?")

    • → 질문 즉시 이용 제한 사유를 알 수 있게 됨

  • 고객센터로 오는 문의 최대 50%감소

• AI가 활용하는 데이터

  • 계정 정보, 이용제한 관련 정책 및 정보

  • 문의 사용자의 정책 위반 사례

• 시스템 구조

  • 메인 에이전트

  • 계정 전문가 에이전트 (계정 정보 조회)

  • 이용정책 전문가 에이전트 (이용 제한 관련 정보 조회)

  • 사용자의 정책 위반 사례 조회를 위해 RAG 사용

개인정보 메시지 삭제 (출처 : 요즘 당근 AI 개발)

• 주요기능 및 성과

  • 쉽게 처리할 수 없는 문의 (월 1,000건 이상 요청이 들어옴)

    • 5분이 지난 메시지는 사용자가 직접삭제불가

    • 사용자는 삭제 대상 메시지를 정확하게 고객센터 근무자에게 전달해야함.

    • 근무자는 채팅방과 메시지를 정확하게 찾아야함.

  • 에이전트가 사용자와 상호작용을 수행하여 삭제까지 자동으로 수행함.

• AI가 활용하는 데이터

  • 채팅방 조회 API

  • 개인정보 메시지 조회 API

• 시스템 구조

  • UI 시각화 도구를 활용해서 사용자에게 채팅방, 메시지 선택지를 제공

결론 및 시사점

• 조사된 10가지 사례 중 NAVER의 비즈니스 에이전트와 AI 집찾기 를 제외한 대다수는 내부 업무 효율화에 집중되어 있음.

• 로민 또한 에이전트 솔루션 판매를 목적으로 하되, 우선적으로 Document Understanding 업무 중 공수가 많이 드는 영역에 에이전트를 직접 적용하여 효과를 검증하는 것이 유효한 방법일 것이라 생각됨.

  • 예) 인식률 저하 요인 분석

    • OCR 영역 (Detection/Recognition)

      • 에이전트가 실행 결과 인식된 객체 위치 및 실제 문서와 JSON 결과값을 대조하여, 오인식 구간을 자동으로 식별

    • 문서 분류 및 Key-Value 추출

      • 분류 결과와 정답지를 자동 비교하고, Key-Value 추출 결과 내 오차를 수집하고 취합하여 분석 보고서 생성