▲ AI 투자 전 AX Health Check를 진행하며 디지털 전환 전략을 논의하는 기업 경영진과 컨설팅팀. (ai도움을 받아 생성된 이미지)

[코리아 이슈저널=최준석 기자] 생성형 AI가 실험 단계를 넘어 실제 업무 환경으로 빠르게 확산되고 있다. 그러나 반복되는 업무라고 해서 모두 AI 도입 대상이 되는 것은 아니다. 전문가들은 AI 프로젝트의 성공 여부는 어떤 모델을 선택했는지가 아니라, 해결해야 할 문제와 데이터, 운영 환경을 얼마나 정확하게 진단했는지에 달려 있다고 분석한다.

기업의 AI 도입 논의는 이제 "어떤 AI 모델을 사용할 것인가"를 넘어 "어떤 업무를 AI로 해결해야 하는가"라는 질문으로 이동하고 있다. 업무 자동화에 대한 관심이 높아지면서 반복적인 업무라면 무엇이든 AI로 대체할 수 있을 것이라는 기대도 커지고 있다.

하지만 반복되는 업무라는 이유만으로 AI가 최선의 해법이 되는 것은 아니다. 어떤 업무는 단순한 업무 표준화나 시스템 연동만으로도 충분히 개선될 수 있고, 어떤 업무는 RPA(Robotic Process Automation)가 더 적합하다. 또 내부 지식을 활용해야 하는 경우에는 RAG(Retrieval-Augmented Generation)가 효과적일 수 있으며, 제조 현장의 품질 검사처럼 예측 모델이나 컴퓨터 비전 기술이 필요한 사례도 있다. 문제를 제대로 정의하기 전에 기술부터 선택하면 기존의 비효율적인 프로세스를 그대로 자동화하는 결과를 낳을 가능성이 크다.

실제 AI 프로젝트에서도 인상적인 데모와 지속적으로 가치를 창출하는 운영 시스템 사이에는 적지 않은 간극이 존재한다. 그 차이는 모델 성능보다 데이터의 일관성, 접근 권한 체계, 예외 상황 처리 방식, KPI 기준선(Baseline), 그리고 프로젝트 운영 주체가 명확하게 정의돼 있는지 여부에서 발생하는 경우가 많다.

이 때문에 최근에는 AI 도입 이전 단계에서 기업의 업무와 데이터 환경을 종합적으로 점검하는 AX(AI Transformation) Health Check가 중요한 절차로 주목받고 있다.

AX는 단순히 AI 솔루션 하나를 추가하는 개념이 아니다. AI를 활용해 예측하고, 생성하고, 정보를 검색하며, 의사결정을 지원하는 환경에 맞춰 기업의 업무 방식을 다시 설계하는 과정이다. AX Health Check는 이러한 전환을 시작하기 전에 현재의 운영 체계를 진단하는 일종의 '종합 건강검진'에 가깝다.

진단은 현재 업무 환경을 객관적으로 파악하는 것에서 시작된다. 직원들은 각 업무 단계에 얼마나 많은 시간을 사용하고 있는지, 정보는 이메일과 엑셀, ERP, CRM, 종이 문서 가운데 어디를 중심으로 이동하는지, 승인 과정에서 병목이 발생하는 구간은 어디인지, 반복 작업이 발생하는 원인은 무엇인지, 어떤 데이터가 개인정보나 기업 기밀을 포함하는지, 잘못된 의사결정이 발생할 경우 어느 수준의 위험으로 이어질 수 있는지 등을 함께 분석한다.

이러한 분석을 바탕으로 AI 적용 가능성을 비즈니스 가치(Value), 기술적 실현 가능성(Feasibility), 운영 리스크(Risk)라는 세 가지 축에서 평가하고 우선순위를 결정하게 된다.

미국 국립표준기술연구소(NIST)가 발표한 AI Risk Management Framework 역시 비슷한 접근 방식을 제시한다. 해당 프레임워크는 Govern, Map, Measure, Manage라는 네 가지 핵심 영역을 중심으로 AI를 관리하도록 권고한다. 특히 거버넌스는 프로젝트가 끝난 뒤 수행하는 사후 점검이 아니라 AI 활용 목적과 영향을 받는 대상, 허용 가능한 위험 수준, 평가 방법 등을 AI 활용 사례(Use Case)를 선정하는 초기 단계부터 함께 정의해야 한다고 강조한다.

업계에서는 AI 프로젝트를 시작하기 전 최소 다섯 가지 질문에 답할 수 있어야 한다고 말한다.

첫 번째는 비즈니스 가치다. AI를 적용했을 때 업무 시간이 얼마나 단축되는지, 오류가 얼마나 감소하는지, 이러한 변화가 비용 절감과 매출, 고객 경험 개선으로 어떻게 연결되는지를 측정할 수 있어야 한다. 이를 위해서는 파일럿 프로젝트 이전부터 KPI 기준선(Baseline)을 확보하는 작업이 필요하다.

두 번째는 데이터 준비 상태다. 필요한 데이터가 실제 존재하는지, 사용할 권한은 확보됐는지, 데이터 품질과 대표성은 충분한지 확인해야 한다. 예를 들어 고객센터 챗봇이 성공 사례만 포함된 상담 이력만 학습했다면 실제 현장에서 발생하는 복잡한 문의에는 제대로 대응하지 못할 가능성이 높다.

세 번째는 시스템 통합이다. AI는 어떤 시스템에서 데이터를 읽고 어떤 시스템으로 결과를 전달해야 하는가도 중요한 문제다. AI가 높은 정확도를 제공하더라도 직원이 여러 화면을 오가며 결과를 직접 복사·입력해야 한다면 업무 생산성은 크게 개선되지 않을 수 있다.
네 번째는 리스크 관리다. AI의 잘못된 판단이 단순한 불편을 초래하는 수준인지, 아니면 금전적 손실이나 법적 책임, 사람의 안전 문제까지 이어질 수 있는지를 구분해야 한다. 위험 수준이 높은 업무일수록 Human-in-the-loop, 승인 절차, 그리고 Audit Trail과 같은 통제 장치가 함께 설계돼야 한다.

다섯 번째는 운영 체계다. 예외 상황이 발생하면 누가 대응하는지, 데이터는 누가 업데이트하는지, 경고(Alert)는 누가 확인하는지, 언제 기존 시스템으로 롤백(Rollback)할 것인지까지 운영 방안이 마련돼 있어야 한다. 이러한 질문에 답하지 못한다면 PoC(개념검증)는 실제 운영으로 이어지지 못한 채 일회성 시연으로 끝날 가능성이 높다.

전문가들은 AX Health Check의 결과물이 단순한 발표 자료가 아니라 실행 가능한 처방전이 돼야 한다고 말한다. 보고서에는 현재 업무 프로세스 맵과 KPI 기준선, AI 적용 우선순위, 데이터 준비 과제, 목표 아키텍처, 그리고 30·60·90일 실행 로드맵 등이 포함돼야 한다. 무엇보다 지금 추진해서는 안 되는 과제를 과감하게 제외하는 판단도 함께 담겨야 한다.

실제 사례를 보면 사내 AI 검색 시스템을 구축하려는 기업은 RAG를 도입하기 전에 문서 권한 체계를 정비하고 중복 문서를 제거하는 작업이 선행돼야 할 수 있다. 고객 상담 자동화를 추진하는 기업은 문의 유형(Intent Taxonomy)을 먼저 표준화하고 민감한 상담을 상담원에게 이관하는 프로세스를 설계해야 한다. 제조업에서 컴퓨터 비전을 적용하려는 경우에도 이미지 수집보다 불량 기준을 품질 전문가와 함께 명확히 정의하는 작업이 우선되는 사례가 적지 않다.

좋은 AI 로드맵은 가장 많은 AI 아이디어를 담은 계획이 아니다. 단기간에 실질적인 성과를 만들 수 있는 두세 개의 핵심 과제를 선정하면서도 향후 더 큰 규모의 AI 전환으로 확장할 수 있는 기반을 함께 마련하는 계획이 좋은 로드맵이라는 평가가 나온다.

SotaTek Korea는 이러한 AX Health Check를 AI 구축 이전 단계의 컨설팅 서비스로 제공하고 있다. 회사에 따르면 업무 프로세스 현장 조사부터 데이터 및 시스템 분석, AI 활용 사례 선정, 목표 아키텍처 설계, KPI 정의, 파일럿 프로젝트 로드맵 수립까지 지원하며, 한국에서 고객과 긴밀하게 협업하면서 베트남 개발 조직의 기술 역량을 연계하는 협업 체계를 운영하고 있다.

▲ SotaTek Korea가 기업 고객을 대상으로 AI 기술과 비즈니스 적용 방안을 소개하는 세미나

SotaTek은 현재 1,500명 이상의 전문 인력을 기반으로 글로벌 시장에서 500건 이상의 프로젝트를 수행해 왔다고 밝혔다. AI·머신러닝뿐 아니라 소프트웨어 개발, 클라우드, 시스템 통합, 테스트, 운영까지 프로젝트 전 과정을 수행할 수 있는 체계를 갖추고 있다는 설명이다. 이를 통해 초기 진단 결과를 PoC에서 실제 운영 환경(Production), 유지보수 단계까지 연결할 수 있다는 것이 회사 측의 설명이다.

AI 도입을 고민하는 기업이라면 처음부터 모든 업무를 대상으로 삼기보다 반복 업무 한두 개를 선정해 현업 담당자와 함께 워크숍을 진행하고, 문제 정의와 데이터 준비 상태, 위험 요소, 추진 로드맵을 먼저 점검하는 것이 현실적인 출발점이 될 수 있다.

AI 프로젝트에서 가장 큰 비용은 잘못된 모델을 선택하는 것이 아닐 수 있다. 오히려 제대로 정의되지 않은 문제를 해결하려고 수개월의 시간과 자원을 투입하는 일이 더 큰 비용으로 이어질 가능성이 높다. AI 도입의 출발점은 기술이 아니라 문제를 정확히 진단하는 과정이라는 점은 지금도 변하지 않는 원칙으로 꼽힌다.

[저작권자ⓒ 코리아 이슈저널. 무단전재-재배포 금지]