금융 서비스 분야에서는 사이버 보안 및 사기 방지를 위해 AI를 사용해 왔지만, 생성형 AI는 새로운 과제를 제시하고 있다. 성공적인 IT 리더가 생성형 AI 도입과 운영에서 해결해야 할 과제를 살펴보자.
대부분의 조직이 사이버 보안 및 사기 방지를 위해 어떤 형태로든 AI를 사용하는 등 금융 서비스에서 AI활용은 더이상 새로운 것은 아니지만, 미국 재무부에 따르면 일부 금융 기관의 기존 위기 관리 프레임워크(existing risk management frameworks may not be adequate)는 생성형 AI(GenAI)와 같은 새로운 AI 기술을 적용하기엔 여전히 적절하지 않을 수 있는 것으로 판단하고 있다. 그럼에도 불구하고 생성형 AI는 빠르게 다양한 분야에 적용되고 있다.
최근 엔비디아의 설문조사에 따르면 금융 기관 응답자의 43%가 조직에서 GenAI를 사용하고 있으며(43% of financial institution respondents are using GenAI), 46%는 이미 GenAI 및 기타 혁신의 기반이 되는 AI 딥 러닝 기술인 대규모 언어 모델(LLM)을 사용하고 있는 것으로 나타났다. 또한 그랜트 톰톤(Grant Thornton)의 최신 CFO 설문조사(Grant Thornton’s latest CFO survey)에 따르면 생성형 AI를 사용하는 응답자의 비율은 47%(2024년 1분기)로 사상 최고치를 기록했다.
이제 GenAI는 경쟁력을 확보해야 하는 금융 서비스 분야 리더들에게 중요한 과제를 제시하고 있다. 주목해야 할 5가지 GenAI 과제와 AI 전략을 세울 때 이를 성공적으로 추진하는 방법을 소개한다.
1. IT 전략의 유연성 확보
GenAI 분야에는 각기 다른 접근 방식, 모델, 플랫폼을 가진 많은 기업들이 비전을 제시하고 있다. 어떤 업체가 지배적인 업체로 부상할지, 어떤 업체가 귀사의 요구에 가장 적합한지 예측하기는 어렵다. 이처럼 기술이 빠르게 발전하고 있기 때문에 기업은 최고의 비즈니스 성과를 창출하기 위해 적시에 가장 적합한 AI 솔루션을 제공할 수 있는 AI 공급업체를 유연하게 선택할 수 있어야 한다.
최근 베인앤컴퍼니의 기술 보고서(Bain & Company technology report)에 따르면, 기존 또는 선도적인 공급업체가 거의 없는 상황에서 많은 초기 단계의 기업들이 LLM 기반 데이터 관리, 스토리지 및 관련 앱을 제공할 것이며, 결국 대규모 플랫폼이 이러한 서비스를 자체적으로 제공하면서 많은 기업들이 통합될 것이라고 전망했다.
이것이 바로 민첩하고 유연하게 IT 전략을 수립하고 단일 공급업체나 솔루션에 종속되지 않도록 해야 하는 여러 가지 이유 중 하나다. 대신 자사 비즈니스 목표에 따라 가장 적합한 곳에 투자할 수 있도록 옵션과 리소스를 열어두어야 한다.
다양한 도구와 파일럿 사용 사례를 실험해보고 자사에 가장 적합한 것이 무엇인지 알아보아야 한다. 대형 ERP 공급업체가 주요 AI 플레이어로 부상할 수도 있지만, 아직 미개척 분야가 많다. 비즈니스 중심 IT 로드맵을 따르는 성공적인 조직과 리더의 사례를 참고하여 변화의 흐름에 앞서야 한다.
2. 데이터 보안 강화 및 데이터 품질 관리를 최우선 순위 지정
GenAI를 사용할 때는 회사의 독점 정보, 지적 재산, 고객의 개인 금융 정보가 포함될 수 있는 데이터와 콘텐츠를 제공해야 한다. 실제로 2023년 9월에 가트너가 발표한 보도 자료(September 2023 press release)에 따르면 2026년까지 대기업 재무팀의 80%가 이 프로세스를 위해 내부 AI 플랫폼을 사용할 것으로 예측하고 있다.
데이터 보안 외에도 데이터 품질이라는 더 큰 문제가 있는데, 포브스 기고가인 제네 마크(Gene Marks)는 이를 “아무도 말하지 않는 AI의 아킬레스건”이라고 설명했다. 출력의 품질은 입력의 품질과 직접적인 함수이기 때문에 “쓰레기가 들어오면 쓰레기가 나온다”는 격언은 특히 AI에 해당된다.
정확성, 완전성, 일관성, 적시성 측면에서 측정되는 양질의 데이터는 AI의 생명선으로서 AI 효과에 가장 중요한 요소다. 분석가가 부정확하거나 오래된 정보를 사용하여 정확한 예측 모델을 구축할 수 없듯이, AI도 품질이 낮은 데이터를 사용하여 효과적인 결과를 제공할 수 없다.
데이터를 안전하게 공유하고 저장하는 방법에 주의를 기울이고, 데이터의 품질에 집중하여 GenAI 모델이 양질의 결과를 제공할 수 있도록 해야 한다. 또한 데이터 및 콘텐츠의 소유권 및 사용과 관련하여 제공업체 및 파트너와 명확한 계약 및 정책이 필요하다.
3. 강력한 QA(품질보증) 및 검증 프로세스 개발
2022년 11월 OpenAI가 ChatGPT를 출시한 이후 GenAI는 많은 발전을 이루었지만, 이 기술은 완벽하지 않으며 부정확하거나 편향적이거나 비윤리적인 결과를 초래할 수 있으며 정확한 응답에 필요한 정보가 부족할 때 종종 엉뚱한 답변을 만들거나, 착각을 하기도 한다. LLM이 문서를 요약(how often LLMs introduce hallucinations)할 때 잘못된 답변이 얼마나 자주 생기는지 추적하는 GitHub의 리더보드에 따르면 최근 최저 3%에서 최고 16%에 이르는 오답이 발생했으며, 이러한 오류는 사회적으로나 비즈니스적으로 상당한 영향을 미칠 수 있다.
예측, 분석, 인사이트, 의사 결정에 AI를 사용하는 조직의 경우 AI 오류는 상당한 재무 및 운영상의 위험을 초래할 수 있으며, 이러한 결과에 기반한 전략은 기회를 놓치거나 리소스를 잘못 할당하고 목표를 놓치는 결과를 초래할 수 있다.
조직은 데이터 품질에 중점을 둔 품질 보증 프로세스를 구축하여 이러한 문제를 해결할 수 있다. 조직은 모델을 감독하는 데 도움을 주는 인간 전문가를 적시에 참여시켜 부정확성과 불일치가 없는지 AI 결과를 더 잘 모니터링할 수 있다.
강력한 품질 보증 및 검증 프로세스를 개발하여 GenAI 결과물이 표준과 기대치를 충족하는지 확인해야 한다. 또한 필요할 때 결과물을 모니터링하고 수정할 수 있는 사람 중심의 메커니즘을 마련해야 한다. GenAI가 고객과 이해관계자에게 미치는 영향을 투명하고 책임감 있게 파악하고, 부정확하거나 일관되지 않은 응답을 식별하고 수정하여 모델을 더 잘 학습시키면서 오답을 최소화할 수 있다.
4. AI를 도입해 실제 비즈니스 문제 해결과 ROI 달성에 집중하기
모든 비즈니스 리더는 해결해야 할 실제 비즈니스 문제를 찾아내고 투자 수익을 창출하는 방법을 결정해야 할 책임이 있다. GenAI는 비즈니스 팀과 IT 팀이 실험해보고 싶어 하는 기술이다.
AI가 해결할 수 있는 일반적인 실제 비즈니스 요구 사항에는 실행 가능한 인사이트를 위한 예측 데이터 분석, 비즈니스 프로세스 최적화를 위한 자동화, 고객 및 직원 경험 개선 등이 있다.
GenAI가 실질적인 이점을 제공하지 않는다면 파일럿 및 프로젝트로 진행될 더 많은 기회를 얻지 못할 가능성이 높다. 프로젝트를 실행하는 팀이 첫해에 비용을 지불하고 프로젝트를 지속할 의지가 없다면 해당 프로젝트를 훨씬 더 열심히 살펴봐야 한다.
조직은 해결할 수 있는 실제적인 비즈니스 문제(일반적으로 데이터 분석 및 프로세스 자동화와 관련된 문제)에 AI기술을 적용하는 방안을 고려해야 한다. ROI를 평가할 때는 직접적인 금전적 이익뿐 아니라 효율성 및 정확성 향상, 비용 절감, 의사 결정 개선 등 모든 잠재적 이점을 고려해야 한다. 첫해에 손익분기점을 달성할 수 없는 프로젝트 제안은 더욱 면밀히 검토하고 그에 따라 우선순위를 정해야 한다.
5. 파일럿 프로젝트에서 배우기
팀이 ROI를 위해 노력했지만 성공하지 못했다고 해서 반드시 실패한 것은 아니며, 이러한 ‘실패’를 통해 얻은 교훈을 관련 프로젝트에 적용하면 큰 도움이 될 수 있다. 게다가 AI의 특성상 모든 결과를 정확하게 예측할 수는 없다. 실제로 최근 하버드 비즈니스 리뷰의 기사에 따르면 AI 프로젝트의 80%가 실패한다(80% of AI projects fail)는 추정하고 있다.
엔터프라이즈 GenAI는 운영 프로덕션에서 배포, 실행 및 유지 관리하는 데 많은 비용이 들 수 있으므로 파일럿을 통해 검증할 수 있다. 실패로 보일 수 있는 초기 프로젝트가 나중에 큰 성공으로 이어질 수도 있고, 처음부터 기대한 대로 작동하지 않아 AI를 쓰레기 더미에 버린 것을 후회할 수도 있다.
새로운 기술을 지속적으로 배우고, 비즈니스에 적합한지를 테스트하고, 실행 방식까지 먼저 확인해볼 수 있는 AI 파일럿 프로젝트를 개발 및 구현해야 한다. 파일럿 프로젝트로 효과가 입증된 경우, 확장 가능 여부를 결정하고 학습한 내용을 관련 프로젝트에 적용해야 한다.
리미니스트리트, 생성형AI 활용을 위한 유연한 IT 전략 운영 지원
혁신적인 AI 기술 발전의 규모와 속도는 계속 가속화되고 있다. AI의 잠재적 기회는 무궁무진하지만, 그에 따른 도전과제도 여전히 상당하다. 위험 요소가 무엇인지 인식하고 이를 효과적으로 관리하는 방법을 알고 있어야 하지만, 일단 게임에 뛰어드는 것은 필수적이다.
GenAI를 활용하여 경쟁에서 앞서 나가려는 금융 서비스 리더라면 유연한 IT 전략을 유지하고, 데이터 보안과 품질을 우선시하며, 강력한 QA 및 검증 프로세스를 개발하고, 실제 비즈니스 문제와 ROI에 집중하고, 파일럿 프로젝트를 통해 배워야 한다.
리미니스트리트는 조직이 리소스를 재할당하여 혁신을 촉진하고, 경쟁 우위를 확보하고, 성장을 가속화하여 성공적인 AI 전략을 수립할 수 있도록 전문적인 지원 서비스를 제공한다.