금융보안원, 금융권 AI 보안성 평가 본격 실시! 안전한 AI 활용 환경의 필요성

ChatGPT, 딥시크 등 생성형 AI 기술이 빠르게 발전하면서, 기업 및 기관에서 업무 생산성 향상을 위해 AI를 활용하는 것은 당연한 일이 됐습니다. 지금까지 굳게 닫혀있던 금융권의 망분리 환경도 자율보안체계라는 이름으로 점진적으로 개선되고 있죠.

​

그러나 AI를 업무에 활용하기 위해서는 여전히 해결해야 할 문제들이 남아 있습니다. 정보 유출, 오남용, AI의 편향 학습 등 민감 데이터를 많이 보유한 금융권에서는 더욱 걱정되는 문제이기도 합니다.

 

금융권의 AI 활용을 위한 변화의 흐름

 

이러한 문제를 해결하기 위해 금융보안원은 지난 2월 20일, AI 보안성 평가, 공동 AI 모델 개발 등 금융권이 AI 기술을 안전하게 활용할 수 있도록 지원하는 2025년 주요 수행 업무를 발표했습니다. 금융권의 AI 도입이 보다 안전하고 신속하게 정착될 수 있도록 실질적인 지원책을 마련하려는 시도입니다.

 

 

금융보안원

 

각 지원 내용은 다음과 같습니다.

 

AI 활용을 위한 혁신금융서비스 보안 대책 평가

생성형 AI 활용을 위해 ‘혁신금융서비스’ 지정을 받은 금융회사의 보안대책을 평가하고, 망분리 예외가 적용된 구간에서도 안전하게 AI를 활용할 수 있도록 지원한다는 내용입니다.

​

혁신금융서비스는 기존 금융 서비스와 차별화된 새로운 서비스가 시장에서 테스트될 수 있도록, 일부 규제를 면제하거나 유예해 주는 제도인데요. 즉, 금융 서비스에 AI 활용이 허용된 기업의 안전을 위해 생성형 AI 서비스 운영 및 관리, 해당 AI 모델의 보안조치, 단말기 보안조치 등 보안 대책의 적정성을 평가하겠다는 의미입니다.

 

혁신금융서비스 AI 보안성 평가 세부 내용 / 출처 : 금융보안원 보도자료

​

AI 모델 보안성 검증

기업이 사용할 AI 모델을 대상으로 모의 공격을 수행해 취약점을 찾아내는 방식으로, AI 모델이 오류를 일으키거나 예상치 못한 답변을 생성하는지 점검하는 절차입니다. AI의 잘못된 판단을 유도하기 위해 입력값을 미세하게 조작해 데이터나 모델이 오염됐는지, 올바른 답변을 도출하는지 등을 주로 검증합니다. 이를 통해 AI 모델의 안전성과 신뢰성을 확보할 수 있습니다.

 

 

금융권 AI 모델 보안성 검증 세부 내용 / 출처 : 금융보안원 보도자료

​

금융권 공동 AI 모델 개발 추진

금융권에서 공동으로 사용할 AI 모델 개발을 추진합니다. 연합 학습 (Federated Learning) 기법을 적용해 금융사기 거래 탐지 AI 모델을 개발하고, 개별로 처리하던 금융사기 거래 대응을 금융권 공동 체계로 확장하겠다는 취지입니다. 여기서 말하는 연합 학습 기법이란 각 참여자가 데이터를 공유하지 않고 따로 AI를 훈련한 뒤, 훈련된 모델만 모아 하나로 만드는 기술입니다.

 

금융권 공동 AI 모델 학습 구성도 / 출처 : 금융보안원 보도자료

 

오픈소스 AI 모델 테스트 환경 구축 및 AI 가이드라인 개정

오픈소스 AI 모델을 쉽게 테스트하고 활용할 수 있도록 지원하는 금융권 AI 플랫폼을 구축합니다. 또한, 금융기업에서 AI를 설계 및 개발할 때 안전한 서비스를 구축 할 수 있도록 금융권 AI 가이드라인 개정을 지원할 계획입니다.

 

금융권 AI 플랫폼 구축 개요도 / 출처 : 금융보안원 보도자료

 

이처럼 금융권의 AI 활용을 위한 국가 차원의 지원과 규제가 마련되면서, AI를 보다 안전하고 효율적으로 도입 및 활용할 수 있는 환경이 조성되고 있습니다. 특히, 금융보안원의 다양한 지원책은 금융 기업들이 AI를 안전하게 활용할 수 있도록 방향성을 정하는데 중요한 기준이 됩니다. 이를 통해 금융권은 보안과 신뢰를 강화하면서, 궁극적으로 고객들에게도 더 안전하고 혁신적인 서비스를 제공할 수 있을 것으로 기대​됩니다.

 

하지만 금융권의 AI 도입이 늘어날수록 조직이 부담해야 할 비용과 보안 위협도 함께 증가하게 되는데요. AI 활용 수요는 빠르게 증가하고 있지만, 이를 뒷받침할 전문 인력과 기술 역량도 아직 부족한 상황입니다. AI 시스템을 효과적으로 운영하고 보안을 유지하려면 전문 지식을 갖춘 전문가와 체계적인 관리 시스템이 필수적이지만, 아직은 이에 대한 준비가 충분하지 않은 것이 현실이죠.

 

AI 도입과 함께 증가하는 다양한 비용적 부담

 

일부 기업들은 비교적 손쉽게 도입할 수 있는 Public AI 활용을 고려하기도 합니다. Public AI는 초기 개발과 운영 비용이 낮고, 별도의 인프라를 구축하지 않아도 되기 때문에 AI 도입 고민에 있어서 매력적인 선택지가 될 수 있습니다. 그러나 ​Public AI를 금융 서비스에 적용할 경우, 중요 데이터와 개인정보의 유출 문제를 더욱 면밀히 검토해야 합니다.

 

따라서 Public AI를 안전하게 활용할 수 있는 보안 조치가 반드시 필요합니다. Fasoo AI Radar DLP (이하 AI-R DLP)는 ChatGPT와 같은 Public AI에 입력되는 데이터를 모니터링하고, 민감정보를 검출해 입력을 차단합니다. 패턴 매칭과 자체 딥러닝 기술을 활용해 보다 정확하게 민감정보를 식별하며, 특정 IP, ID 데이터 크기, 개인정보, URL 등 환경에 따른 세부적인 차단 정책을 설정할 수 있습니다.

 

뿐만 아니라, 통합 로그 관리 페이지를 통해 AI 서비스에 접근한 이력부터 전송 데이터 내역, 차단 이력, 검출된 민감 정보 등을 직관적으로 확인할 수 있어 운영의 편의성을 높일 수 있습니다. 생성형 AI 서비스를 활용해 업무 생산성을 향상시키면서, 임직원의 실수로 인해 사내 중요 정보가 유출 및 학습되는 상황을 미연에 방지할 수 있습니다.

 

파수 생성형 AI 정보유출방지 | Fasoo AI-R DLP, AI-Ready Security

 

AI 기술이 하루가 다르게 발전하면서 금융권을 포함한 전 분야의 조직에서 적극적으로 AI를 도입하고 활용하고 있습니다. 그러나 AI 활용 과정에서 발생할 수 있는 정보 유출 문제를 간과해선 안됩니다. 특히 금융권은 민감한 데이터를 다루는 만큼, AI 도입에 앞서 필수적으로 보안 체계를 강화하고 신뢰할 수 있는 활용 환경을 구축해야 합니다.

 

파수는 오랜 기간 축적된 보안 기술을 바탕으로, 기업 및 기관이 보다 안전하고 효율적으로 AI를 활용할 수 있도록 지원하는 다양한 솔루션을 제공하고 있습니다. AI 활용을 고민하고 계시다면 언제든 문의해 주세요!

 

파수 문의하기 | Fasoo Contact Us