AI-Ready Security, 스크린 협박글 사례를 통해 알아보는 생성형 AI 정보 유출 방지(DLP)의 중요성

연말이 다가오며, 거리가 화려해지고 있습니다. 다양한 장식과 불빛들로 모두가 기분이 좋아지는 연말 시즌, 대형 전광판(디스플레이 스크린) 이슈로 곤혹을 겪은 사건이 있었는데요. 건물 외부에 설치된 대형 전광판에 눈살이 찌푸려지는 메시지가 송출된 사건입니다.

서울 한복판 대형 전광판에 실시간으로 범죄를 암시하는 메시지가 걸린건데요. 거리를 지나던 시민들이 이 장면을 목격했고, 해당 이슈는 각종 SNS와 인터넷 커뮤니티를 뜨겁게 달궜습니다.

의외로 비슷한 사건이 종종 일어납니다. 신제품 홍보를 원하는 기업이 SNS 채널에서 n행시 이벤트를 개최할 때, 댓글이 부적절한 키워드들로 도배되는 당황스러운 상황을 예시로 들 수 있죠.

​

연말 시즌을 맞아 화려해진 거리

 

이 사건들은 공통점이 있습니다. 외부에서 시스템을 해킹하는 등의 공격 행위가 없다는 점인데요. 전광판 사건도 마찬가지로 크리스마스 시즌에 맞춰 주최사 측에서 준비한 이벤트 과정에서 일어난 일이죠.

해당 전광판에는 시민들이 작성한 크리스마스 축하 메시지가 올라갔습니다. 지나가는 시민들이 전광판 앞 QR코드를 찍고 메시지를 입력하면, 해당 메시지가 실시간으로 전광판에 송출되는 이벤트였는데요. 이 과정에서 누군가 부적절한 메시지를 입력했고, 실시간으로 송출됐습니다.

물론 비속어를 포함한 금칙어를 필터링하는 시스템이 도입돼 있었습니다만, 특정 단어가 걸러지지 않았습니다. 쇼핑몰 측에서는 즉시 이벤트를 중단했으며, 해당 메시지 작성자에 대한 고소장을 제출했습니다.

​

건물 외부에 설치된 대형 전광판(디스플레이 스크린)

 

시민들에게 즐거움을 주기 위해 진행한 이벤트인데, 누가 이런 결과를 예상이나 했을까요? 심지어 유사시를 대비한 시스템도 갖춘 상태였죠. 파수는 이 사건을 보면서 우리 보안 환경과 참 닮아있다는 생각이 들었습니다.

보안이 필수가 된 디지털 사회에서, 우리는 어떤 방식으로든 보안 위협에 대비하고 있습니다. 보안 솔루션 도입, 보안 의식 교육, 정보보호 컨설팅 등 다양한 방법이 있죠. 그런데 시간이 지나고 새로운 기술이 등장할수록, 보안 위협의 범위는 넓어집니다. 예상치 못한 예외 상황이 언제든 발생할 수 있죠. 이번 사건도 비슷합니다. 새롭게 시도한 전광판 이벤트, 즉 외부에 공개되는 시스템에 입력하는 데이터에 대한 통제가 제대로 이뤄지지 못한 사례입니다.

​

입력하는 데이터에 대한 통제

 

새로운 환경에는 항상 새로운 위험이 있습니다. 새로운 업무 환경도 마찬가지죠. 이번 사건과 비슷한 예로, 생성형 AI 서비스를 업무에 사용하는 과정에서 내부 데이터가 유출되는 상황이 있을 수 있습니다.

워낙 이슈가 되니 생성형 AI 서비스는 벌써 익숙해졌습니다만, 업무 활용 측면에서는 아직 초기 단계라고 볼 수 있습니다. 기술이 발전하고 서비스가 점점 정교해지고 있는 만큼, 어떤 방식으로든 앞으로의 업무 환경에서 활발히 활용될 것이라는 점은 분명합니다.

생성형 AI 서비스를 업무에 활용할 때, 이번 사건과 유사한 문제가 발생할 수 있는데요. 서비스 플랫폼에 입력한 데이터가 외부로 유출되는 상황입니다. 생성형 AI는 이용자가 입력한 텍스트, 코드, 이미지 등의 데이터를 학습합니다. 학습된 데이터를 바탕으로 타 이용자에게 정보를 제공하는데요. 업무 과정에서 조직의 민감 데이터 혹은 고객의 개인정보를 입력했다면? 그대로 해당 서비스 서버에 저장되고, AI가 학습해 외부 인원에게 공개하는 참사가 일어날 수 있죠. 자발적으로 민감 데이터를 유출하는 꼴이 되는 겁니다.

​

AI-Ready ,생성형 AI를 활용하기 위한 준비

 

이제 우리는 생성형 AI를 업무에 사용하는 새로운 환경을 준비해야 합니다. 글로벌 IT 리서치 기관 가트너(Gartner)는 이 과정을 ‘AI-Ready’라고 합니다. 앞서 말씀드린 생성형 AI 관련 보안 준비는 ‘AI-Ready Security’라고 부르죠. 생성형 AI 서비스가 등장한 시점부터 파수는 AI-Ready Security의 필요성을 인지하고 있었습니다. ChatGPT와 같은 생성형 AI 서비스 플랫폼을 통한 정보 유출을 방지하는 솔루션을 개발했고, 그 결과물이 Fasoo AI-Radar DLP (이하 AI-R DLP)입니다.

AI-R DLP는 생성형 AI서비스에 대한 접근권한을 관리하고, 입력 데이터를 모니터링 및 통제합니다. 조직의 핵심 기술, 영업기밀, 개인정보 등 민감한 데이터가 유출되는 상황을 방지하죠. 관리자는 특정 IP, 데이터 크기, 개인정보, URL 등 세부적인 차단 정책을 설정할 수 있고, 사용자들의 주요 검사 기록 또한 확인할 수 있습니다.

정리하자면, 생성형 AI를 활용해 업무 생산성을 높이되, 내부 정보의 유출 없이 안전하게 활용할 수 있는 환경을 준비하는 AI-Ready Security 솔루션입니다.

​

파수 생성형 AI 정보유출방지 | Fasoo AI-R DLP, AI-Ready Security

 

 

생성형 AI 서비스의 편의성, 생산성에서의 장점은 이제 모두가 인지하고 있습니다. 편하고 효율적인 서비스임은 분명하지만, 보안상의 리스크를 가지고 있다는 점 또한 분명하죠.

물론 아예 사용하지 않고 보안 리스크를 없애는 방법도 있습니다만, 업무 환경에 따라 생성형 AI 서비스가 엄청난 이점을 가져다 주는 경우가 있을 수 있습니다. 이 경우 안전한 활용 환경을 구축해 보안 리스크를 최소화해야 합니다. 중요 정보의 유출은 차단하면서 서비스의 이점은 누릴 수 있도록 해야죠.

 

생성형 AI 서비스를 활용하고 싶은데, 보안 문제로 고민하고 계신가요? 파수한테 말씀해주시면, 고민이 AIR처럼 가벼워질 수 있습니다!

​

파수 제품 문의하기 | Fasoo Contact Us

 

​