글로벌 IT 리서치 기관 가트너(Gartner)의 '생성형 AI 우려사항에 대한 IT 경영진 설문조사'에 따르면 응답자의 42%가 개인정보보호에 대해 우려하고 있으며, 환각/할루시네이션(14%), 보안(13%) 등이 그 뒤를 이었습니다. 기업 및 기관들은 대규모 언어모델에 기반한 대화형 인공지능 서비스를 활용해 새로운 비즈니스 기회 창출 및 가치 제고를 위해 다양한 시도를 하고 있습니다. 그러나 이처럼 대규모 언어 모델(LLM)로 일상적인 대화는 물론 복잡한 추론 작업을 해내는 생성형 AI 시대가 열리면서, 예기치 못한 변수가 발생했습니다. 그것은 바로 개인정보가 유출되는 보안 취약점입니다. 생성형 AI의 데이터 수집 과정, 학습 과정, 및 활용 과정에서 발생할 수 있는 대표적인 사례는 아래와 같습니다...

내 진료 기록이 병원 홈페이지에 그대로 노출된다면? 내 주소와 주민등록번호가 주민센터 홈페이지에 올라가 있다면? 상상하고 싶지 않은 상황입니다. 누구나 접속할 수 있는 공개 홈페이지 게시판에 개인정보 등 민감한 정보가 유출되는 상황이죠. 물론 가장 큰 피해자는 정보를 유출 당한 당사자입니다. 내 개인정보를 누가 확인했으며, 어디에 어떻게 사용할 지 모르는 상황이니까요. 이와 동시에, 개인정보를 유출한 기업 및 기관과 담당자 입장에서도 큰 문제입니다. 개인정보유출에 대한 규제 및 처벌 등 관련 컴플라이언스들은 끊임없이 강화되는 추세고, 기업 및 기관의 신뢰도에도 큰 악영향을 줄 수 있기 때문입니다. 최근 검색 포털에 ‘게시판 개인정보유출’을 검색한 뒤, 뉴스 탭에 들어가보면 꽤 많은 사례를 접할 수 있습니..

OOO 대학교, 해커에 의해 학생 개인정보 수만 건 탈취당해··· OO 기관 직원, 개인정보 무단으로 열람하다 적발··· OO 기업 개인정보 유출로 억대 과징금 부과··· 최근 3년 간 조직에서 유출된 누적 개인정보 건수가 6,500만건에 달한다고 합니다. 매년 1,000만건 이상의 유출 사고가 발생했다고 하는데요. 현재 서울시의 인구가 약 940만명이라는 걸 생각해 볼 때, 현 상황의 심각성이 더욱 크게 느껴지는 것 같습니다. 또한, 개인정보보호위원회가 3년 간 개인정보 보호 관련 기업에 부과한 과징금 및 과태료의 누적액은 약 1,400억원에 달하며, 이는 해마다 점점 증가 추세에 있습니다. 비즈니스 영역에서 개인정보의 가치가 점점 더 중요해지고 있는 만큼, 이를 지키기 위한 강력한 보호 대책 마련의 ..

최근 키워드를 검색하면 하루가 다르게 발생하는 피해 사례를 발견할 수 있습니다. 개인정보를 보유한 조직은 이러한 사례의 주인공이 되지 않도록 유의가 필요한 시점인데요. 개인정보보호법 위반에 따른 처벌 규정이 강화됨에 따라, (의도하지는 않았겠지만) 개인정보를 유출한 조직은 큰 타격을 받을 수 있기 때문입니다. 이러한 리스크는 개인정보보호에 대한 의무를 이행하지 않을 시 개인정보보호위원회(이하 개인정보위)에서 최대 매출의 3%에 달하는 과징금을 요구할 수 있다는 규정을 통해 쉽게 느낄 수 있는데요. 이를 증명하듯이 이번 개인정보위 전체 회의 결과 총 9개의 회사가 고객정보를 유출했다는 이유로 총 10억원이 넘는 과징금을 부과 받기도 했습니다. (ㅎㄷㄷ) 개인정보유출은 더 이상 뉴스 속의 이야기가 아닙니다...