인공지능(AI) 기술은 의료, 금융, 제조 등 다양한 산업 분야에서 혁신을 일으키고 있습니다. 그러나 이와 동시에 신뢰(Trust), 위험 관리(Risk Management), 그리고 보안(Security)과 같은 문제를 어떻게 다룰지에 대한 고민도 깊어지고 있습니다. 이러한 상황에서 ‘AI Trust, Risk, and Security Management’의 약자인 AI TRiSM이 주목받고 있습니다. 기업과 조직이 AI를 보다 안전하고 효과적으로 활용할 수 있도록 돕는 핵심 프레임워크인 AI TRiSM은 앞으로의 AI 도입 과정에서 필수적인 가이드라인으로 자리 잡을 전망입니다.  AI TRiSM의 핵심 요소 신뢰 (Trust)AI 시스템이 편향 없이 공정하고 투명하게 작동하도록 보장하는 것이 핵심입니..

개인정보위원회(이하 개인정보위)는 올해 초 AI 챗봇 서비스 대상으로 과징금 및 과태료를 부과한 일이 있었습니다. AI 챗봇의 동성애 혐오와 성차별적 발언에 대한 윤리적인 문제도 있었지만, 해당 서비스 개발에 사용된 정보가 당초 고지 목적과 다르게 사용됐다는 점에서 과태료 조치를 받게 된 것이죠. 동의를 얻은 개인정보는 반드시 원래 고지 목적에 따라 활용되거나, 본래 고지 목적과 다르게 활용할 경우, 안전한 가명처리가 동반돼야 한다는 점, 파수가 항상 강조해왔던 부분입니다. 개인정보위는 해당 서비스 시정 명령에 그치지 않고, AI 사업자 및 개발자를 위한 개인정보보호 자율점검표를 발표했는데요. 앞선 사태를 간과하지 않고, 재발하는 것을 철저히 막겠다는 의지로 보여집니다. 제 2의 개인정보 유출 사태를 방..

4차산업혁명, 이제는 너무나도 많이 들어보신 키워드죠? 인공지능(AI), 사물인터넷(IoT), 자율주행, 가상현실(VR) 등이 주도하는 차세대 산업혁명을 말하는 4차산업혁명은 정보통신기술(ICT)의 융합으로 대표돼 과거의 어느 시대보다도 세상을 빠르게 변화시키고 있는 중입니다. 거기에 더해 지난해부터 팬데믹이 겹쳐지면서, 우리는 또 다시 새로운 일상을 맞이하게 됐고, 변화하는 디지털 세상 속에서 준비를 제대로 하지 않으면 도태될 수 밖에 없는 환경에 처하게 됐습니다. 실제로 역사학자들은 20세기의 시작이 단순히, 1900년부터가 아니라 1차세계대전 종료 이후인 1918년 이후라고 보는 시각이 훨씬 더 많습니다. 21세기도 마찬가지가 아닐까 합니다. 물리적인 세상에서 디지털 세상으로 그 중심이 이동하게 된..