인공지능(AI) 기술은 의료, 금융, 제조 등 다양한 산업 분야에서 혁신을 일으키고 있습니다. 그러나 이와 동시에 신뢰(Trust), 위험 관리(Risk Management), 그리고 보안(Security)과 같은 문제를 어떻게 다룰지에 대한 고민도 깊어지고 있습니다. 이러한 상황에서 ‘AI Trust, Risk, and Security Management’의 약자인 AI TRiSM이 주목받고 있습니다. 기업과 조직이 AI를 보다 안전하고 효과적으로 활용할 수 있도록 돕는 핵심 프레임워크인 AI TRiSM은 앞으로의 AI 도입 과정에서 필수적인 가이드라인으로 자리 잡을 전망입니다.  AI TRiSM의 핵심 요소 신뢰 (Trust)AI 시스템이 편향 없이 공정하고 투명하게 작동하도록 보장하는 것이 핵심입니..

개인정보가 가장 가치 있는 데이터로 손꼽히는 이유는 바로 활용성이 높기 때문입니다. 다양한 산업군에서 비즈니스와 직결되는 중요한 정보이고, 소위 말하는 ‘돈이 되는’ 데이터죠. 그렇기 때문에 역사적으로도 각종 해킹 수단을 활용한 불법 탈취가 지속적으로 발생하는 것이고, 이에 상응하는 법적인 보호조치도 마련돼 왔습니다. 그리고 그 이후에 안전하게 보호하면서 활용하는 방법도 등장하게 된 거죠.​문제는 이 활용 측면에서 여전히 제대로 된 보호조치가 이뤄지지 않는다는 점입니다.​ 올 초까지만 해도 이 정형데이터에 대한 처리 기준만을 제시하고 있었는데요. 지난 2월 비정형데이터의 가명처리 기준도 새롭게 발표되면서, 가이드라인이 좀 더 명확해졌습니다. 이에 대한 내용은 지난 포스팅에서 한 번 다뤘으니, 함께 참고하..

최근 해커 플리니 프롬프터(Pliny the Prompter)가 GPT 스토어에 '갓모드 GPT (Godmode GPT)'라는 프로그램을 공개했습니다. 갓모드 GPT는 챗GPT의 탈옥(Jail Breaking) 모드로, 인종, 성별, 종교에 대한 편향된 발언, 욕설, 범죄 수법 등 유해한 정보를 제공하지 못하도록 설계된 필터를 우회해 비윤리적인 정보 생성이 가능합니다.   이 모드를 통해 AI 챗봇은 욕설을 하거나 메스암페타민 제조 방법, 자동차 탈취, 폭탄 제조법 등을 안내할 수 있습니다. ​실제로 갓모드 GPT는 사람에게 유해한 정보를 무분별하게 생성해 AI의 취약점에 대한 경각심을 일깨워줬습니다. ​생성형 AI를 대상으로 하는 프롬프트 주입 공격 방식은 크게 두가지 방식으로 나뉩니다. 갓모드 GPT..

전 세계적으로 AI가 눈부신 발전을 이루고 있습니다. 동시에 여러 사회적 문제도 수면 위로 떠오르고 있는데요. AI를 활용해 이미지, 오디오를 합성한 딥페이크부터 잘못된 정보와 오류, 편향까지 다양한 문제가 존재합니다. 이런 심각한 AI 부작용을 차단하고자 전 세계적으로 AI 시스템 규제의 목소리가 나오고 있습니다. 지난 21일 AI의 부작용과 관련해 인간과 기업의 기본권을 보장하며 국제적 기준을 제시하고자, 유럽연합(이하 EU)에서 세계 최초 AI 규제법인 EU AI ACT (이하 AI 법) 시행을 확정했습니다. EU AI 법은 각 분야 AI 기술에 대한 허용 범위와 규제 대상 등을 포괄적으로 규정한 법인데요. 각국에서 AI 관련 입법을 서두르는 가운데 가이드라인 역할을 할 법안으로 예상됩니다.    ..

지난달 24일, 어도비(Adobe)는 생성형 AI 파이어플라이(Firefly)의 후속 모델 ‘어도비 파이어플라이 이미지 3 파운데이션(Adobe Firefly Image 3 Foundation)’의 베타 버전을 공개했습니다. 어도비는 해당 모델이 텍스트 프롬프트 관련 이해도가 향상돼 전보다 풍부한 디테일이 담긴 이미지를 만들 수 있다고 설명했습니다.  생성형 AI 도구들은 주로 오픈된 공간의 콘텐츠를 학습합니다. 그래서 본 콘텐츠 소유자가 저작권 문제를 제기할 수 있습니다. 문화체육관광부는 생성형 AI 저작권 이슈가 화두에 오르자, 를 배포하기도 했습니다. 해당 안내서엔 AI 사업자가 적절한 보상법으로 적법한 이용 권한을 확보해야 하며, AI 이용자는 입력하는 데이터가 누군가의 저작권 침해를 유도하지 않..

행사명 : AI EXPO KOREA 2024 (국제인공지능대전)일시 : 2024년 5월 1일(수) ~ 3일(금) 10:00 ~ 17:00장소 : 서울 COEX 3층 HALL D개최 규모 : 약 300개사 500부스주최/주관 : (사)한국인공지능협회, ㈜서울메쎄, 인공지능신문   AI EXPO KOREA 2024 국제인공지능대전 | Fasoo파수가 5월 1일(수) ~ 3일(금) 코엑스 Hall D에서 개최되는 AI EXPO KOREA 2024 국제인공지능대전에 참가합니다. 부스를 통해 AI 전문기업 파수의 AI 솔루션들을 소개합니다. www.fasoo.com 제7회 AI EXPO KOREA 2024 (국제인공지능대전)이 5월 1일부터 3일까지 총 3일간 서울 COEX 3층 D홀에서 성황리에 개최됐습니다.​..