최근 해커 플리니 프롬프터(Pliny the Prompter)가 GPT 스토어에 '갓모드 GPT (Godmode GPT)'라는 프로그램을 공개했습니다. 갓모드 GPT는 챗GPT의 탈옥(Jail Breaking) 모드로, 인종, 성별, 종교에 대한 편향된 발언, 욕설, 범죄 수법 등 유해한 정보를 제공하지 못하도록 설계된 필터를 우회해 비윤리적인 정보 생성이 가능합니다.   이 모드를 통해 AI 챗봇은 욕설을 하거나 메스암페타민 제조 방법, 자동차 탈취, 폭탄 제조법 등을 안내할 수 있습니다. ​실제로 갓모드 GPT는 사람에게 유해한 정보를 무분별하게 생성해 AI의 취약점에 대한 경각심을 일깨워줬습니다. ​생성형 AI를 대상으로 하는 프롬프트 주입 공격 방식은 크게 두가지 방식으로 나뉩니다. 갓모드 GPT..

지난달 24일, 어도비(Adobe)는 생성형 AI 파이어플라이(Firefly)의 후속 모델 ‘어도비 파이어플라이 이미지 3 파운데이션(Adobe Firefly Image 3 Foundation)’의 베타 버전을 공개했습니다. 어도비는 해당 모델이 텍스트 프롬프트 관련 이해도가 향상돼 전보다 풍부한 디테일이 담긴 이미지를 만들 수 있다고 설명했습니다.  생성형 AI 도구들은 주로 오픈된 공간의 콘텐츠를 학습합니다. 그래서 본 콘텐츠 소유자가 저작권 문제를 제기할 수 있습니다. 문화체육관광부는 생성형 AI 저작권 이슈가 화두에 오르자, 를 배포하기도 했습니다. 해당 안내서엔 AI 사업자가 적절한 보상법으로 적법한 이용 권한을 확보해야 하며, AI 이용자는 입력하는 데이터가 누군가의 저작권 침해를 유도하지 않..

행사명 : 2024 공공·금융·기업 개인정보보호&정보보안 컨퍼런스(G-PRIVACY 2024) 일시 : 2024년 3월 12일(화) 09:00 ~ 17:00 장소 : 양재 더케이호텔서울 2층 가야금홀 및 로비 주최 및 주관 : 데일리시큐 G-Privacy 2024 행사 요약 G-PRIVACY 2024, AI 시대의 통합 개인정보 보호 전략 | Fasoo 파수가 3월 12일 (화) 개최된 2024 공공·금융·기업 개인정보보호 & 정보보안 컨퍼런스 G-Privacy 2024에 참가했습니다. 부스와 세션 발표를 통해 파수의 정보보안 및 AI 솔루션을 소개시켜드리며, 많은 www.fasoo.com 파수가 행사에 다녀왔습니다! G-Privacy는 전 분야의 정보보안 책임자 및 실무자를 대상으로 매년 개최하는 행사..

크리스토퍼 놀란 감독의 영화, 보셨나요? 국내에선 2023년 6월에 개봉해 관객수 300만명을 넘기며 꽤 흥행을 했던 작품인데요. 세계 최초 핵무기 개발 프로젝트인 ‘맨해튼 프로젝트’에서 주도적인 역할을 담당한 물리학자, 로버트 오펜하이머의 전기를 다룬 영화입니다. 오펜하이머와 팀원들은 성공적으로 원자폭탄 개발에 성공하고, 이를 통해 미국은 제2차 세계대전에서 승전국이 됩니다. 하지만 오펜하이머는 원자폭탄으로 인해 수십만 명의 사망자가 발생했다는 사실에 공포와 죄책감에 시달리는데요. 영화는 오펜하이머의 이런 인간적인 고뇌를 섬세하게 표현합니다. 기술의 발전에는 명과 암이 존재합니다. 현재 IT 업계에서 큰 주목을 받고 있는 생성형 AI 역시 마찬가지인데요. 원자폭탄을 둘러싼 오펜하이머의 고뇌처럼, 최근 ..

새해부터 AI 관련주부터 AI 챗봇 마켓 등 AI에 대한 관심이 정말 뜨겁습니다. 여러 기업들의 신년사에서 빠지지 않고 등장하는 키워드 역시 AI입니다. 2023년부터 AI 제품 및 서비스를 출시한 파수 역시 ‘Make AI Easy and Simple’이라는 슬로건 아래 다양한 활동을 준비하고 있습니다. 고객들이 AI를 보다 쉽고 간단하게 활용할 수 있도록 지원하는 AI 전문 기업으로 거듭나겠다는 의미인데요. 오늘은 파수의 전반적인 제품 라인업을 소개하면서, 파수의 AI 비전에 대해 간략하게 말씀 드리고자 합니다. 어떤 기업이 나아가고자 하는 방향을 알고 싶다면 ‘그 기업의 신년사를 확인해 보라’는 말이 있죠. 대표 홈페이지도 마찬가지입니다. 기업의 홈페이지를 둘러보다 보면 해당 기업이 어떤 가치를 추..

글로벌 IT 리서치 기관 가트너(Gartner)의 '생성형 AI 우려사항에 대한 IT 경영진 설문조사'에 따르면 응답자의 42%가 개인정보보호에 대해 우려하고 있으며, 환각/할루시네이션(14%), 보안(13%) 등이 그 뒤를 이었습니다. 기업 및 기관들은 대규모 언어모델에 기반한 대화형 인공지능 서비스를 활용해 새로운 비즈니스 기회 창출 및 가치 제고를 위해 다양한 시도를 하고 있습니다. 그러나 이처럼 대규모 언어 모델(LLM)로 일상적인 대화는 물론 복잡한 추론 작업을 해내는 생성형 AI 시대가 열리면서, 예기치 못한 변수가 발생했습니다. 그것은 바로 개인정보가 유출되는 보안 취약점입니다. 생성형 AI의 데이터 수집 과정, 학습 과정, 및 활용 과정에서 발생할 수 있는 대표적인 사례는 아래와 같습니다...