최근 해커 플리니 프롬프터(Pliny the Prompter)가 GPT 스토어에 '갓모드 GPT (Godmode GPT)'라는 프로그램을 공개했습니다. 갓모드 GPT는 챗GPT의 탈옥(Jail Breaking) 모드로, 인종, 성별, 종교에 대한 편향된 발언, 욕설, 범죄 수법 등 유해한 정보를 제공하지 못하도록 설계된 필터를 우회해 비윤리적인 정보 생성이 가능합니다.   이 모드를 통해 AI 챗봇은 욕설을 하거나 메스암페타민 제조 방법, 자동차 탈취, 폭탄 제조법 등을 안내할 수 있습니다. ​실제로 갓모드 GPT는 사람에게 유해한 정보를 무분별하게 생성해 AI의 취약점에 대한 경각심을 일깨워줬습니다. ​생성형 AI를 대상으로 하는 프롬프트 주입 공격 방식은 크게 두가지 방식으로 나뉩니다. 갓모드 GPT..

기술의 발전은 놀랍습니다. 과거에는 상상하지 못했던 일들이 현재에는 당연한 것으로 여겨지곤 하는데요. 그 예로 스마트폰과 전기 자동차, 생성형 AI의 등장 등이 있습니다. 학창 시절을 떠올려 보면, 당시 256MB 용량의 MP3를 통해 음악을 들었던 기억이 나는데요^^ 당시에는 지금의 스마트폰을 상상조차 할 수 없었습니다. 지금 우리에게는 너무도 익숙한 배달 앱도 존재하지 않아서 배달 음식을 주문하려면 전단지나 책자를 찾아 직접 전화를 걸어야 하기도 했죠. “AI 기술은 우리의 삶을 어떻게 바꾸게 될까…?” 최근 AI와 관련된 기사를 보면 이런 생각을 자주 하게 됩니다. 2022년, 생성형 AI ChatGPT의 첫 등장 이후로 높아진 AI에 대한 관심은 시간이 갈수록 점점 커지고 있는데요. AI 기술은 ..

요즘 생성형 AI를 이야기할 때마다 빠지지 않고 등장하는 것이 있습니다. ‘LLM’, 많이 들어보셨죠? 오늘은 LLM에 대한 정의와 그와 비슷하면서도 다른 개념인 맞춤형 LLM, ‘sLLM’에 대해 알아보는 시간을 가져보려 합니다. 또한, 이런 모델들이 기업에서 어떻게 적용되고 있는지에 대한 구체적인 사례도 함께 살펴보도록 하겠습니다. LLM과 sLLM은 모두 대형 언어 모델(Large Language Model)의 일종입니다. 언어 모델은 문장 안에 문맥을 파악해 단어 뒤에 어떤 단어가 등장해야 문장이 자연스러운지 확률적으로 예측하는 도구입니다. LLM과 sLLM의 정의 대형 언어 모델, 거대 언어 모델, 대규모 언어 모델(Large Language Model, LLM) LLM은 AI 챗봇 기술을 가능..

ChatGPT, Google Bard, Bing Chat··· 이들은 대표적으로 우리에게 잘 알려진 퍼블릭 생성형 AI 서비스입니다. 생성형 AI 서비스는 대형 언어 모델(LLM, Large Language Model) 기반의 대화형 인공지능 서비스로, 거대한 양의 정보와 패턴을 학습하고 훈련해 새롭고 독창적인 콘텐츠를 제공합니다. LLM 기반의 생성형 AI는 광범위한 유용성을 가지고 있어 관련 시장은 빠르게 확장되고 있으며, 다른 레벨의 경쟁 우위 및 가치 창출 기회를 제공할 것으로 예측돼 더 많은 관심을 받고 있습니다. 하지만, 기업 및 기관들의 퍼블릭 AI 활용 과정에서 발생할 수 있는 업무상 비밀ㆍ개인정보 유출 위험성 및 제공받는 정보의 오류 또는 편향성이 존재하기에, 별도의 보안 교육, 가이드라..