뜨거웠던 생성형 AI & 보안 컨퍼런스 FDI 2024의 현장, Get AI-Ready: Enterprise LLM, Data and Security

2024. 4. 9. 17:05IT 트렌드가 한눈에!

<행사 개요>

행사명 : Fasoo Digital Intelligence 2024

일시 : 2024년 4월 3일(수) 13:30 ~ 17:30

장소 : 페어몬트 앰배서더 서울 여의도 – 그랜드볼룸(B1층)

주최 : Fasoo & Sparrow

*FDI 2024 홈페이지 바로가기

 

파수의 연례 행사인 Fasoo Digital Intelligence 2024 (FDI 2024) 행사가 성황리에 개최됐습니다.

이번 FDI 2024는 Get AI-Ready: Enterprise LLM, Data and Security (AI 시대를 위한 준비: 엔터프라이즈 LLM, 데이터 그리고 보안)를 주제로 진행됐는데요. 시대를 반영한 주제인 만큼, 각 분야의 기업 및 기관의 CIO, CISO, AI 관련 실무자 등 약 400여명의 고객 분들이 행사장을 가득 메워주셨습니다.

 

 

FDI 2024는 생성형 AI를 도입하고 활용할 수 있는 구체적인 방안과 그 과정에서 간과하기 쉬운 보안 및 데이터 준비 문제를 해결할 수 있는 인사이트를 공유하는 자리였습니다. 행사는 패널 토의를 포함한 전문가들의 세션과 제품을 직접 체험해볼 수 있는 데모 부스로 구성됐는데요. 행사 이후에도 많은 참관객분들이 자료 전달을 요청하시는 등 뜨거운 관심을 보여주셨습니다.

아쉽게도 이번 행사는 장소 및 여건상 초청 고객 한정 형식으로 진행됐습니다. 그래서 오늘은 행사에 참석하지 못한 분들을 위해 FDI 2024의 세션 몇 가지를 간략하게나마 정리하는 포스팅을 준비했습니다!

Fasoo Digital Intelligence 2024

 

FDI 2024의 시작을 연 Key Note 세션은 파수 조규곤 대표이사의 <Get AI-Ready, Enterprise LLM, Data and Security> 발표였습니다. 생성형 AI가 바꿔놓은 업무 환경과 앞으로의 전망을 제시했습니다.

이전의 지식 경영이 사람의 지식을 문서화 및 데이터베이스화 하는데 초점을 맞췄다면, 이제는 지식 경영의 축이 대형언어모델 (LLM)로 옮겨가고 있음을 설명했는데요. 그럼에도 기존 지식의 시스템화, 즉 문서화 및 데이터베이스화가 제대로 돼있지 않다면 LLM으로의 이전이 불가능함을 강조했습니다. 쉽게 정리하자면, ‘사내 데이터 관리의 중요성’을 강조한 내용인데요. 시대의 변화로 LLM의 도입이 일반화될 업무 환경에서, 이를 학습시킬 수 있는 조직내 데이터 관리가 필수적이라는 내용입니다.

이후엔Public LLM과 Private LLM, 사전 학습과 벡터화 등을 비교하며 향후 다양한 목적의 Private LLM을 다수 도입해 사용하게 될 것이라고 전망했습니다.AI-Ready Data Platform / Enterprise LLM / Data Security Platform 세 가지의 분류로 고객의 AI 활용 과정을 다방면으로 지원할 수 있는 파수의 AI 포트폴리오를 소개했습니다.

Get AI-Ready, Enterprise LLM, Data and Security

 

다음은 윤경구 본부장의 <Enterprise LLM, 기업 IT의 미래> 세션이었습니다. LLM이 무엇인지, LLM의 지능을 기업 지능으로 발전시켜 비즈니스에 활용할 수 있는 방안이 무엇인지 설명했습니다.

빠른 속도로 발전하고 있는 LLM 기술 및 시장 동향을 설명하며, 앞으로 기업 및 기관에서 적극적으로 활용할 소형언어모델 (sLLM)과 그 대표적 예시인 파수의 Enterprise LLM (이하 Ellm)을 소개했습니다.

Private LLM인 Ellm의 구성 요소를 지능 (Ellm CX) / 검색을 통한 지식 정보 연결 (Fasoo RAG) / 학습을 통한 지식 정보 연결 (Fasoo Pre-Trainer)로 나눠 설명했는데요. 한글과 영어 대화 능력을 갖춘 AI 모델 Ellm CX에 검색 능력과 학습을 더해 하나의 Private AI 솔루션 Ellm을 구축하는 과정을 보여줬습니다.

뿐만 아니라, 기업의 데이터를 지능화하는 과정에서 문서, DB, 도메인 등에 산재된 데이터를 추출하고 정제해 불필요한 데이터를 최소화하는 모델 Fasoo Data FX를 소개하며, Ellm의 구축 프로세스와 우수성을 설명했습니다.

Enterprise LLM, 기업 IT의 미래

Ellm 전문 컨설턴트 만나러 가기

 

김용길 본부장의 <AI-Ready Data Platform> 세션이 뒤를 이었습니다. Key Note 세션에서 강조한 LLM 활용을 위한 데이터 관리 방안을 구체적으로 제시했습니다.

먼저, LLM 학습을 위한 데이터의 필요 조건을 제시했습니다. 데이터의 양, 품질, 가용성, 접근 권한을 모두 고려해야 양질의 학습이 가능하다는 설명입니다. 이어서 이 필요조건을 만족할 수 있는 AI-Ready Data 플랫폼, Wrapsody를 소개했는데요. 조직 내 데이터가 생성되는 시점부터 서버와 자동 동기화해, 언제 어디서든 항상 최신 버전의 데이터를 사용할 수 있는 Wrapsody의 특징을 설명했습니다. 관리자가 부여하는 권한에 따라 사용자의 접근을 통제하는 우수한 보안성을 덧붙이며, LLM 구축을 위한 최적의 데이터 관리 솔루션임을 강조했습니다.

Wrapsody 내에서 사용할 수 있는 AI 기능도 함께 소개했는데요. 서버에 저장된 특정 데이터 요약, 데이터 비교, 데이터 기반 QA, Semantic Search 등 AI 기술을 활용해 사용자의 생산성을 향상시킬 수 있는 기능들이었습니다.

AI-Ready Data Platform

Wrapsody 전문가 만나러 가기

 

해당 세션들 외에도 국내외 기업 및 기관의 CISO가 참여한 패널 토의와 공급망 보안 플랫폼, 데이터 보안 플랫폼을 주제로 유익한 발표들이 진행됐습니다. Break Time에는 부스를 통해 세션에 소개된 파수와 ㈜스패로우의 솔루션을 직접 체험해보며 유의미한 시간을 가졌습니다!

 

생성형 AI의 등장과 그로 인한 업무 환경의 변화는 모든 기업 및 기관에게 큰 숙제를 안겨줬습니다. 20년 이상 고객의 업무 환경을 지원해 온 파수는 현 상황에 가지고 계신 고민에 십분 공감하고 있고, 이제 고객의 AI 활용 환경을 지원할 준비를 마쳤습니다.

이번 FDI 2024를 통해 파수의 AI 솔루션들과 비전을 공유해드렸는데요. 앞으로도 지속적인 연구개발을 통해 AI 활용의 전 분야를 지원할 예정입니다. 이번 행사에 보내주신 관심에 감사드리며, AI 전문기업으로 확장해 나가는 파수의 모습을 기대해주시길 바랍니다!