엔터프라이즈

[DBInc] DB그룹 AI 플랫폼 구축

DB Inc.는 DB그룹 내 AI 활용 확대를 위해 LLMOps 기반의 AI 플랫폼 구축을 추진하였습니다. 이를 통해 LLM 개발·검증·배포·운영을 통합 관리하고, AI Agent 서비스까지 확장 가능한 운영 기반을 마련하였습니다.

CheetahSerengeti AI Agent StudioSerengeti CMP

그룹 차원의 AI 활용 확대를 위한 통합 운영 기반 필요

DB그룹 내 다양한 AI 서비스 수요에 대응하기 위해 LLM 운영과 AI Agent 서비스 확장을 안정적으로 지원할 수 있는 공통 플랫폼이 필요했습니다.

LLM 운영과 AI 서비스 확장을 위한 기반 확보

그룹 내 AI 서비스를 안정적으로 개발·운영하고 지속적으로 확장할 수 있는 플랫폼 환경이 필요했습니다.

  • LLM 파인튜닝·서빙 환경 필요: LLM 개발·검증·배포를 위한 운영 환경 필요

  • AI 서비스 라이프사이클 관리 필요: 모델 변경과 서비스 반영을 체계적으로 관리할 체계 필요

  • AI 서비스 품질 관리 체계 필요: 운영 중인 AI 서비스의 성능과 품질 관리 필요

치타 기반 LLMOps 운영 환경 및 세렝게티 AI Agent Studio 구축

LLM 개발부터 운영까지 통합 관리하고, AI Agent 서비스와 연계 가능한 플랫폼 환경을 구축하였습니다.

  • LLMOps 플랫폼 구축: LLM 개발·학습·배포·운영 통합 관리

  • 모델 검증·운영 반영 체계 구성: 신규·업그레이드 모델의 검증 및 서비스 반영 지원

  • AI Agent 서비스 연계 기반 마련: RAG, Tool, GitOps 기반 Agent 운영 구조 확보

그룹 AI 서비스 운영 안정성과 확장성 확보

LLM 운영 체계를 표준화하고 AI 서비스 확장을 지원할 수 있는 그룹 공통 AI 운영 기반을 확보하였습니다.

  • LLM 운영 효율성 향상: LLM 개발부터 서빙까지 운영 과정 통합 관리

  • AI 서비스 적용 속도 개선:검증된 모델을 운영 서비스에 안정적으로 반영

  • 그룹 공통 AI 운영 기반 확보: 인프라, LLMOps, AI Agent 연계 운영 환경 마련

  • 쿠버네티스 기반의 AI 개발 통합 플랫폼이 궁금하다면? → Cheetah
  • 복잡한 업무를 AI 에이전트로 자동화하고 싶다면? → Serengeti AAS
  • 멀티 클라우드 자원 통합 관리가 궁금하다면? → Serengeti CMP

더 궁금한 점이 있으신가요?

에이프리카의 솔루션에 대해 상담이 필요하시면
언제든지 문의해주세요.

문의하기