MLOps · LLMOps 통합 플랫폼

Cheetah

Cheetah

GPU부터 모델 개발·서빙까지 AI 전 주기를 하나의 흐름으로 관리하세요.

Core Values

AI의 가치는 도입이 아니라 운영에서 완성됩니다.

치타는 GPU 자원, MLOps 및 LLMOps 워크로드, 모델, AI 서비스를 하나의 운영 흐름으로 연결합니다.

core value visual

하나의 AI 운영 흐름

GPU 자원 관리부터 AI 작업 실행,
모델 평가·배포, 추론 서비스 운영까지
하나의 흐름으로 연결하여 일관되게 관리합니다.

정책 기반 자동화와 운영자 판단

반복 가능한 운영은 정책에 따라 자동화하고,
승인·예외 처리·운영 결정은 사람이 통제하여
자동화와 운영자 판단을 균형 있게 적용합니다.

운영 데이터의 지속적인 활용

운영 과정에서 축적된 데이터와
품질 정보를 분석·활용하여 AI 서비스의
지속적인 개선과 운영 최적화를 지원합니다.

Features

GPUOps · MLOps · LLMOps 통합 플랫폼, 치타

효율적인 GPU 자원 운영

한정된 GPU 자원을
정책과 우선순위에 따라 운영

다양한 자원 운영 정책으로 한정된 GPU 활용도를 극대화하고,
사용자·그룹별 자동 할당·회수로 유휴 자원을 줄이고 필요한 곳에 즉시 배분합니다.
리소스 카탈로그 기반으로 워크로드에 적정 자원을 체계적으로 제공합니다.
또한 우선순위에 따라 작업 실행 순서를 조정해 GPU 효율적으로 공유합니다.

GPUNPU 자원 할당리소스 카탈로그 작업 큐

모델 개발은 빠르게, 운영은 안정적으로

AI 전 과정을 보다 신속하게,
효율적으로 관리하는 MLOps 체계

데이터 수집부터 모델 운영까지 AI 라이프사이클을 통합 관리합니다.
검증된 표준 개발환경을 1분 내 구성해 빠르게 모델 개발을 시작하고,
데이터 전처리와 모델 학습·배포 등 반복 작업을 자동화합니다.
학습된 AI 모델은 클릭만으로 배포하고, 안정적으로 운영합니다.

표준 개발환경ML·DL모델 학습모델 배포데이터 파이프라인하이퍼파라미터튜닝

유연하고 안정적인 모델·서비스 운영

온프레미스 환경에서 구현하는
안정적인 LLMOps

폐쇄망 환경에서도 GUI 기반으로 손쉽게 LLM을 최적화합니다.
한국어 벤치마크와 리더보드로 모델별 성능을 비교하고 검증합니다.
검증된 모델은 다양한 서빙 엔진으로 배포하고, 중단 없이 전환합니다.
모델 운영 상태를 모니터링하고, 부하 변화에 유연하게 대응합니다.

파인튜닝모델평가RAG프롬프트 엔지니어링TensorRT-LLMvLLM모델 성능 모니터링

정책 기반의 AI 운영 통제 

기업 보안과 AI 운영 정책을
하나의 Gateway로 통합 관리

AI 서비스의 모든 요청·응답을 하나의 Gateway에서 일관되게 관리합니다.
접근·호출량을 제어하고, 가드레일로 개인정보·유해 콘텐츠를 차단합니다.
Rate Limit과 Circuit Breaker로 과도한 요청과 장애 확산을 방지하며,
요청별 처리 결과와 감사 이력을 추적해 운영 현황을 통제합니다.

AI Gateway접근·사용량 통제입력·출력 가드레일PII 마스킹프롬프트인젝션 차단감사 로그

가시화된 통합 운영 체계

AI 자원과 시스템, 사용자에 대한
체계적인 통합 운영 관리

대시보드로 GPU·CPU 상태와 사용률을 실시간 확인합니다.
그룹별 권한·자원 관리로 자산을 보호하고 운영을 체계화합니다.
요청·승인 기반 자원 할당으로 무분별한 사용을 통제합니다.
운영 전반을 투명하게 추적해 안전성과 관리 책임을 함께 확보합니다.

통합 대시보드실시간 모니터링그룹/사용자 관리자원 요청/승인이벤트 추적폐쇄망

Strengths

특장점

  • 특정 그룹과 사용자에게 필요한 GPU를 전용 자원으로 직접 할당
  • 핵심 업무와 장기 프로젝트에 예측 가능한 독립형 GPU 환경 제공
  • 작업 상태와 GPU 사용 현황을 주기적으로 자동 확인하여 유휴 여부 판단
  • 만료 또는 미사용 자원은 정책에 따라 회수하여 다른 작업에 재배정
  •  GPU·CPU·메모리 등을 조합한 검증된 실행환경을 카탈로그로 제공
  • 반복적으로 사용하는 개발환경과 자원 구성을 표준 사양으로 관리
  • 사용자가 필요한 환경을 직접 선택하여 별도 설정 없이 빠르게 구성
  • 관리자의 반복적인 자원 설정을 줄이고 프로젝트별 환경 편차 최소화
  • 학습·파인튜닝·워크플로우·데이터 파이프라인 등 종료형 작업을 대기열로 관리
  • Kueue 기반 작업 큐를 통해 자원 요구량과 가용 GPU를 고려하여 작업 배치
  • 전역·그룹별 운영 정책과 작업 중요도에 따라 실행 순서와 우선순위 조정
  • 자원 부족 시 작업을 대기시키고, 가용 GPU 확보 시 자동 실행 또는 재시도
  • Triton·TensorRT-LLM·vLLM 등을 통해 다양한 모델을 엔드포인트로 배포
  • KEDA 기반 오토스케일링으로 요청량에 따라 복제본과 GPU 사용량 자동 조정
  • 모델별 요청·응답과 서비스 운영 상태를 모니터링하고 이용 정책 통합 관리
  • GPU·NPU·CPU 등 AI 인프라 자원 사용 현황 모니터링
  • 빌트인 이미지를 통해 1분 내 워크스페이스 쉽고 빠르게 구성
  • JupyterLab·VSCode 등 익숙한 개발 도구를 활용한 환경 제공
  • 데이터셋·볼륨·노트북 공유를 통한 조직 내 협업 환경 제공
  • 데이터 수집/전처리, 모델 개발 배포 등의 반복 작업 자동화
  • GUI 기반 파인튜닝·평가를 통한 지속적인 모델 성능 개선
  • 다양한 서빙 엔진을 활용한 유연하고 안정적인 모델 배포
  • 단일 Endpoint의 트래픽 제어를 통한 무중단 모델 전환
  • 임베딩 모델·벡터 DB를 아우르는 효율적인 RAG 통합 관리 환경 제공
  • AI Gateway 기반 AI 모델·서비스 호출 통합 관리
  • RBAC 기반 사용자·그룹별 역할 및 접근 권한 관리
  • PII 마스킹, 금칙어·프롬프트 인젝션 차단으로 보안 위협 대응
  • 유해성 응답 차단과 환각 탐지를 통한 안전한 AI 서비스 운영

AI를 기업의 운영 체계로 전환하는
엔터프라이즈 AI 플랫폼

Architecture

CHEETAH Workflow

더 궁금한 점이 있으신가요?

에이프리카의 솔루션에 대해 상담이 필요하시면 언제든지 문의해주세요.