Cheetah

Cheetah

AI 전 주기의 효율적인 관리를 위한 ML/LLMOps 플랫폼을 경험하세요.

Core Values

AI의 가치는 도입이 아니라 운영에서 완성됩니다.

치타는 GPU 자원, AI 워크로드, 모델 서비스를 하나의 정책과 운영 흐름으로 연결합니다.

core value visual

하나의 AI 운영 흐름

GPU 자원 관리부터 AI 작업 실행,
모델 평가·배포, 추론 서비스 운영까지
하나의 흐름으로 연결하여 일관되게 관리합니다.

정책 기반 자동화와 운영자 판단

반복 가능한 운영은 정책에 따라 자동화하고,
승인·예외 처리·운영 결정은 사람이 통제하여
자동화와 운영자 판단을 균형 있게 적용합니다.

운영 데이터의 지속적인 활용

운영 과정에서 축적된 데이터와
품질 정보를 분석·활용하여 AI 서비스의
지속적인 개선과 운영 최적화를 지원합니다.

Features

변화하는 AI, 통제 가능한 운영으로

효율적인 GPU 자원 운영

한정된 GPU 자원을
정책과 우선순위에 따라 운영

다양한 자원 운영 정책으로 한정된 GPU 활용도를 극대화하고,
사용자·그룹별 자동 할당·회수로 유휴 자원을 줄이고 필요한 곳에 즉시 배분합니다.
리소스 카탈로그 기반으로 워크로드에 적정 자원을 체계적으로 제공합니다.
또한 우선순위에 따라 작업 실행 순서를 조정해 GPU 효율적으로 공유합니다.

GPUNPU 자원 할당리소스 카탈로그 작업 큐

체계적인 AI 워크로드 운영

표준 개발환경과 자동화를 통한
AI 개발·학습 체계화

표준화된 개발·학습 환경과 자동화 기능으로 AI 개발 전반의 생산성을 높입니다.
1분 내 검증된 개발환경을 구성해 별도 준비 없이 빠르게 개발을 시작하고,
데이터 수집·전처리부터 모델 학습·배포까지 반복되는 작업을 자동화합니다.
하이퍼파라미터 튜닝으로 최적의 학습 조건을 탐색해 모델 성능 개선까지 지원합니다.

자동화데이터 파이프라인워크플로우워크스페이스하이퍼파리미터 튜닝

유연하고 안정적인 모델·서비스 운영

검증된 모델을
안정적인 AI 서비스로 운영

GUI 기반으로 LLM 성능을 손쉽게 개선·평가하고, 모델을 버전별로 관리합니다.
검증된 모델은 기존 서비스 중단 없이 안정적으로 배포·전환합니다.
또한 과도한 호출을 제한하고, 개인정보(PII)와 프롬프트 인젝션을 탐지·차단합니다.
이를 통해 부적절한 입·출력을 통제하고 신뢰도 높은 AI 서비스 품질을 유지합니다.

모델 평가한국어 벤치마크무중단 배포가드레일AI Gateway
운영 안정성

가시화된 AI 운영 통제

기업 보안·운영 정책 기반
안전한 AI 서비스 관리·통제

온프레미스·폐쇄망에서도 기존 보안 정책을 유지하며 AI 서비스를 운영합니다.
사용자 역할에 맞는 접근 체계로 주요 자산과 운영환경을 보호하고,
통제된 자원 배분으로 무분별한 사용과 자원 편중을 방지합니다.
운영 전반을 투명하게 추적해 안전성과 관리 책임을 함께 확보합니다.

On-premise폐쇄망RBAC 자원 요청 승인 대시보드감사로그

Strengths

특장점

  • 특정 그룹과 사용자에게 필요한 GPU를 전용 자원으로 직접 할당
  • 핵심 업무와 장기 프로젝트에 예측 가능한 독립형 GPU 환경 제공
  • 작업 상태와 GPU 사용 현황을 주기적으로 자동 확인하여 유휴 여부 판단
  • 만료 또는 미사용 자원은 정책에 따라 회수하여 다른 작업에 재배정
  •  GPU·CPU·메모리 등을 조합한 검증된 실행환경을 카탈로그로 제공
  • 반복적으로 사용하는 개발환경과 자원 구성을 표준 사양으로 관리
  • 사용자가 필요한 환경을 직접 선택하여 별도 설정 없이 빠르게 구성
  • 관리자의 반복적인 자원 설정을 줄이고 프로젝트별 환경 편차 최소화
  • 학습·파인튜닝·워크플로우·데이터 파이프라인 등 종료형 작업을 대기열로 관리
  • Kueue 기반 작업 큐를 통해 자원 요구량과 가용 GPU를 고려하여 작업 배치
  • 전역·그룹별 운영 정책과 작업 중요도에 따라 실행 순서와 우선순위 조정
  • 자원 부족 시 작업을 대기시키고, 가용 GPU 확보 시 자동 실행 또는 재시도
  • Triton·TensorRT-LLM·vLLM 등을 통해 다양한 모델을 엔드포인트로 배포
  • KEDA 기반 오토스케일링으로 요청량에 따라 복제본과 GPU 사용량 자동 조정
  • 모델별 요청·응답과 서비스 운영 상태를 모니터링하고 이용 정책 통합 관리
  • GPU·NPU·CPU 등 AI 인프라 자원 사용 현황 모니터링
  • 빌트인 이미지를 통해 1분 내 워크스페이스 쉽고 빠르게 구성
  • JupyterLab·VSCode 등 익숙한 개발 도구를 활용한 환경 제공
  • 데이터셋·볼륨·노트북 공유를 통한 조직 내 협업 환경 제공
  • 데이터 수집/전처리, 모델 개발 배포 등의 반복 작업 자동화
  • GUI 기반 파인튜닝·평가를 통한 지속적인 모델 성능 개선
  • 다양한 서빙 엔진을 활용한 유연하고 안정적인 모델 배포
  • 단일 Endpoint의 트래픽 제어를 통한 무중단 모델 전환
  • 임베딩 모델·벡터 DB를 아우르는 효율적인 RAG 통합 관리 환경 제공
  • AI Gateway 기반 AI 모델·서비스 호출 통합 관리
  • RBAC 기반 사용자·그룹별 역할 및 접근 권한 관리
  • PII 마스킹, 금칙어·프롬프트 인젝션 차단으로 보안 위협 대응
  • 유해성 응답 차단과 환각 탐지를 통한 안전한 AI 서비스 운영

머신러닝과 인공지능을 위한
완벽한 통합 인공지능 플랫폼

Architecture

CHEETAH Workflow

더 궁금한 점이 있으신가요?

에이프리카의 솔루션에 대해 상담이 필요하시면
언제든지 문의해주세요.