크
AI Frontier Div.] AI Inference Platform & Operations Engineer (5년 이상)
크래프톤
📍 서울시, Hanguk
via CareerJet API (KR)
정규직현장 근무
상세 내용
운 모델과 서빙 기술이 나오면 바로 써보고 프로덕션에 적용할 방법을 찾는 문화를 지향합니다. 우리 팀과 함께할 미션을 소개합니다. 대규모 추론 서비스의 안정적인 운영과 서빙 플랫폼 개선을 중심으로 다음 업무를 수행...합니다. 서빙 플랫폼과 control plane 구축·운영: Kubernetes 기반 GPU 클러스터에서 서빙 서비스를 운영하고, vLLM·SGLang 등 서빙 엔진과 오케스트레이션 계층을 연결합니다. 요청 라우팅, 오토