LLM 서빙 및 추론 최적화 엔지니어

구조·서빙 워크로드·GPU 특성을 프로파일링해 병목을 찾고, 서비스 요구사항에 맞는 LLM 추론 시스템을 설계·구현 · 추론 성능과 GPU 자원 사용 현황을 모니터링하고, 모델·엔진 변경 전후를 비교하는 회귀 테스...·검증 필수 경험과 역량 · LLM 서빙 또는 추론 최적화 분야에서 2년 이상 실무 경험이 있는 분 · 최신 LLM 구조와 추론 과정을 이해하고, 모델과 워크로드 특성에 따라 성능 병목을 찾고 최적화 방향