AI Engineer (Serving)

핵심 업무

• AI 서빙 프레임워크 운영 및 성능 개선
• 대규모 LLM/Embedding 모델 실시간 서빙 환경 구축
• 시스템 리소스 효율성 및 추론 속도 최적화
• 모델 서빙 장애 대응 및 배포 자동화

필수 자격

• Triton, vLLM 등 서빙 프레임워크 운영 경험
• GPU 및 LLM 모델 내부 동작 원리 이해
• 시스템 성능 튜닝 및 안정성 확보 경험
• 자동화, 모니터링, 오케스트레이션 관심
• 비정형 문제 정의 및 기술적 해결 역량

우대사항

• 대규모 LLM/Embedding 모델 최적화 및 운영 경험
• AI/ML 모델 범용 플랫폼 구축 경험
• 고성능 서빙 및 대규모 트래픽 환경 운영 경험

근무 조건

서울 강남구(토스 본사), 정규직

전형 절차

서류 접수 → 프리 인터뷰 → 직무 인터뷰 → 문화적합성 인터뷰 → 레퍼런스 체크 → 처우 협의 → 최종 합격