AI Inference/Serving Engineer(경력)

주요 업무

• 대규모 언어 모델(LLM)의 Inference 및 Serving 성능을 최적화
• 다양한 하드웨어 환경에서 효율적인 AI Inference System 구축

자격 ​요건

• 컴퓨터공학, 전자·전기공학 또는 관련 분야 전공자
• 학사 학위와 4년 이상의 관련 실무 경험을 보유하신 분 또는 관련 분야 석사/박사 학위와 2년 이상의 관련 실무 경험을 보유하신 분
• 새로운 기술과 다양한 의견을 열린 태도로 받아들이고 적극적으로 학습하시는 분
• LLM Inference의 동작 원리와 주요 개념에 대한 깊은 이해가 있으신 분 (Attention, KV Cache, Prefill / Decode, Continuous Batching 등)
• 최신 LLM Serving 및 최적화 기술에 대한 이해가 있으신 분 (Quantization, Speculative Decoding, Tensor / Pipeline Parallelism, Prefill-Decode Disaggregation 등)
• 다음과 같은 AI Inference Framework/System에 대한 지식 또는 사용 경험이 있으신 분 (vLLM, SGLang, TensorRT-LLM 등)
• CUDA, Triton 또는 기타 Accelerator Programming 경험이 있으신 분
• Kubernetes 환경에서 Inference 서비스를 배포하고 운영해본 경험이 있으신 분
• 기술적 내용을 명확하게 전달할 수 있는 뛰어난 문서 작성 및 커뮤니케이션 역량을 갖추신 분

우대 요건

• 다양한 Hardware 및 Inference Backend 환경에서 성능을 분석하고 Benchmark를 수행한 경험이 있으신 분
• 워크로드 특성에 맞춰 Serving 파라미터를 튜닝해본 경험이 있으신 분 (Long Context, 고동시성, Chunked Prefill, Prefix Caching 등)
• GPU등 Accelerator Profiling 및 Inference Performance Optimization 경험이 있으신 분(H2D/D2H, 동기화 구간등)
• Inference 워크로드를 관측하거나, 성능 회귀를 CI에서 검출해본 경험이 있으신 분
• 영어로 작성된 논문 및 기술 문서를 읽고, 새로운 기술을 빠르게 실제 시스템에 적용해본 경험이 있으신 분

채용 절차

서류 전형 ▶ 직무 인터뷰 ▶ 종합 인터뷰 ▶ (평판조회) ▶ 최종 합격

• 채용 전형은 진행 상황에 따라 변경될 수 있으며, 변경 시 사전 안내 드립니다.

• 입사 후 3개월의 수습기간이 적용되며, 수습 기간 급여는 100% 지급됩니다.

유의 사항

입사지원 서류에 허위 사실이 발견될 경우, 채용 확정 이후라도 채용이 취소될 수 있습니다.

기타 안내

Office

• 음료/커피/스낵 지원
• 유연근무제
• 자유로운 연차 사용
• 라운지, 안마의자 등 휴식 공간

Welfare

• 교육 및 도서 지원
• 건강검진 지원
• 복지포인트 지원
• 장기근속 포상

Culture

• 전사 올핸즈 미팅(월 1회)
• 전사 워크샵 (년 1회, 국내/해외)
• 동호회/스터디 지원
• 회식비 지원