LLM Platform Engineer

직무 소개

• Moreh는 기존 AI 인프라의 한계를 극복하기 위해 하드웨어와 소프트웨어를 아우르는 새로운 시스템을 개발하는 것을 목표로 합니다.
• Product 팀은 특정 하드웨어에 종속되지 않는 고성능 분산 추론 프레임워크인 MoAI Inference Framework(MIF)를 구축합니다

주요 업무

• Performance Gateway 개발
• 사용자 요청과 클러스터 상태를 실시간으로 분석하여 Disaggregated Inference, Prefix-cache aware routing 등을 수행하는 지능형 게이트웨이를 개발합니다.
• Inference Autopilot 개발
• Preset을 기반으로 하는 추론 서비스를 관리하는 오퍼레이터를 개발합니다.
• 트래픽 패턴과 클러스터 상황에 맞춰 추론 서비스를 수정하고 스케일링 하는 오퍼레이터를 개발합니다.
• High-Fidelity Observability 구축
• Open Telemetry를 활용하여 분산 환경에서 에러를 감지하고 디버깅하는 모니터링 파이프라인을 구축합니다.
• AI-Native Development 리드
• AI Agent를 개발 프로세스에 통합합니다.
• 설계부터 검증까지 에이전트와 협업하며, 자동화된 엔지니어링 문화를 선도합니다.

자격 요건

• Core Engineering:

컴퓨터공학 혹은 관련 전공 학부 졸업, 혹은 이와 동등한 경력

• Cloud Native Deep-Dive:

2년 이상의 Kubernetes 기반 운영 경험 및 Custom operator 개발 경험

• Programming:

Go, Python, Rust 중 하나 이상의 프로그래밍 언어에 능숙하신 분

• Engineering Ownership:

단위/E2E 테스트 및 CI/CD 자동화를 통해 결과물의 품질을 유지하고 공개와 공유를 원칙으로 적극적으로 소통하시는 분

• Teamwork:

팀워크를 중시하고, 긍정적인 태도로 동료들과 적극적으로 협력할 수 있으신 분

우대사항

• AI Infrastructure:

vLLM, SGLang, llm-d, Dynamo 등 오픈소스 추론 엔진의 기여 경험 또는 내부 아키텍처에 대한 깊은 이해

• Agentic Workflow:

개발 과정에서 AI Agent를 활용해 본인의 생산성을 수 배 이상 극대화해 본 경험

• Moreh Way:

“Deep Dive, Rise Higher” 가치에 공감하며, 복잡한 문제를 끝까지 파고들어 엔드투엔드로 해결하는 능력을 갖추신 분

복지 제도

• 복지포인트 연간 200만 원
• 입사 시 장비지원금 지원
• 유연출근제&재택근무
• 연 1회 종합건강검진 (본인 및 직계가족 1인)
• 생일 반차 휴가
• 장기근속 휴가
• 사내 동호회 지원 (보드게임, 클라이밍 등)
• 오피스 간식 제공 (과자, 음료수 등)
• 연말 오피스 클로징 (매년 12/28-12/31 유급휴가 제공)
• 중소기업 청년 소득세 감면 (연간 최대 200만 원)

채용 절차

• 서류 전형 -> 1차 면접 -> 최종 면접 -> 처우 협의 -> 최종 합격
• 포지션에 따라 전형이 변경 또는 추가될 수 있는 점 참고 부탁드립니다.