LLMOps Engineer

About the job

팀 소개티맵모빌리티의 MDP팀을 소개합니다!

• 티맵모빌리티의 모든 서비스에서 필요로 하는 데이터를 안정적으로 적재, 분석, 제공하기 위한 data platform을 운영하고 있습니다.

• 대용량 실시간 데이터 처리, 대용량 데이터 파이프라인, 데이터 거버넌스 등 데이터에 대한 A-Z까지 경험할 수 있습니다.

담당업무

• 실제 업무 시나리오를 반영한 평가 기준을 설계하고, 여러 LLM의 품질·비용·응답 속도·안전성을 비교하여 서비스에 적합한 모델을 선정합니다.

• LLM Gateway, AI Agent 프레임워크, 평가·모니터링 도구 등 오픈소스와 상용 소프트웨어를 비교·검증하고 도입을 주도합니다.

• 평가 데이터와 기준을 구축하고, 자동 평가와 사람의 검토를 결합하여 모델 변경 전후의 품질과 성능을 검증합니다.

• LLM Gateway의 모델 및 공급자 등록, 모델 라우팅, 장애 전환, 캐싱, 사용량 제한 정책을 관리하고 운영 상태를 모니터링합니다.

• 모델·조직·기능별 토큰 사용량과 비용을 분석하고, 프롬프트·컨텍스트·캐싱·모델 선택 정책을 최적화하여 작업당 비용을 절감합니다.

• 품질 저하, 개인정보 노출, 정책 위반 및 프롬프트 공격 등 AI 서비스의 이상 징후와 보안 위험을 탐지하고 대응 체계를 개선합니다.

• 관련 조직과 협업하여 모델 사용 기준과 접근 권한을 수립하고, 모델 도입·변경·종료 과정과 평가 결과 및 변경 이력을 관리합니다.

Who We're Looking For

지원자격

• AI/ML 서비스, MLOps·LLMOps 또는 데이터 플랫폼 운영 분야에서 5년 이상이거나 이에 준하는 경험을 보유하신 분

• LLM의 토큰, 컨텍스트, 툴 호출, 임베딩 및 RAG의 동작 원리와 활용 방법을 이해하시는 분

• AI 모델이나 소프트웨어의 평가 기준을 설계하고, 결과를 정량적·정성적으로 분석할 수 있으신 분

• 모델 평가 결과를 바탕으로 품질·비용·응답 속도 간의 상충 관계를 분석하고 합리적인 운영 기준을 수립할 수 있으신 분

• 프로그래밍 언어와 SQL을 활용하여 평가·분석·운영 업무를 자동화할 수 있으신 분

• 새로운 모델과 기술을 빠르게 파악하되, 실제 데이터와 검증 결과를 바탕으로 기술적 의사결정을 내릴 수 있으신 분

• 개인정보와 보안 요구 사항을 이해하고 서비스 환경에 적합한 통제 방안을 설계할 수 있으신 분

Preferred Qualifications

우대사항

• 여러 AI 모델과 소프트웨어를 비교·검증하고, 반복 가능한 평가 체계를 구축하여 실제 도입까지 주도한 경험을 보유하신 분

• LLM Gateway 또는 AI Agent 환경에서 모델 등록, 라우팅, 장애 전환, 툴 실행 및 사용량 정책을 운영한 경험을 보유하신 분

• Lang Graph, Lang Chain, Llama Index 등 그래프·에이전트 기반 오케스트레이션 프레임워크를 활용한 경험을 보유하신 분

• 프롬프트, 컨텍스트, 캐싱 및 모델 라우팅 등을 활용하여 토큰 사용량과 운영 비용을 최적화한 경험을 보유하신 분

• AI 서비스의 안전성을 검증하고 모델 사용 기준, 접근 권한, 변경 이력 및 감사 체계 등 LLM 거버넌스를 운영한 경험을 보유하신 분

• LLM 서비스의 품질·비용·응답 속도·오류율을 측정하기 위한 관측성과 모니터링 체계를 구축한 경험을 보유하신 분

• Databricks와 AWS를 활용하여 데이터 플랫폼 또는 AI 시스템을 구축·운영한 경험을 보유하신 분

Recruiting Process

전형절차

• 서류 > 1차 인터뷰 > 2차 인터뷰 > 레퍼런스 체크 > 처우협의 및 채용검진 > 최종합격

• 상기 채용 전형은 상황에 따라 생략/추가될 수 있습니다.

Please Read Before Applying

참고사항

• 첨부파일에는 연봉 정보를 별도로 기입하지 마시고, 지원서에 있는 연봉 정보 기입칸에만 작성해주세요.

• 모든 직무는 3개월의 시용기간이 적용되며, 평가에 따라 통과 또는 채용 취소가 가능합니다. (해당 기간 동안 급여는 100% 지급됩니다)

• 본 공고는 채용 완료 시 조기 종료될 수 있습니다.

• 국가 등록 장애인 및 국가 보훈 대상자는 관련 법규에 의거하여 우대합니다.

• 궁금하신 부분은 recruit.tmap@sk.com 으로 언제든지 편하게 연락 주세요 :)

See more jobs from
the same company
View more


See more similar job openings
View more


See more jobs in the same region
View more

LLMOps Engineer

Application
period

September 17, 2026(Thu)~December 31, 2026(Thu)

Closing time

23:59

Company

Tmap Mobility

Job

Tech R&D - ML/DL 개발

Category

Experienced

Region

Seoul

Type

Permanent

Apply

관심공고등록

공유하기버튼

카카오톡 공유하기
링크드인 공유하기
페이스북
X 공유하기
라인 공유하기
링크 복사하기
이메일 보내기
닫기