株式会社Ｕｎｓｕｎｇ　Ｆｉｅｌｄｓ

【横浜】推論システムエンジニア（LLM サービングランタイム + パフォーマンス）

---

■業務内容：
当社の推論システムエンジニアとして、本番環境におけるLLM推論を支えるサービングランタイムを担当します。推論パイプライン全体を俯瞰して論理的に考え、厳密な計測に基づいて改善効果を検証し、本番環境レベルの慎重さと規律をもって運用いただきます。

■業務内容：
◇サービングランタイムのエンドツーエンドな挙動を担当
リクエストのライフサイクル管理、ストリーミンセマンティクス、キャンセル処理、リトライとの相互作用、タイムアウト設定、一貫した障害モードの設計・運用
◇バッチ処理およびスケジューリング戦略の設計・実装を担当
動的バッチ処理、アドミッションコントロール、複数テナントが混在する環境下での公平性、優先レーン、連鎖的障害を防ぐためのバックプレッシャー機構
◇システムレベルでの性能最適化
Time-to-first-tokenの短縮、テールレイテンシの安定化、tokens/secスループットの向上、現実的なワークロード下でのアクセラレータ利用効率の改善
◇メモリ挙動およびキャッシュ効率の改善
KVキャッシュのポリシー設計、フラグメンテーション制御、エビクション戦略、OOM（メモリ不足）やパフォーマンス低下を防ぐための安全策の設計。
◇ランタイム実行最適化の推進：オペレータ単位での改善、量子化手法の統合、必要に応じたコンパイル／チューニング経路、環境へのデプロイにおいて安定した性能を生み出すパラメータ設計
◇性能計測に関する規律の確立
再現可能なベンチマーク、現実的なトラフィックトレース、ワークフローのプロファイリング、回帰検知ゲート、本番での成果指標と連動したダッシュボード
◇システムへ本番運用に耐えうる仕組の組み込み
機能フラグを用いた段階的ロールアウト、カナリアリリース、安全な設定変更、MTTR（平均復旧時間）を短縮するインシデント対応手順書
◇ネットワーキングおよびインフラ運用チームと連携し、デプロイメントトポロジー、障害ドメイン、容量制約を性能および信頼性目標に適合させます。
◇プロダクトおよびAPIチームと協力し、サービングレイヤーの保証事項が外部インターフェースおよび顧客の期待に正確に反映されるよう確保します。

変更の範囲：会社の定める業務

＜最終学歴＞大学院、大学卒以上

---

＜応募資格/応募条件＞
■必須条件：
・高性能システムの構築経験5年以上（モデルサービング、GPU システム、パフォーマンスエンジニアリング、低レイテンシ分散システムなど）
・LLM 推論におけるトレードオフへの深い理解
・Python／C++スタックを横断して使用し、本番環境でのプロファイリング・デバッグツールを活用した業務に慣れている
・本番環境の変動や運用上の制約下でも持続する性能改善をリリースしてきた実績
・高いサイバーハイジーン意識に基づくエンジニアリング規律

＜勤務地詳細＞
本社
住所：神奈川県横浜市西区みなとみらい2-3-1
受動喫煙対策：屋内全面禁煙
変更の範囲：会社の定める事業所

---

＜転勤＞
無

＜勤務時間＞
9:00～18:00 （所定労働時間：8時間0分）
休憩時間：60分
時間外労働有無：有

正社員

---

＜雇用形態補足＞
期間の定め：無

＜試用期間＞
3ヶ月

通勤手当、健康保険、厚生年金保険、雇用保険、労災保険

＜各手当・制度補足＞
通勤手当：月上限15,000円
社会保険：補足事項なし

＜定年＞
65歳

＜教育制度・資格補助補足＞
‐

週休2日制（休日は土日のみ）
年間有給休暇10日～（下限日数は、入社半年経過後の付与日数となります）
年間休日日数120日