About AI71:
AI71 is an industry leader in artificial intelligence, delivering innovative solutions that empower developers, businesses and governments to solve complex challenges. AI71 builds secure, enterprise-ready applications powered by cutting-edge technology—tailored for knowledge workers and sector-specific needs. AI71 bridges the gap between advanced AI and real-world impact. Guided by a strong commitment to research and responsibility, we create transformative solutions that drive progress and empower communities.
The Role:
As an MLOps Engineer you set the ML infrastructure and reliability strategy across AI71's platform, including how LLMs and other deep learning models are deployed, fine-tuned, and served at scale. You own architecture decisions across both SaaS and on-prem operating models, mentor engineers across teams, and drive multi-quarter ML infrastructure strategy. You are a force multiplier.
What You'll Do:
- Define ML infrastructure architecture across the platform: model deployment strategy (vLLM, Triton, or TGI), pipeline engineering (MLflow or Kubeflow), and cloud-native infrastructure across major cloud platforms (AWS, Azure, or GCP)
- Set direction for ML system reliability: monitoring, latency / throughput / availability targets, and incident response across research and production environments.
- Mentor senior MLOps engineers; raise the operational bar across multiple teams.
- Drive cross-team initiatives that improve inference performance and cost-efficiency, including distributed training frameworks (DeepSpeed, FSDP, Accelerate).
- Partner with ML researchers, product, and engineering leadership on multi-quarter ML infrastructure strategy.
- Ensure ML infrastructure scales across managed SaaS and fully air-gapped on-prem deployments.
What You'll Bring:
- 10+ years of MLOps, ML infrastructure, or machine learning engineering with history of architectural ownership.
- Proven track record architecting large-scale model deployment (including LLMs) and ML infrastructure at scale.
- Deep cloud expertise across major cloud platforms (AWS, Azure, or GCP) and strong Python proficiency
- Mentorship record — engineers you have grown now operate independently at higher levels.
- Deep comfort architecting ML systems that run in both managed SaaS and on-premises / disconnected air-gapped environments.
- Kubernetes at architectural depth — GPU scheduling, multi-tenancy, operators, and the failure modes of distributed workloads on shared clusters.
- Strong communication, stakeholder management, and decision-making skills, with a passion for building diverse, inclusive engineering teams.
Strong Preference:
- Ownership of production reliability at platform level: SLO definition, incident command, postmortem practice, and driving reliability improvements across teams rather than services.
- Architecture-level experience with distributed training and fine-tuning at scale (DeepSpeed, FSDP, Megatron-LM), including cluster design, checkpointing strategy, and failure recovery.
- Deep GPU systems knowledge: CUDA, NCCL, interconnect topology (NVLink, InfiniBand/RoCE), and diagnosing performance and communication problems across nodes.
- Model optimization strategy at portfolio level: quantization (FP8, AWQ, GPTQ), speculative decoding, with measurable cost or latency outcomes across multiple systems.
- Experience in regulated or security-constrained environments — compliance-driven architecture, model governance, lineage, audit, and secrets management.
- On-prem / air-gap ML delivery architecture experience at scale.
- Track record maturing MLOps practice in a growing organization: standards, platform abstractions, and paved paths that outlived your involvement.
- Bare-metal GPU cluster architecture, including scheduling (Slurm or Kubernetes) and hardware lifecycle in customer or owned data centers.
Nice to Have:
- Conference speaking, technical writing, or industry thought leadership.
- Open-source contributions to inference, serving, or ML infrastructure projects, particularly maintainer-level involvement.
- C/C++ or CUDA kernel experience for performance-critical paths.
- Arabic language skills.
Why AI71:
- Mission-Driven Work: Work on cutting-edge AI applications with a talented and passionate team, solving real-world challenges in critical sectors.
- Unparalleled Opportunity: This is a chance to innovate and solve real-world challenges using AI at a company with unique access to world-leading models and resources.
- Career Growth: We offer competitive compensation, benefits, and significant career growth opportunities as a foundational member of the team.
- World-Class Environment: Enjoy a flexible working environment and the latest tools & technologies needed to do your best work.
عن AI71:
تعد AI71 شركة رائدة في مجال الذكاء الاصطناعي، حيث تقدم حلولاً مبتكرة تمكّن المطورين والشركات والحكومات من حل التحديات المعقدة. تبني AI71 تطبيقات آمنة وجاهزة للمؤسسات مدعومة بتقنيات متطورة—مصممة خصيصًا للعاملين في مجال المعرفة وللاحتياجات الخاصة بكل قطاع. تكسر AI71 الفجوة بين الذكاء الاصطناعي المتقدم والتأثير في العالم الحقيقي. وانطلاقًا من التزامنا القوي بالبحث والمسؤولية، نبتكر حلولاً تحويلية تدفع عجلة التقدم وتمكّن المجتمعات.
الدور الوظيفي:
بصفتك مهندس MLOps، ستتولى وضع البنية التحتية لتعلم الآلة واستراتيجية الموثوقية عبر منصة AI71، بما في ذلك كيفية نشر نماذج اللغات الكبيرة (LLMs) ونماذج التعلم العميق الأخرى، وضبطها الدقيق، وتقديمها على نطاق واسع. ستكون مسؤولاً عن قرارات الهندسة المعمارية عبر كل من نماذج التشغيل البرمجيات كخدمة (SaaS) والنماذج المحلية (On-prem)، وتوجيه المهندسين عبر الفرق المختلفة، وقيادة استراتيجية البنية التحتية لتعلم الآلة متعددة الأرباع. أنت تُعتبر عنصرًا مضاعِفًا للإنتاجية والقوة.
ما ستفعله:
- تحديد الهندسة المعمارية للبنية التحتية لتعلم الآلة عبر المنصة: استراتيجية نشر النماذج (vLLM، أو Triton، أو TGI)، وهندسة خطوط معالجة البيانات (MLflow أو Kubeflow)، والبنية التحتية السحابية الأصلية عبر المنصات السحابية الرئيسية (AWS، أو Azure، أو GCP).
- تحديد الاتجاه لموثوقية أنظمة تعلم الآلة: المراقبة، وأهداف زمن الاستجابة / الإنتاجية / التوافر، والاستجابة للحوادث عبر بيئات البحث والإنتاج.
- توجيه مهندسي MLOps الكبار، ورفع المستوى التشغيلي عبر فرق متعددة.
- قيادة المبادرات المشتركة بين الفرق التي تحسن أداء الاستدلال وكفاءة التكلفة، بما في ذلك أطر التدريب الموزعة (DeepSpeed، وFSDP، وAccelerate).
- الشراكة مع باحثي تعلم الآلة وفرق المنتجات والقيادة الهندسية لوضع استراتيجية البنية التحتية لتعلم الآلة متعددة الأرباع.
- ضمان توسع البنية التحتية لتعلم الآلة عبر خدمات SaaS المدارة وعمليات النشر المحلية المنعزلة تماماً عن الشبكة (air-gapped).
ما ستجلبه معك:
- خبرة 10+ سنوات في MLOps، أو البنية التحتية لتعلم الآلة، أو هندسة تعلم الآلة مع سجل حافل في ملكية الهندسة المعمارية.
- سجل مثبت في تصميم ونشر النماذج واسعة النطاق (بما في ذلك LLMs) والبنية التحتية لتعلم الآلة على نطاق واسع.
- خبرة سحابية عميقة عبر المنصات السحابية الرئيسية (AWS، أو Azure، أو GCP) وإتقان قوي للغة Python.
- سجل حافل في التوجيه والإرشاد — المهندسون الذين قمت بتطوير مهاراتهم يعملون الآن بشكل مستقل في مستويات أعلى.
- ارتياح كبير في تصميم أنظمة تعلم الآلة التي تعمل في كل من بيئات SaaS المدارة والبيئات المحلية / المنعزلة عن الشبكة (air-gapped).
- خبرة معمارية عميقة في Kubernetes — جدولة وحدات معالجة الرسومات (GPU)، وتعدد المستأجرين، والمشغلين (operators)، وأنماط الفشل لأحمال العمل الموزعة على العناقيد المشتركة.
- مهارات قوية في التواصل وإدارة أصحاب المصلحة واتخاذ القرارات، مع شغف ببناء فرق هندسية متنوعة وشاملة.
تفضيلات قوية:
- ملكية موثوقية الإنتاج على مستوى المنصة: تعريف أهداف مستوى الخدمة (SLO)، وإدارة الحوادث، وممارسات مراجعة ما بعد الحوادث (postmortem)، وقيادة تحسينات الموثوقية عبر الفرق بدلاً من الخدمات الفردية.
- خبرة على المستوى المعماري في التدريب الموزع والضبط الدقيق على نطاق واسع (DeepSpeed، وFSDP، وMegatron-LM)، بما في ذلك تصميم العناقيد، واستراتيجية الحفظ الدوري (checkpointing)، والتعافي من الفشل.
- معرفة عميقة بأنظمة GPU: CUDA، وNCCL، وطوبولوجيا التوصيل البيني (NVLink، وInfiniBand/RoCE)، وتشخيص مشاكل الأداء والتواصل عبر العقد (nodes).
- استراتيجية تحسين النماذج على مستوى المحفظة: التكميم (quantization مثل FP8، وAWQ، وGPTQ)، وفك الترميز التخميني (speculative decoding)، مع نتائج ملموسة في التكلفة أو زمن الاستجابة عبر أنظمة متعددة.
- خبرة في البيئات الخاضعة للتنظيم أو ذات القيود الأمنية — الهندسة المعمارية القائمة على الامتثال، وحوكمة النماذج، والتتبع (lineage)، والتدقيق، وإدارة الأسرار (secrets management).
- خبرة في تصميم معمارية تقديم تعلم الآلة في البيئات المحلية / المنعزلة عن الشبكة (air-gap) على نطاق واسع.
- سجل حافل في تطوير ممارسات MLOps في مؤسسة متنامية: المعايير، وتجريدات المنصة، والمصارات الممهدة التي استمرت لما بعد فترة مشاركتك.
- معمارية عناقيد GPU على العتاد المباشر (Bare-metal)، بما في ذلك الجدولة (Slurm أو Kubernetes) ودورة حياة العتاد في مراكز البيانات المملوكة أو الخاصة بالعملاء.
ميزات إضافية يفضل وجودها:
- التحدث في المؤتمرات، أو الكتابة التقنية، أو القيادة الفكرية في القطاع.
- مساهمات في المشاريع مفتوحة المصدر الخاصة بالاستدلال، أو التقديم، أو البنية التحتية لتعلم الآلة، ولا سيما المشاركة على مستوى الصيانة (maintainer).
- خبرة في C/C++ أو نوى CUDA للمسارات ذات الأهمية الحرجة للأداء.
- مهارات اللغة العربية.
لماذا AI71؟
- عمل قائم على هدف ورسالة: اعمل على تطبيقات الذكاء الاصطناعي الأكثر تطوراً مع فريق موهوب وشغوف، واعمل على حل تحديات العالم الحقيقي في قطاعات حيوية.
- فرصة لا مثيل لها: هذه فرصة للابتكار وحل تحديات العالم الحقيقي باستخدام الذكاء الاصطناعي في شركة تتمتع بفرص وصول فريدة إلى أحدث النماذج والموارد العالمية.
- النمو المهني: نقدم مكافآت ومزايا تنافسية وفرص نمو مهني هائلة كعضو تأسيسي في الفريق.
- بيئة عالمية المستوى: استمتع ببيئة عمل مرنة وأحدث الأدوات والتقنيات اللازمة لتقديم أفضل ما لديك.