Senior AI Platform Engineer LLMOps (wmd)
Job Summary
Verstärke unser Team und gestalte gemeinsam mit uns deine Zukunft!
Wir die Apleona GmbH suchen für unseren Standort in Bundesweit
Senior AI Platform Engineer - LLMOps (w/m/d)- JobID27705
Deine Mission:
Du sorgst dafür dass unsere KI-Anwendungen geprüft und kontrolliert live gehen und dort verlässlich bleiben. Mit automatischen Qualitätstests sauberer Versionierung schrittweisen Releases und durchgängigem Monitoring machst du aus vielversprechenden KI-Lösungen verlässliche Produkte.
Deine Perspektiven:
- Schlüsselrolle für Vertrauen: Ohne deine Qualitäts-Gates geht keine KI-Lösung live
- Plattformdenken:Du baust geteilte Dienste die alle KI-Lösungen nutzen
- State of the Art:eval-gated CI/CD Canary-Releases und Observability für Sprachmodelle
- Moderner Stack:Microsoft Azure TypeScript/ Python und moderne Eval- und Observability-Werkzeuge
- Gestaltungsspielraum:Du setzt die Qualitätsstandards für KI bei Apleona
Welche Aufgaben kommen auf Dich zu:
- Verantwortung für die Release-Einheit einer KI-Anwendung: Prompts Modellversion Retrieval-Index Tools Guardrails und Policies
- Evaluations-Harness aufbauen:Referenzfälle Metriken und Quality Gates
- Eval-gated CI/CD Versionierung und gestufte Rollouts mit Canary und Rollback
- End-to-end-Observability:Tracing Latenz und Kosten
- Geteilte Plattformdienste entwickeln und betreiben in gemeinsamer Rufbereitschaft mit dem IT-Plattformbetrieb
Was Du mitbringen solltest:
- Mindestens 5 Jahre Softwareentwicklung davon Erfahrung mit Sprachmodell-Anwendungen im Live-Betrieb
- Du hast automatische Test- und Freigabeprozesse (CI/CD) selbst aufgebaut nicht nur genutzt
- Du hast Monitoring für Live-Anwendungen eingerichtet (Fehler Antwortzeiten Kosten)
- Backend-Entwicklung in TypeScript/ und Python
- Praxis auf einer großen Cloud (Azure bevorzugt AWS oder Google Cloud) und Nähe zu DevOps/SRE
- Englisch fließend Deutsch von Vorteil
- Nice to have:Guardrail- und Security-Design (Prompt Injection Content Safety Red Teaming) FinOps für Modellkosten (Token-Budgets Modell-Routing) Azure AI Foundry Evaluation Tools wie promptfoo Ragas Langfuse oder OpenTelemetry Terraform GitHub Actions
- Ein Plus:KI-Betrieb mit Audit- und Compliance-Anforderungen (z. B. EU AI Act ISO 27001) Plattformbetrieb mit mehreren tausend Nutzern im Konzern
Darauf kannst du dich freuen:
- Eine zukunftssichere und anspruchsvolle Tätigkeit in einem professionellen Arbeitsumfeld dasVielfalt und Gleichberechtigung fördert
- Ein unbefristeter Arbeitsvertrag
- Vorteile aus dem hauseigenen Tarifvertrag
- 30 Tage Urlaub sowie Weihnachten- und Silvester frei
- Die Möglichkeit zum mobilen Arbeiten
- Familienfreundliche Personalpolitik zur Unterstützung in verschiedenen Lebensphasen
- Flexible Arbeitszeitmodelle für eine echte Work-Life-Balance
- Exklusive Angebote für Mitarbeitende mit hochwertigen Sonderkonditionen für Produkte und Leistungen renommierter Hersteller und Marken
- APLEONA - Weiterbildungsprogramme zur persönlichen und fachlichen Weiterentwicklung
- Die Option auf Jobrad-Leasing für Ihr persönliches Training oder den Weg zur Arbeit
- Ein attraktives Mitarbeiter-werben-Mitarbeiter-Programm
Interessiert Werde Teil unseres Teams!
Wir leben Vielfalt und Chancengleichheit. Wir freuen uns daher über alle qualifizierten Bewerbungen unabhängig von Geschlecht ethnischer Herkunft Religion sexueller Orientierung Alter oder etwaigen Beeinträchtigungen.
Bewerbe dich in nur wenigen Klicks über das Bewerbungsformular!
Wir freuen uns auf deine Bewerbung!
Ansprechpartner:
Dana Korpis
Wir bitten Personalberater und -dienstleister von einer Kontaktaufnahme abzusehen. Die angegebenen Kontaktdaten sind ausschließlich für Bewerbende gedacht.
Required Experience:
Senior IC