06.09.2026 aktualisiert
Premiumkunde
100 % verfügbarSenior AI Engineer | Generative AI | MLOps | RAG & Agentic Systems
Friedrichshafen, Deutschland
Nur Remote
Master of Science (M.Sc.) - Elektrotechnik und InformationstechnikÜber mich
Senior AI Engineer, 6 Jahre Erfahrung mit produktiven ML- und LLM-Systemen. Schwerpunkt: Dokumentenextraktion, agentische Workflows (LangGraph, MCP), RAG, Evaluation und Guardrails. Stack: Python, FastAPI, PyTorch, vLLM, AWS, Docker. Remote, ab sofort. Arbeitssprache Englisch.
Skills
GitHub ActionsMLflowComputer VisionPostgreSQLNatural Language ProcessingTensorFlowChatbotsPyTorchAWS LambdaKubernetesDocker
Generative AI & Large Language Models
Fundierte Kenntnisse im Fine-Tuning von LLMs mittels QLoRA, strukturierten Ausgaben mit Pydantic AI sowie im Einsatz von Modellen wie Claude, GPT, Qwen, DeepSeek und Kimi. Entwicklung von LLM-Reflection-Agenten mit Confidence Gating und Keep-Best-Guards zur Optimierung von Extraktionsqualität und Latenz.
Agentic Systems & RAG-Pipelines
Aufbau und Betrieb komplexer Multi-Agenten-Systeme mit LangGraph und LangChain sowie hybrider Retrieval-Pipelines (BM25, dense embeddings, RRF-Fusion) mit Vektordatenbanken wie Weaviate und Qdrant. Einsatz von MCP (Model Context Protocol), tool use und function calling in produktiven Systemen.
MLOps & Cloud-Infrastruktur
Bereitstellung und Betrieb skalierbarer ML-Systeme auf AWS (Lambda, Step Functions, S3, Bedrock) mit Docker, Kubernetes, TorchServe und FastAPI. Automatisierung von CI/CD-Pipelines mit GitHub Actions, MLflow und DVC sowie Monitoring mit Prometheus und Langfuse.
Evaluation & Guardrails
Design deterministischer Evaluationsframeworks zur Qualitätssicherung von LLM-Ausgaben, Implementierung von LLM-Observability mit Langfuse sowie PII-Erkennung mit Presidio und Guardrails mit NeMo.
Dokumentenverarbeitung & Document Intelligence
Entwicklung mandantenfähiger Document-Intelligence-Plattformen mit OCR, VLM-basierter Dokumentenverarbeitung und Layout-Analyse mittels LayoutLM, Donut und LiLT. Einsatz von OpenCV und Tesseract OCR als Vorverarbeitungsschritte.
Deep Learning & Modelltraining
Training und Optimierung von Deep-Learning-Modellen mit PyTorch und TensorFlow, INT8-Quantisierung für Inferenzbeschleunigung sowie Einsatz von TensorRT auf NVIDIA Jetson für Echtzeit-Inferenz.
Computer Vision
Entwicklung von Echtzeitsystemen zur Objekterkennung mit YOLO sowie Bildsegmentierungspipelines mit U-Net und DeepLabV3 fuer Anwendungen wie Schlaglocherkennung und SAR-Bildsegmentierung.
Programmierung & Frameworks
Umfangreiche Erfahrung mit Python, PyTorch, TensorFlow, scikit-learn und PostgreSQL als Kernwerkzeuge fuer die Entwicklung und den Betrieb von ML-Systemen.
Fundierte Kenntnisse im Fine-Tuning von LLMs mittels QLoRA, strukturierten Ausgaben mit Pydantic AI sowie im Einsatz von Modellen wie Claude, GPT, Qwen, DeepSeek und Kimi. Entwicklung von LLM-Reflection-Agenten mit Confidence Gating und Keep-Best-Guards zur Optimierung von Extraktionsqualität und Latenz.
Agentic Systems & RAG-Pipelines
Aufbau und Betrieb komplexer Multi-Agenten-Systeme mit LangGraph und LangChain sowie hybrider Retrieval-Pipelines (BM25, dense embeddings, RRF-Fusion) mit Vektordatenbanken wie Weaviate und Qdrant. Einsatz von MCP (Model Context Protocol), tool use und function calling in produktiven Systemen.
MLOps & Cloud-Infrastruktur
Bereitstellung und Betrieb skalierbarer ML-Systeme auf AWS (Lambda, Step Functions, S3, Bedrock) mit Docker, Kubernetes, TorchServe und FastAPI. Automatisierung von CI/CD-Pipelines mit GitHub Actions, MLflow und DVC sowie Monitoring mit Prometheus und Langfuse.
Evaluation & Guardrails
Design deterministischer Evaluationsframeworks zur Qualitätssicherung von LLM-Ausgaben, Implementierung von LLM-Observability mit Langfuse sowie PII-Erkennung mit Presidio und Guardrails mit NeMo.
Dokumentenverarbeitung & Document Intelligence
Entwicklung mandantenfähiger Document-Intelligence-Plattformen mit OCR, VLM-basierter Dokumentenverarbeitung und Layout-Analyse mittels LayoutLM, Donut und LiLT. Einsatz von OpenCV und Tesseract OCR als Vorverarbeitungsschritte.
Deep Learning & Modelltraining
Training und Optimierung von Deep-Learning-Modellen mit PyTorch und TensorFlow, INT8-Quantisierung für Inferenzbeschleunigung sowie Einsatz von TensorRT auf NVIDIA Jetson für Echtzeit-Inferenz.
Computer Vision
Entwicklung von Echtzeitsystemen zur Objekterkennung mit YOLO sowie Bildsegmentierungspipelines mit U-Net und DeepLabV3 fuer Anwendungen wie Schlaglocherkennung und SAR-Bildsegmentierung.
Programmierung & Frameworks
Umfangreiche Erfahrung mit Python, PyTorch, TensorFlow, scikit-learn und PostgreSQL als Kernwerkzeuge fuer die Entwicklung und den Betrieb von ML-Systemen.
Erfahrung
Berufserfahrung5 - 10 Jahre
Freelancer seit2026
Sprachen
DeutschGrundkenntnisseEnglischverhandlungssicher
Projekthistorie
Automatisierung von Zollanmeldungen und Conversational AI.
- Unternehmensweite Einführung von Guardian – einem deterministischen Evaluationsframework für Extraktion, Grounding und Chat-Qualität – und Etablierung eines verpflichtenden Release-Gates, das 30+versteckte Regressionen aufdeckte.
- Leitung der Migration von OCR-basierter auf VLM-basierte Dokumentenverarbeitung (Vision-Language-Modelle); Benchmarking von Claude Sonnet 4.6 gegen Kimi 2.6, Qwen 3.7 Plus und DeepSeek V4 Pro auf einem manuell validierten Evaluationsdatensatz (ca. 300 Dokumente) –Senkung der Kosten pro Dokument um 40–45 % bei gleichbleibendem F1 ≥0,91 für die Line-Item-Extraktion.
- Entwicklung eines LLM-Reflection-Agents für die Dokumentenextraktion mit Confidence Gating und Keep-Best-Guards; Eliminierung der 1,5-fachen Mehrkosten naiver Retries bei gleichzeitiger Steigerung des F1-Werts (0,80 →0,93)und Senkung der p95-Latenz (31 s →21 s).
KI-gestützte Immobilienbewertungsplattform
- Ablösung eines manuellen Bewertungsworkflows durch ein Multi-Agenten-System; Reduzierung der Bearbeitungszeit pro Gutachten von 4,5 Stunden auf unter 90 Minuten.
- Neugestaltung des Modell-Routings nach Kosten- und Aufgabenprofil: Verlagerung der Extraktion auf Qwen2.5-32B, GPT-4 ausschließlich für die Erstellung der Gutachtentexte. Senkung der monatlichen Inferenzkosten von 20.000 € auf 12.000 €; Qualität durch Blindbewertungen des Gutachterteams bestätigt.
- Behebung von Retrieval-Fehlern, bei denen das System Vergleichsobjekte aus nicht relevanten ländlichen Regionen lieferte, durch Geo-Attribut-Filter in einem hybriden BM25-/BGE-base-Retrieval über 2 Mio. Weaviate-Datensätze; Precision@5 von 91 % auf dem Evaluationsdatensatz.
- Integration von Langfuse-Observability in die Multi-Agenten-Pipeline –Modellaufrufe, Retrieval-Schritte, Latenzen und Fehler durchgängig nachvollziehbar; Verkürzung der Zeit zur Lokalisierung fehlerhafter Pipeline-Schritte von 3,5 Stunden auf 8 Minuten.
- Integration von NeMo Guardrails mit Schwellenwerten, die gemeinsam mit leitenden Gutachtern und Compliance-Verantwortlichen kalibriert wurden; Erkennung bestätigter Verstöße in ca. 3.600 Einreichungen mit ca. 92 % Precision.
Mandantenfaehige Document-Intelligence- und Knowledge-Retrieval-Plattform.
- Entwurf der Pydantic-Schema-Standards und Evaluationsworkflows für eine mandantenfähige RAG-Plattform (Multi-Tenant) über 250.000+Unternehmensdokumente; unternehmensweit als Standard übernommen.
- Mitentwicklung einer gemeinsamen PII-Taxonomie mit den Rechtsabteilungen von drei Unternehmenskunden und Entwicklung maßgeschneiderter Presidio-Recognizer; F2-Wert von 0,97 auf einem Testset von 1.500 Rechtsdokumenten.
- Aufbau einer Multi-Tenant-Hybrid-Retrieval-Pipeline mit Qdrant, BM25, E5-base und RRF-Fusion über mehr als 2 Mio. Dokumenten-Chunks; Steigerung des MRR auf 0,82, dadurch kleinere Kontextfenster und Senkung der LLM-Kosten pro Anfrage von 0,11 € auf 0,03 €.
- Fine-Tuning von Qwen-14B mittels QLoRA mit über Instructor erzwungenen Ausgabeschemata; Verbesserung des F1-Werts für strukturierte Extraktion von 0,63 auf 0,81, nahezu ohne halluzinierte Felder.
- Bereitstellung von Qwen-14B auf vLLM mit Chunked Prefill zur Abfederung von Lastspitzen bei Long-Context-Dokumenten für 0,12 $ pro Dokument; Definition der teamweit übernommenen Pydantic-Serviceschnittstelle.