28.10.2026 aktualisiert

**** ******** ****
Premiumkunde
100 % verfügbar

Senior AI Engineer – Sovereign AI, selbst betriebene LLMs, vLLM, Kubernetes

Sankt Leon-Rot, Deutschland
Nur Remote
B.Sc.
Sankt Leon-Rot, Deutschland
Nur Remote
B.Sc.

Profilanlagen

Felix_Bruckner_CV_LLM_Platform_Engineer_RecNow.docx

Über mich

Sovereign AI: LLMs on-premises auf eigenen GPUs (vLLM, SGLang), nach BITBW-Standards (IT Baden-Württemberg) gehärtet. Erfahrung in regulierten Umfeldern: Justiz, Bundesverwaltung, Finanzsektor, Verteidigung. Ab sofort in Vollzeit verfügbar, remote.

Skills

RAGHelmLangChainOllamaJavaKünstliche IntelligenzApache AirflowAtlassian ConfluenceAtlassian JiraOpenShiftSwaggerOracle Fusion MiddlewareLarge Language ModelsAWS LambdaSpring DataKubernetesCassandraXgboostAtlassian BitbucketTerraform
Sovereign AI, On-Premise LLM, selbst betriebene LLMs, vLLM, SGLang, LiteLLM, Open WebUI, Ollama, Kubernetes, OpenShift, Helm, ArgoCD, RAG, LangChain, pgVector, Milvus, Weaviate, Qdrant, Vektordatenbanken, Oracle Fusion Middleware, Mistral (nur per API genutzt, nicht selbst betrieben), Scaleway (API)
Large Language Models, LoRa, Vector Databases, QDrant, pgVector, RAG (Retrieval Augmented Generation), Agentic RAG, CrewAI, Swarm, DSPy, Letta, LangChain, Haystack, Llama Index, LLama, OpenAI, GPT 4o, Multi-Modal AI, LongVU, ARIA, PyTorch, UltraLytics, Yolo, Fullstack NextJS shadcn Typescript

Azure, Python, Airflow, AWS, xgBoost, Machine Learning, JupyterHub, Synapse, Azure Synapse Analytics, EMR, Kubernetes, Helm Charts,Java 8/11/17, Java EE, Spring Boot, Spring Data, JPA, Swagger, Springfox, Docker, Docker Compose, Jetty, Hibernate, Tomcat, Maven, Gradle, Jenkins, Databases (Relational: PL/SQL, MySQL / NoSQL: Cassandra, Redis, Spark, Hadoop), IDEs (Eclipse, IntelliJ, Visual Studio), Tools: Git, SVN, Windows, Linux (Debian, RedHat, Oracle), VMWare, MS Office, Atlassian Jira, Confluence, Bitbucket

Programming-Languages: Java, JavaScript, Groovy, Python, Clojure, Bash

Erfahrung

Berufserfahrungmehr als 10 Jahre
Freelancer seit2014

Sprachen

DeutschMutterspracheEnglischverhandlungssicher

Projekthistorie

Data Architect & Senior AI Consultant

Lufthansa Technik AG

Transport und Logistik

Aufgaben:​​
• Technisches Consulting Greenfield-Entwicklung für AVIATAR 2.0
• Technische Konzeption Data Pipelines & Daten Architektur im Datalake (DataVerse)
• Konzeption Data Lake Zones, Data Governance, Data Retention & Recovery-Strategien
• Engine Zusammenarbeit mit Data Architecture & Platform-Team zwecks Scaling & Konzeption Infrastruktur
• Enge Zusammenarbeit mit Stakeholdern in gesamt LHT + Anforderungsmanagement
• Hands-On-Entwicklung Data Pipelines in Spark Structured Streaming & DataBricks
• PoCs für Graph-Links & Realtime Analytics
• Bereitstellung Daten für AI & ML-Projekte (Predictive Analytics)
• Technische Konzeption anhand Anforderung: Near-Realtime Pipelines
Projekthintergrund: 
Technisches Consulting im Rahmen der Greenfield-Entwicklung für AVIATAR 2.0: Entwurf, Konzeption und Entwicklung DataVerse als Digital Twin für Lufthansa Technik in der Teilelogistik. Echtzeit-Monitoring der gesamten Teile-Logistik für Arbeitsbevorratung und Anlieferung von Flugzeugersatzteilen weltweit. Businessziel: Real-time Insights, Reporting, Messung Bevorratung
Projektbezogene technische Aktivitäten (Tools/ Werkzeuge/ Methoden): 
Azure Synpase Analytics, Azure EventHub, DataBricks Delta, Azure DevOps, PySpark, PowerBI, Microsoft PurView, Python, Kafka, Oracle, PL SQL, Jira / Confluence / Scrum

AI Engineer (über VISION Consulting) – Maschinelle Übersetzungsplattform der Justiz (MUEP)

Bund-Länder-Projekt (BMJV), Justiz

Öffentlicher Dienst

Übersetzung mehrsprachiger Dokumente und Scans für die Justiz; die Modelle laufen on-premises auf GPU-Hardware des Betreibers.
• Selbst betriebene Modelle produktiv: Produktion auf 8× NVIDIA H100 unter OpenShift, Entwicklung auf 2× A10; GPU-Sizing sowie Inferenz-Tuning mit vLLM und CTranslate2 selbst durchgeführt
• KI-Pipeline in Python: OCR mit PaddleOCR-VL und Docling, Übersetzung mit MADLAD, LLM-gestützte Prüfung mit Gemma, Layout-Rekonstruktion und Export
• Deployment und Härtung: Helm-Charts und Offline-Modellartefakte erstellt, Auslieferung per CI/CD und ArgoCD; Container nach BITBW-Standards gehärtet
• Betrieb und Tests: Monitoring mit OpenTelemetry, Prometheus und Grafana; reproduzierbare Benchmarks und Regressionstests gegen verifizierte Referenzdaten, inklusive GPU-Speicherbedarf und Laufzeit
Technologien: Python, FastAPI, vLLM, CTranslate2, PyTorch, Hugging Face Transformers, Gemma, MADLAD, Docker, Kubernetes, OpenShift, Helm, ArgoCD, NVIDIA H100/A10, OpenTelemetry, Grafana

AI Architecture Consultant (über VISION Consulting) – LLM-Plattform DAkkS-GPT

DAkkS (Deutsche Akkreditierungsstelle)

Öffentlicher Dienst

• Zielarchitektur mit Fokus auf Datensouveränität: Modellrouting über LiteLLM, Chat-Oberfläche Open WebUI, vLLM und Ollama erprobt und bewertet; RAG-Bausteine und Monitoring eingeordnet
• Inferenz-Server: SGLang gegen vLLM evaluiert, jeweils mit LiteLLM als Modellrouter
• Mistral-Nemo über die Scaleway-API angebunden (in der LiteLLM-Konfiguration hinterlegt); Mistral wird nur per API genutzt, nicht selbst betrieben
• Sicherheit: Plattform nach BITBW-Standards gehärtet; Guardrails-Prototyp gegen Prompt-Injection gebaut
• Betriebskonzept: Hosting-Varianten von Cloud-API bis Self-Hosting in Fünfjahres-TCO-Szenarien verglichen, inklusive Datensouveränität; Grundlage für die Beschaffung
Technologien: LiteLLM, SGLang, vLLM, Open WebUI, Ollama, Docker, Python

AI Consultant und Solution Architect (über play TRACKS GmbH)

ARD/ORF

Medien und Verlage

1000-5000 Mitarbeiter

Über play TRACKS GmbH (Endkunde ARD/ORF), 01/2024 - 04/2025
• RAG in Produktion: Konzeption + Umsetzung RAG-Architektur mit LangChain + pgVector (OpenAI Embeddings); Evaluation von Milvus, Weaviate und Qdrant
• Backend-API mit FastAPI für RAG-basierte semantische Suche nach Videoinhalten (KI-Redaktionstool AIDitor)
• Video-Metadaten-Pipeline (Detector, Tracker, Frame-Extraktion + Analyse), Pre-Classifier mit GPT4o Vision + AWS Rekognition
• Fine-Tune Yolo Detector (YOLOv10), Transkription mit WhisperX, Long-Form Video Understanding mit LongVU
• OCR mit GPT4 Vision, Inhaltsfilter mit AWS Rekognition, Voice-Over mit Google Text-To-Speech
Projekthintergrund: RAG-Anwendung, um Videotimelines aus Agentur- und Archivmaterial zu erzeugen.
Technologien: Python, FastAPI, LangChain, PostgreSQL/pgVector, Milvus, Weaviate, Qdrant (evaluiert), PyTorch, YOLO v10, WhisperX, AWS (S3, Lambda, Bedrock, ECS), Azure OpenAI, Helicone, Docker

Test Data Migration into AWS (Senior Developer)

Volkswagen AG

Automobil und Fahrzeugbau

Project: Test Data Migration into AWS (Senior Developer)
Key Skills: AWS, Terraform, Java, Python, FastAPI, SQL, Docker, Kubernetes, Helm Charts, Gitlab, Gitlab CI, AWS EKS, AWS Glue, AWS Lambda, AWS CloudWatch, Jira / Confluence / Scrum
 
▪ Hands-On Support in migrating On-Premise services to AWS.
▪ Hands-On Develop Python mapping scripts for data transformation of large volumes of software and hardware test data from automotive development.
▪ Architecture + Hands-On Develop Java-based backends / React frontends for self-service tools for client's employees.
▪ Support Transition database scripts from Oracle PL/SQL to PostgreSQL.

Technical Lead: Cloud Transition & Data Platform

Sovendus GmbH (Branche: E-Commerce)

Konsumgüter und Handel

50-250 Mitarbeiter

Key Skills: Java, Spring, Spring Boot, Airflow, Python, Java, Kafka, Spark, AWS, Athena EMR, Terraform, Gitlab CI
  • Hands-On Migrate ETL Pipelines and Machine Learning Workloads from MySQL / Python to pySpark + Airflow to leverage scalability in the cloud
  • Hands-On implement Microservices & APIs to internal Teams to leverage Cloud Data (Kubernetes, Spring Boot)
  • Move SQL Datawarehouse to Cloud-based VDMs with Databricks Delta
  • Hands-On Implement Java-based tooling to support Delta Tables on AWS S3
  • Hands-On Implement SCD and timetravel on User Journey Data
  • Provide Interfaces to Data to QlikSense & KPI Teams
  • Report to Vice-President Data & Steering Committee
  • Conduct Employee Trainings: Airflow, Spark, AWS

Cloud Transition, AWS Migration (Project Lead)

Sovendus GmbH (Branche: E-Commerce)

Konsumgüter und Handel

50-250 Mitarbeiter

Key Skills: Airflow, Python, Java, Kafka, Spark, AWS,
Terraform, Gitlab CI
 
  • Lead team of external contractors to migrate manual AWS setup to entirely Terraform-based scripts + deployment pipelines and adopt KMS based encryption
  • Enable rapid Infrastructure deployment with Terraform, implement customized cluster autoscaling services for EMR in Python
  • Hands-On Implement AWS Organization and switch from AD to AWS SSO
  • Spearhead Adoption of Airflow on AWS MWAA
  • Achieve AWS Cost reduction using transient clusters and Saving Plans
  • Provide JupyterHub to Data Analysts
  • Hands-On Implement KMS Encryption
  • Present Project Progress and Cost Forecasts to C-Level Deciders
  • Conduct Employee Trainings: Airflow, Spark, AWS

IoT Stream Processing in the Cloud

SAP SE

>10.000 Mitarbeiter

Key Skills: Spark, Scala, Java, Maven, Cassandra, SAP HANA, SAP Cloud
 
  • Consulting to help improve processing times of an existing Data Pipeline to process streaming data and calculate aggregates on timeseries data using Apache Spark
  • Deduct trainings for teams on Structured Streaming using Apache Spark
  • Implement Metering / Billing for the existing ingestion pipeline and deploy to production
  • Consult on topics such as multi-tenancy, high availability and hyperscaling archtectures for streaming data on AWS/Azure
  • Hands-on-implementation for a Spark streaming ingestion to Cassandra PoC
  • Hands-on-implementation for a Spark aggregate calculation to Hana PoC
  • Use technologies such as AWS ElastiCache, AWS EMR, AWS Kinesis to build a streaming event processing pipeline PoC for the cloud
  • Use technologies such as CloudFoundry, HANA and Spark Job Server for the current production landscape

Microservices on Azure & Kubernetes - Cloud Transition

Lufthansa AirPlus Servicekarten GmbH,

>10.000 Mitarbeiter

Key Skills: Spark, Java, Maven, Azure, Kubernetes, Spring, Spring Boot

 

  • Consulting on Big Data Architecture and Data Pipeline to cluster and transform large amounts of unstructured data to analyze  and process credit card transactions
  • Design access patterns to Enterprise Data Lake based on Cloudera Enterprise Stack (Kafka, Spark, HBase, Hadoop, Solr) in the Azure Cloud.
  • Design and implement ingestion pipeline using Spark Jobs for transaction processing of incoming credit card data (DataIn) including duplicate flagging and fraud detection.
  • Definition of the REST-API Interface for the Frontend for retrieving billing information (eBilling)
  • Design architecture and interfaces to invoicing (SAP), credit card handling (TSYS) and secure storage (nScale Vecto) for secure invoice download using the Frontend (Portal)

Introduce Central Vulnerability Management Tool

Deutsche Börse AG

5000-10.000 Mitarbeiter

  • Consulting on Atlassian JIRA, Workflow Design, Security/Permission Scheming and Plugin Development for the Atlassian Platform
  • Implementation of heavily customized IT Security Process with custom Plugins and Workflow Scripting for 2000+ users
  • Implement Preprocessing Platform based on Python/Spark/Kafka with filtering, ranking, clustering of Reports from several data sources and authoring a connector to store the security scans within JIRA as Tickets
  • Customized Oracle SSL Connector for JIRA to use encrypted Oracle 11g w/ SSL as Backend
  • LDAP & Identity IQ Connector for Enterprise-compliant IAM
  • Rollout & JIRA Training for Departments in Germany, Luxembourg and Prague

Zertifikate

AWS Certified Solutions Architect – Associate (SAA-C03)

Amazon (Pearson VUE / AWS)

2023

Atlassian Skills Badge: Scaling Jira (ASB-SCJ)

Certmetrics

2021

Atlassian Skills Badge: Customizing Jira Workflows (ASB-CJW)

Certmetrics

2021

Atlassian Skills Badge: Configuring and Troubleshooting Permissions in Jira (ASB-JCP)

Certmetrics

2021

Atlassian Certified in Agile Development with Jira Software

Certmetrics

2019

Atlassian Certified Jira Administrator for Data Center and Server (ACP-JA)

Certmetrics

2017


Kontaktanfrage

Einloggen & anfragen.

Das Kontaktformular ist nur für eingeloggte Nutzer verfügbar.

RegistrierenAnmelden