15.10.2026 aktualisiert
100 % verfügbar
KI-Architekt & Interim Head of AI Engineering | LLM, Agents, RAG
Haid, Österreich
Weltweit
Bsc.Über mich
19 Jahre Softwareentwicklung, 10 Jahre Führung von Teams bis 25 Personen. Founder/CTO einer KI-Suchplattform mit über 1 Mio. Suchanfragen pro Tag. Schwerpunkte: LLM-Agenten, RAG, Evals und Guardrails, Suche und Empfehlungen, Kubernetes. Vom Prototyp in die Produktion. Deutsch, Englisch, Arabisch.
Skills
AI AgentsRAGLLMKünstliche IntelligenzArchitekturCloud ComputingData WarehousingDigitale ArchitekturElasticsearchHigh-Level-ArchitekturPythonLIMSPostgreSQLMachine LearningNatural Language Processing
KI-Architektur & LLM-Systeme
• Konzeption und Umsetzung von LLM-Agenten (Tool Calling, Orchestrierung, Memory), RAG-Systemen und Conversational AI
• Evaluierung (Eval-Sets, Regressionstests), Guardrails, PII-Redaktion (Microsoft Presidio), Kosten- und Latenzoptimierung
• LiteLLM, OpenAI APIs, LangGraph, Prompt Engineering, Fine-Tuning (SFT, LoRA), Intent-Klassifikation
• Vom Prototyp in die Produktion: Shopping-Agent mit 78 % korrekter Bearbeitung unbekannter Gespräche (vorher 60 %), 36 % weniger Tokens, ca. 1 Cent pro Gespräch
Suche & Empfehlungssysteme
• Hybride Suche (Keyword + Vektor), Solr, Elasticsearch, Learning to Rank
• Empfehlungen: Content-basiert, item2vec, Frequently Bought Together (FP-Growth), Approximate Nearest Neighbour
• Plattform mit über 1 Mio. Suchanfragen pro Tag (Spitzen bis 20 Mio.), Latenz von 900 auf 300 ms gesenkt
• Arabisch-first NLP für Online-Händler in der GCC-Region
Plattform & Cloud
• Kubernetes, Docker, Helm, Terraform, AWS, Azure, Hetzner Bare Metal
• Migration AWS zu Kubernetes auf Hetzner: ca. 60 % geringere Infrastrukturkosten
• PostgreSQL, Redis, ClickHouse, Supabase, Prometheus, Grafana, GitHub Actions
• Multi-Tenant-SaaS, Microservices, eventgetriebene Architektur, REST und GraphQL
Programmierung
• Python, TypeScript, Node.js, React, Next.js, Swift/iOS, C#
Führung & Beratung
• 10 Jahre Führung von Engineering-Teams bis 25 Personen in Österreich, Ägypten und VAE
• Lösungsarchitekt und technischer Berater für Takeda, voestalpine und Siemens (SAP- und LIMS-Integration)
• Aufbau von Teams, Hiring, Mentoring, Code-Review- und CI/CD-Standards
• KI-gestützte Softwareentwicklung mit Coding Agents (Claude Code, MCP)
Erfahrung
Berufserfahrungmehr als 10 Jahre
Freelancer seit2025
Sprachen
ArabischMutterspracheDeutschverhandlungssicherEnglischMuttersprache
Projekthistorie
Butler is an AI agent that handles sales and customer support conversations for e-commerce merchants. It answers product questions, recommends products and resolves support requests across web chat and WhatsApp, with more channel integrations planned.
The agent is built on an agent loop with tool use, backed by evals and guardrails to keep responses accurate and on-brand. It runs in production with merchants and is designed for low LLM cost per conversation, with usage tracked and billed per conversation.
Technologies: LLMs, AI Agents, Tool Use, Evals, Guardrails, WhatsApp Business API, Python, Node.js, Kubernetes
- Architecture and development of the AI search platform end to end
- Design of hybrid search with LLM-based query understanding and interaction-based ranking
- Arabic and Franco Arabic NLP for search
- LLM pipeline for automatic product taxonomy classification
- MCP server for merchant analytics with per-tenant row-level security
- Analytics pipeline on ClickHouse with Cloudflare Worker ingestion
- Integrations with Shopware, Shopify, Salla and Zid
- Infrastructure migration from AWS to Kubernetes on Hetzner bare metal (78% lower cost per customer)
- Technical leadership, design and code reviews