PROFIL
AI Engineer und Gründer mit Schwerpunkt auf Agentic AI, RAG, ML Engineering und Enterprise-Automatisierung. Ich verbinde Modell- und LLM-Workflows mit Backend, Cloud, Kubernetes, MLOps/LLMOps, Evaluation und Observability. Praxis aus eigenen Plattformen, Kundenprojekten, Produktentwicklung, Systemintegration und technischem Betrieb.
TECH STACK
AI ENGINEERING
- Generative AI
- Agentic AI
- RAG
- Multi-Agent
- Tool Calling
- MCP
ML ENGINEERING
- PyTorch
- Hugging Face
- Transformer
- Attention
- Fine-Tuning
- Inferenz
MLOPS
- MLflow
- W&B
- DVC
- Optuna
- Ray Tune
- Model Registry
LLMOPS
- Langfuse
- LangSmith
- Arize Phoenix
- Promptfoo
- DeepEval
BACKEND & DATA
- Python
- FastAPI
- TypeScript
- Node.js
- PostgreSQL
- ChromaDB
- REST
- Webhooks
CLOUD & PLATFORM
- AWS Bedrock
- Microsoft Azure
- Microsoft Fabric
- Microsoft IQ
- Kubernetes
- Helm
- Docker
- NVIDIA MIG
DEVOPS & QA
- GitHub Actions
- GitLab CI/CD
- Argo Workflows
- PyTest
- Playwright
- Selenium
OBSERVABILITY
- OpenTelemetry
- Netdata
- DCGM
- Grafana Loki
- Elasticsearch
ARBEITSWEISE
- AI Engineering · ML Engineering
- Experiment-driven Development
- Plan ? Build ? Verify ? Review
- Automatisierte Quality Gates
- Human-in-the-Loop · Fail-closed
- Architekturentscheidungen & Evidenz
FRAMEWORKS & TOOLS
AI / ML
- PyTorch
- Transformers
- LangChain
- LangGraph
- Ollama
BACKEND / UI
- FastAPI
- Node.js
- React
- Next.js
- SQLAlchemy
INTEGRATION
- REST/JSON
- Webhooks
- MCP
- externe APIs
DELIVERY
- Docker
- Helm
- Git
- GitHub
- Linux
- Nginx
ENGINEERING-FOKUS
- Produktionsreife AI-Systeme
- Skalierbare Multi-Agent-Workflows
- Messbare Modell- & Promptqualität
- Sichere Enterprise-Integration
SYSTEMDESIGN
- Event-Sourcing & State Machines
- Microservices & API Boundaries
- Multi-Tenancy & Berechtigungen
- RAG, Memory & Knowledge Flows
- Idempotenz & Audit Trails
DELIVERABLES
- Architektur & ADRs
- APIs & Integrationen
- Agent- & RAG-Workflows
- CI/CD & Testautomatisierung
- Deployments & Observability
- Technische Dokumentation
METHODIK
- Anforderungen & Akzeptanzkriterien
- Architektur vor Implementierung
- Test-first / Counterchecks
- Trace- & Evidenz-basierte Reviews
- Dokumentierte Übergaben
PROJEKTABLAUF
- Discovery ? Design
- Build ? Integrate
- Verify ? Review
- Deploy ? Observe ? Improve
ML ENGINEERING
MODELLARCHITEKTUR
- Neuronale Netze
- Transformer
- Encoder/Decoder
- Attention
- Feed-Forward
TRAINING & TUNING
- Loss
- Optimizer
- Learning Rate
- Batch/Epoch
- Fine-Tuning
- Hyperparameter Search
INFERENCE
- Tokenisierung
- Embeddings
- Batching
- Modell-Routing
- Serving
- Latenz/Throughput
EVALUATION
- Accuracy
- Precision/Recall
- F1
- Faithfulness
- Relevanz
- Robustheit
AI INFRASTRUCTURE
GPU COMPUTE
- NVIDIA MIG
- Triton
- NVCR
- Device Plugin
INTERCONNECT
- NVLink
- NVSwitch
- InfiniBand
- RoCE
- PCIe Gen 4/5
CLOUD
- AWS
- Microsoft Azure
- Microsoft Fabric
- Microsoft IQ
OBSERVABILITY
- Netdata
- DCGM
- OpenTelemetry
- Loki
- Elasticsearch
- Langfuse
ARCHITEKTURPRINZIPIEN
- Reproduzierbare Experimente
- Persistente Zustände & Evidenz
- Deterministische Quality Gates
- Isolierte & skalierbare Workloads
- Fail-closed bei Unsicherheit
- Human Approval bei kritischen Aktionen
- Kosten-, Latenz- & Qualitätsmessung
TOOLCHAIN
MODEL / TUNING
- PyTorch
- HF
- MLflow
- W&B
- DVC
- Optuna
- Ray Tune
LLM QUALITY
- Promptfoo
- DeepEval
- LangSmith
- Langfuse
- Arize Phoenix
RUNTIME
- Kubernetes
- Helm
- Argo
- Triton
- NVIDIA Device Plugin
OPERATIONS
- Netdata
- DCGM
- OpenTelemetry
- Loki
- Elasticsearch
CLOUD & PROVIDER
- AWS Bedrock / GPU Compute
- Microsoft Azure
- Microsoft Fabric
- Microsoft IQ
- NVIDIA GPU Platform
BETRIEBSMETRIKEN
- Latency · Throughput
- GPU / VRAM / MIG
- Cost per Run / Token
- Error Rate · Quality Score
DATA & STORAGE
- PostgreSQL · ChromaDB
- Dataset / Model Artefacts
- Logs · Traces · Metrics
- Vector Search · Embeddings
DEPLOYMENT PATTERNS
- Rolling / Canary Releases
- Autoscaling & Load Balancing
- Multi-Cluster Routing
- Zero-Downtime Model Rollouts
KOMPETENZPROFIL
- AI & ML ENGINEERING: Modellarchitektur, Transformer, RAG, Agentic AI, Multi-LLM-Routing, Evaluation und sichere Tool-Nutzung.
- MLOPS & LLMOPS: Experiment Tracking, Model Registry, Data/Model Versioning, Prompt QA, Tracing, Kosten- und Qualitätsmetriken.
- PLATFORM & CLOUD: Kubernetes, Helm, Docker, GPU/MIG, AWS Bedrock, Microsoft Azure, Fabric, IQ und verteilte Workloads.
- QUALITY & GOVERNANCE: CI/CD, E2E/Integration/Unit Tests, unabhängige Reviews, Human-in-the-Loop, Fail-closed und Auditability.
AUSGEWÄHLTE PROJEKTE
SIP · Agentische Enterprise-Plattform
Eigenes Produkt | SiegFlow AI
- State ? Action ? Authority ? Execution ? Feedback mit Event Ledger, Company Brain, RAG und kontrollierter Process Runtime.
- Mandantentrennung, Scopes, Budgets, Human-in-the-Loop und nachvollziehbare Ausführungszustände.
- Roadmap: anonymisierte Trainingsdaten für Modellweiterentwicklung; unterbrechungsfreie Evaluation/Inferenz.
- TECH Python · FastAPI · PostgreSQL · LangGraph · RAG · Kubernetes · Langfuse
Generative AI Engineering
Autonome Coding-Agenten für SIP
- Planner, Builder, Tester und Reviewer in wiederaufnehmbaren Plan-Build-Verify-Review-Loops.
- CI/CD-Gates mit Typecheck, Unit/Integration/E2E, Security und unabhängiger Review.
- Tracing, Prompt Management und Evaluation über Langfuse.
- TECH Claude Code · Codex · GitHub Actions · Langfuse · CI/CD · PyTest/Playwright
Enterprise AI Runtime
Distributed Multi-LLM / GPU Infrastructure
- Parallele LLM- und Agent-Workloads über mehrere Server, Nodes und Container.
- GPU-Isolation mit NVIDIA MIG, Multi-LLM-Routing und reproduzierbare Deployments.
- Tracing, Prompt QA und Output-Evaluation vor Enterprise-Weiterverarbeitung.
- TECH AWS Bedrock · Kubernetes · Helm · NVIDIA MIG · Langfuse · Agentic Workers
green-but-blind
Open-Source Quality Engineering
- Erkennt Tests, die grün sind, ohne die behauptete Schutzwirkung zuverlässig zu prüfen.
- Mutation-proof, dead-filters, second-lists und control-chars mit ehrlichen FIRED/UNCLEAR-Verhalten.
- Einsetzbar als ergänzende CI-Analyse für Testqualität.
- TECH Node.js · JavaScript · Mutation Testing · Static Analysis · Vitest/TAP
Fullstack Commerce · Lebensmittelgroßhandel
B2B Commerce & Realtime Inventory
- B2B-Shop mit Echtzeit-Lagerstatus, Produktdaten, Verfügbarkeit und Bestellprozessen.
- Integration zwischen Commerce, Backend und Waren-/Lagerdaten.
- Fokus auf konsistente Bestände und operative Nutzbarkeit.
- TECH Sana Commerce · REST APIs · SQL · Fullstack · Backend Integration
GenAI Smart-Building Plattform
Kundenanfrage ? Planung ? Visualisierung
- Bearbeitung realer Smart-Home-Kundenanfragen und Übersetzung in strukturierte Anforderungen.
- GenAI-gestützte Varianten, Grundrisse, Renderings und Planung von Smart-Home-Szenarien.
- Technische Ausrichtung auf Loxone/KNX sowie Cloud und Datenintegration.
- TECH Loxone · KNX · Firefly · Finch3D · Hypar · Midjourney · Azure · Fabric
cite-or-decline
Evidenzprüfung für LLM-Ausgaben
- Providerunabhängige Python-Bibliothek für Quellenreferenzen, Zitationsabdeckung und unbelegte Claims.
- Retrieval ? Generation ? Validation ? Repair mit synchronen und asynchronen APIs.
- Tracing und providerübergreifende Modellintegration.
- TECH Python · LangGraph · LiteLLM · OpenTelemetry · RAG · Async APIs
LOGOS-1
Memory & Knowledge Architecture
- Working-, episodisches und Long-Term Memory, Retrieval, Konsolidierung und Provenance.
- Untersuchung von Memory-Poisoning, Authority Preservation und Evaluationsbaselines.
- Architekturgrundlagen für persistente Agent- und Company-Brain-Systeme.
- TECH Agent Memory · RAG · Knowledge Graphs · Provenance · LLM Evaluation
TECHNOLOGIEN & TECHNISCHE VERTIEFUNG
AI & ML Engineering
- PyTorch: Modellbau mit neuronalen Netzen, Layern, Loss-Funktionen, Optimierern und Training Loops.
- Hugging Face Transformers: Laden, Inferenz und Anpassung offener LLMs sowie Tokenizer/Model APIs.
- Transformer-Architektur: Embeddings, Self-/Multi-Head-Attention, Feed-Forward, Residuals und Inferenz.
- RAG: Retrieval, Kontextaufbereitung, Quellenbezug, Re-Ranking und Evaluation.
- ML-Engineering-Fokus: reproduzierbare Trainings-/Evaluationsläufe, saubere Baselines und kontrollierte Inferenz.
MLOps & LLMOps
- MLflow / W&B: Experiment Tracking, Parameter, Metriken, Artefakte und Model Registry.
- DVC: reproduzierbare Versionierung großer Datensätze und Modellartefakte.
- Optuna / Ray Tune: Hyperparameter-Suche und skalierbare Tuning-Workloads.
- Promptfoo / DeepEval / LangSmith / Langfuse / Arize Phoenix: Prompt-QA, Tracing, Evaluation und Kostenanalyse.
- Lifecycle: Modell-, Prompt- und Datensatzversionen mit nachvollziehbaren Experimenten und Freigaben.
DevOps, CI/CD & Quality Engineering
- GitHub Actions / GitLab CI/CD: automatisierte Build-, Test-, Review-, Merge- und Deployment-Pipelines.
- Argo Workflows: Kubernetes-native parallele Test-, Batch- und Compute-Pipelines.
- PyTest / JUnit, Playwright / Selenium: Unit-, Integration-, API- und End-to-End-Tests.
- Docker / NVCR: reproduzierbare Images sowie GPU-optimierte Container-Basis.
- Quality Gates verbinden statische Checks, Tests, Security und unabhängige Reviews vor Deployments.
Container, Multi-Cluster & Inference
- Kubernetes / Helm: Scheduling, Services, Rolling Updates, Load Balancing, Releases und Skalierung.
- NVIDIA Device Plugin: GPU- und MIG-Ressourcen für Kubernetes-Workloads.
- Karmada / Rancher: Multi-Cluster-Management; Nomad als alternative Workload-Orchestrierung.
- NVIDIA Triton: Model Serving, Dynamic Batching und GPU-/MIG-Inferenz.
- Deployment-Muster: Rolling/Canary Releases, Autoscaling, Health Checks und kontrollierte Modellwechsel.
Monitoring, Observability & Data
- Netdata.cloud mit nvidia_smi- und DCGM-Collector für CPU, GPU, VRAM und MIG-Telemetrie.
- OpenTelemetry und Langfuse für Traces, Modell-/Agent-Flows, Latenz, Kosten und Evaluation.
- Grafana Loki / Elasticsearch für persistentes Log-Management.
- PostgreSQL für Anwendungsdaten, Systemzustände und persistente Workflow-Daten.
- Betriebsmetriken: Error Rate, Throughput, Token-/Run-Kosten sowie Trace-basierte Ursachenanalyse.
Hardware, Cloud & Provider
- NVIDIA MIG für isolierte GPU-Partitionierung; NVLink/NVSwitch für GPU-zu-GPU-Verbindungen.
- InfiniBand / RoCE für serverübergreifende GPU-Kommunikation; PCIe Gen 4/5 als CPU/GPU-I/O-Pfad.
- AWS / Bedrock für Cloud-AI und GPU-Workloads; Microsoft Azure für Cloud-, Compute- und Enterprise-Integration.
- Microsoft Fabric & Microsoft IQ für Daten-/Analytics und Enterprise-AI-Kontexte; FTTH/Glasfaser für datenintensive Remote-Szenarien.
- Cloud-Design berücksichtigt Regionen, Datenresidenz, Skalierung, GPU-Verfügbarkeit und Provider-Fallbacks.
ENGINEERING-DISZIPLINEN
AI Engineering · ML Engineering · MLOps · LLMOps · Platform Engineering · DevOps
- Durchgängiger Fokus auf reproduzierbare Experimente, messbare Qualität, sichere Ausführung, Observability und skalierbare Produktionsinfrastruktur.