ProfilIch bringe Sprachmodelle dorthin, wo die Daten das Haus nicht verlassen dürfen. Seit 2025 baue und betreibe ich selbst gehostete LLM-Infrastruktur auf NVIDIA-Grace-Blackwell-Hardware: containerisierte Inferenz mit vLLM und Ollama, Quantisierung passend zu realen Speichergrenzen und gemessener Ausgabequalität sowie eine dokumentierte Betriebsgrundlage, mit der andere die Plattform ohne mich betreiben können. Davor habe ich produktive Python-Systeme bei einem kommunalen Energieversorger und einem europäischen Clearinghaus entwickelt ? in regulierten Umgebungen und eng mit Fachbereichen, die selbst keinen Code schreiben. Aus der Physik bringe ich die Frage mit, wie belastbar eine Zahl wirklich ist. In neue Fachdomänen arbeite ich mich schnell ein: Beim EU-Emissionshandel für den Seeverkehr lagen zwei Monate zwischen null Vorwissen und einem produktiven Modell.
Kenntnisse- LLM & KI
- vLLM, Ollama, Open WebUI (inkl. eigener Tools und Functions), Open-Weight-Modelle (Qwen, Llama, Mistral, Gemma, Laguna, Nemotron, gpt-oss, DeepSeek), Quantisierung (GGUF, Q4/Q8), GPU-Speicherdimensionierung, Tool-/Function-Calling, JSON-Schema-Ausgaben, Evaluation und Benchmarking, LLM-APIs (Anthropic, OpenAI, Google, OpenRouter), Coding-Agenten (Claude Code, opencode, pi, goose)
- Python
- Python (typisiert, mypy), FastAPI, Pydantic, pytest, uv, pandas, Polars, NumPy, Numba, scikit-learn, PyTorch
- Daten
- SQL, PostgreSQL, DuckDB, Supabase
- Infrastruktur & DevOps
- Linux, Docker, Docker Compose, Kubernetes, GitLab CI/CD, GitHub Actions, Git, Bash, Google Cloud Platform, Railway, Tailscale, ARM/aarch64, NVIDIA Container Runtime
- Methoden
- Zeitreihen-Forecasting, Backtesting und Fehlermetriken, Nowcasting, Monte Carlo, Markov-Ketten, statistische Simulation, Unsicherheitsquantifizierung, Validierung und Plausibilisierung, Anforderungsanalyse mit Fachbereichen
- Weitere Sprachen
- ?Java und Spring Boot, C, C++, Julia, Rust, Go, TypeScript