Sovereign & Private AI Plattform (RAG/LLM), kommerzielles Angebot der BSE IT Consulting | RKE2 (Bare-Metal & EU-Cloud) · AWS European Sovereign Cloud (EKS) · OpenShift SNO (Bare-Metal)

• Architektur, Aufbau und Betrieb einer produktionsreifen ?Sovereign & Private AI?-Plattform für EU-Unternehmen mit Datensouveränitäts-Anforderungen; Datenhaltung und Inferenz vollständig in der EU: private LLM-/Chatbot-Funktionen mit RAG über eigene Dokumente; betrieben auf selbst aufgesetzten und administrierten SUSE-RKE2-Clustern (Bare-Metal on-prem) und Terraform-provisioniertem Managed Kubernetes in der EU-Cloud (Scaleway/STACKIT) sowie OpenShift (Bare-Metal), mit EU-gehosteter Inferenz.
• Ausgangsbasis der Plattform: ein von STACKIT für dessen Infrastruktur entwickeltes RAG-Template; substanzielle Erweiterung und Entkopplung von STACKIT-spezifischen Abhängigkeiten zu einem provider-unabhängigen, EU-souveränen Stack, inkl. Umstellung der Terraform-Provider-Konfiguration und des Ressourcen-Mappings auf Scaleway. 
• Cluster-Lifecycle der RKE2-Umgebungen: Setup, Upgrades sowie Netzwerk- und Storage-Konfiguration (ingress-nginx, Cert-Manager, Longhorn) für produktive containerisierte Workloads. 
• Provisionierung der Managed-EU-Cloud-Infrastruktur mit Terraform: Managed-Kubernetes-Cluster, Managed PostgreSQL und Redis, Object Storage (S3-kompatibel) inkl. Remote-State-Backend, DNS-Zone und Secret Manager. 
• Referenz-Deployment der gesamten RAG-Plattform auf der AWS European Sovereign Cloud (EKS, Region Brandenburg, eigenständige aws-eusc-Partition): Terraform-provisionierte AWS-Infrastruktur (VPC, EKS, IAM/IRSA, Ingress) und Deployment der versionierten Helm-Charts per GitOps (Argo CD); Aufbau, Verifikation und technische Dokumentation als Referenzumgebung. 
• Paketierung des gesamten Stacks (Vektordatenbank, Dokumenten-Ingestion, Chat- und Admin-Komponenten, Observability) als Helm-Charts inkl. eigener Kubernetes-Ressourcen und CRD-basierter Operatoren; Betrieb per GitOps mit Argo CD im Zwei-Repository-Muster (Template-Charts + separate Umgebungskonfiguration, App-of-Apps mit Sync-Waves). 
• Secrets-Management mit dem External Secrets Operator gegen den Scaleway Secret Manager (end-to-end verifiziert), inkl. Terraform-basiertem Seeding und unterbrechungsfreier Migration manuell angelegter Secrets zu operator-verwalteten Secrets im laufenden Betrieb. 
• Umsetzung von Enterprise-Authentifizierung: Keycloak SSO/OIDC für Argo CD, Grafana und Langfuse sowie OAuth2-Proxy-Sidecars vor den Anwendungskomponenten. 
• Aufbau von Monitoring, Logging und Observability mit dem kube-prometheus-stack und Grafana, LLM-Tracing mit Langfuse (LLMOps); produktionsreife Container-Builds per GitLab CI (Kaniko). 
• Produktive Bereitstellung auf einem Live-Cluster: versionsfixierte Release-Tags, Behebung von GitOps-Drift, reproduzierbare Bereitstellung aus versionierten Charts nachgewiesen; technische Dokumentation der implementierten Lösungen. 
• Konzeption, Installation und Betrieb eines eigenbetriebenen OpenShift-SNO-Clusters auf Bare-Metal-Infrastruktur als Ausgangsplattform für containerisierte AI-Workloads, inkl. GitOps-Deployments (Argo CD/Helm), Namespaces, RBAC, Routes und Zugriffssteuerung. 

• Teil des Operational-Excellence-Teams (OpEx) im ePA-Projekt (elektronische Patientenakte) auf der IBM Health Platform. 
• Betrieb und Sicherstellung CI/CD-gestützter Deployments (Jenkins, GitOps, Helm, Argo CD) für über 50 cloud-native Services in mehr als 10 dedizierten Umgebungen. 
• Betrieb, Stabilisierung und Troubleshooting containerisierter Workloads auf Kubernetes-/OpenShift-basierten Plattformen innerhalb einer regulierten Healthcare-Cloud-Infrastruktur. 
• Analyse und Behebung von Incidents, Performance-Optimierung sowie Unterstützung von Release- und Testaktivitäten zur Sicherstellung von Stabilität und Verfügbarkeit. 
• Zusammenarbeit mit Entwicklungs-, Test- und Betriebsteams bei Deployment-Fehlern, Konfigurationsproblemen, Plattformstabilisierung und operativer Fehleranalyse. 
• Berührungspunkte mit Nexus-/Maven-Artefakt-Repositories im Kontext enterpriseweiter CI/CD- und Deployment-Prozesse. 
• Secret Management mit IBM Cloud Secrets Manager (HashiCorp-Vault-basiert) in Kombination mit dem External Secrets Operator: komplette Neuaufsetzung von Secrets beim Aufbau neuer Cluster, Secret-Rotation, Verwaltung von Secret-Gruppen sowie Troubleshooting von Secret-Zugriffen. 
• Sicherstellung der Betriebsintegrität unter Einhaltung von Compliance- und Performance-Anforderungen im regulierten Healthcare-Umfeld. 
• Einführung einer Container-Retention-Lifecycle-Policy zur Verbesserung von Speichereffizienz, Wartbarkeit und Container-Image-Lifecycle-Prozessen. 

• Leitung des technischen Projektmanagements und des Cloud-Betriebs für eine e-Health-MVP-Plattform. 
• Konzeption und Betrieb von Kubernetes-Clustern sowie Azure-Infrastruktur mit Fokus auf Skalierbarkeit und Zuverlässigkeit. 
• Betrieb Azure-basierter Kubernetes-Infrastruktur sowie Integration früher AI-gestützter Anwendungskomponenten mit Azure Cognitive Services. 
• Implementierung von CI/CD-Pipelines, automatisierten Deployment-Workflows und containerisierten Anwendungskomponenten. 
• Einführung von Containerisierungspraktiken, Infrastruktur-Monitoring und strukturierten Betriebsprozessen. 
• Koordination externer Entwickler und Designer zur Umsetzung der Produktvision. 
• Anerkennung als innovatives Unternehmen im Rahmen des Förderprogramms ?INVEST ? Zuschuss für Wagniskapital? des BMWK für das entwickelte e-Health-Plattformkonzept. 

• Umsetzung und Leitung webbasierter IT-Projekte im Healthcare-Umfeld (u. a. Symptom-Tracking, Online-Terminportale). 
• Einführung von Docker und DevOps-Praktiken in bestehende Legacy-Umgebungen. 
• Entwicklung und Betrieb von Websites, Online-Shops und Landing Pages.