[Name auf Anfrage] konzipierte und entwickelte ein unternehmensweites Company-GPT-System, das interne Informationen aus strukturierten und unstrukturierten Quellen intelligent erschließt. Die Anwendung extrahiert Inhalte aus PDF-, Word-, Excel- und Bilddateien, die über einen OneDrive-Ordner bereitgestellt werden, und macht dieses Wissen über eine intuitive Angular-basierte Oberfläche nutzbar.
Im Backend setzte er auf eine skalierbare Microservice-Architektur mit Spring Boot und integrierte Spring AI zur orchestrierten Nutzung von GPT-Modellen über ein Retrieval-Augmented Generation (RAG)-System.
Die Vektorisierung der Inhalte erfolgte über ein eigens entwickeltes Embedding-Modul, ergänzt durch semantische Ähnlichkeitssuche und ein lernfähiges Ranking zur Verbesserung der Ergebnisqualität.
OCR-Verfahren ermöglichten die Texterkennung aus Bildern und Scans, während strukturierte Daten aus Excel-Tabellen automatisiert in die semantische Verarbeitung integriert wurden.
Die sichere und DSGVO-konforme Speicherung wurde über ein rollenbasiertes Berechtigungskonzept sichergestellt.
Entwicklung und Durchführung domänenspezifischer Prompting-Strategien zur Verbesserung der Retrieval-Qualität ? inkl. CoT-Prompts und response calibration
Ziel war die Demokratisierung des Zugangs zu historischem Unternehmenswissen, die Reduktion von Suchzeiten sowie die Steigerung der Entscheidungsqualität durch Self-Service-Abfragen im natürlichen Sprachstil.

Architektur, Entwicklung und produktiver Betrieb einer Webanwendung zur Generierung rechtssicherer Patentanmeldungen mit generativer KI. Integration von GPT-Modellen (OpenAI API) zur automatisierten Texterstellung und -optimierung, orchestriert über Spring AI & LangChain.
Im Rahmen der Plattformbewertung wurde zudem ein Vergleich zwischen OpenAI, Anthropic Claude und Hugging Face durchgeführt, u.?a. hinsichtlich Kostenstrukturen, Datenschutzrichtlinien (DSGVO), API-Funktionalitäten und Modellverhalten.
Aufbau eines RAG-Systems mit PGVector und PostgreSQL zur Vektor-Suche und Referenzierung juristischer Vorlagen, sowie Fine-Tuning (Zero-Shot, Few-Shot).
Entwicklung von REST-APIs zur Ansteuerung von KI-Komponenten sowie Authentifizierung via Spring Security.
Entwicklung des Frontends, inkl. dynamischer Formulare, Prompt-Felder und Vorschaufunktionen für die generierten Dokumente und State Management.
Deployment auf Microsoft Azure, automatisiert über GitLab CI (CI/CD).
Implementierung von Observability-Komponenten mit Prometheus und Grafana.
Durchführung umfassender Tests (JUnit, Mockito, Postman) sowie agile Zusammenarbeit mit Juristen und Feedbackschleifen zur kontinuierlichen Optimierung der KI-Modelle und der Anwendung.

Aufbau Architektur Microservices in einer Cloud-Umgebung

Neuentwicklung von Microservices zur Erfassung und Analyse der Daten

CI/CD Pipeline Erstellung und Ersteinrichtung des Deploymentprozesses

Spezifikation des DevOps-Prozesses, Einrichtung Monitoring

Mentoring und Einarbeitung neuer Mitarbeiter, Anforderungserstellung

JUnit5-Tests & Integrationstests

Last- und Performancetests

Feature Engineering & Requirements Engineering

Konzeption und Entwicklung: Aufbau eines KI-gestützten Systems zur semantischen Dokumentenanalyse und -suche für den Bankenprozess.
Computer Vision: Einsatz von OpenCV und YOLO zur Erkennung und Extraktion relevanter Daten aus gescannten Dokumenten.
Textverarbeitung: Integration von Large Language Models (GPT) zur Analyse und Generierung von Textinhalten aus Verträgen, Rechnungen und Formularen.
Suche und Information Retrieval: Implementierung von Retrieval Augmented Generation (RAG) zur Unterstützung einer semantischen Dokumentensuche, initial mit Pinecone, später Migration zu PGVector für bessere PostgreSQL-Integration und Kosteneinsparung.
Zusätzlich wurde ein einfaches Fine-Tuning eines LLaMA-Modells in einer geschützten Azure-Umgebung über Hugging Face durchgeführt, um regulatorische Sprache im Bankkontext zu erlernen.
Nachtrainieren und Optimierung: Monitoring und Nachtrainieren der AI-Modelle basierend auf Benutzerfeedback und Produktionsdaten.
Deployment: Aufbau von CI/CD-Pipelines für automatisierte Tests und Deployment in Azure Cloud
Testing: Erstellung von Last-, Integrations- und Unit-Tests sowie API-Tests mit Postman zur Sicherstellung der Systemqualität.
Zusammenarbeit: Teilnahme an Anforderungsanalysen, Architektur-Design-Besprechungen und agiler Zusammenarbeit im Team.

[Name auf Anfrage] entwickelte und optimierte Microservices zur Verarbeitung von Echtzeit-Datenströmen auf Basis von Kafka. Im Rahmen einer strategischen Architekturmodernisierung begleitete er die Migration von einer Managed-Cloud-Lösung hin zu einer Unmanaged Cloud zur Erhöhung der betrieblichen Kontrolle.
Die bestehenden CI/CD-Prozesse wurden von Jenkins auf GitLab CI umgestellt, um Build-, Test- und Deployment-Workflows effizienter und zuverlässiger zu gestalten. Für den produktionsnahen Einsatz wurden die Microservices in Docker containerisiert und mittels Helm-Charts automatisiert in Kubernetes ausgerollt.
Parallel zu den technischen Implementierungen initiierte und leitete er eine Reihe von internen Workshops zur Exploration neuer KI-Technologien im Transportwesen. Diese Workshops führten zur Bildung einer informellen Arbeitsgruppe, die erste Use Cases für machine-learning-basierte Verspätungsprognosen und textbasierte Reiseinformationssysteme identifizierte. Diese frühen Vorarbeiten und der Aufbau von KI-bezogenem Know-how im Team legten den Grundstein für spätere, umfassendere KI-Initiativen in der Abteilung.
Die Systemqualität wurde durch End-to-End-Tests mit FitNesse, Test-Isolation per vCluster sowie regelmäßige Code-Reviews und Debugging sichergestellt.