Transformer-based approaches to Large Scale Knowledge Retrieval

© Infineon Technologies Austria AG
© Fraunhofer Austria
Abbildung 1: Ioni-TALKs – AI-basierter Instandhaltungschatbot
© Fraunhofer Austria
Abbildung 2: Ioni-TALKs – Perfomance Report in Echtzeit via Chat Interface

Infineon Austria, ein führender Anbieter von Halbleiterlösungen arbeitet kontinuierlich an der Verbesserung von Effizienz und Produktivität, beispielsweise im Bereich der Instandhaltung. Mit einem heterogenen und dezentralisierten Anlagenpark werden hoch ausgebildete und spezialisierte Instandhalter:innen benötigt, um komplexe Fehlerursachen zu identifizieren und proaktiv auf Probleme zu reagieren.

Im Projekt TALK wurde durch den Einsatz von KI in Form eines LLMs, eines großen Sprachmodells, ein kognitives Assistenzsystem entwickelt, welches den Instandhalter:innen der Ionenimplantation ermöglicht, über einen Chatbot (Abbildung 1) mit den jeweiligen Instandhaltungsdaten in Kommunikation zu treten. Dies ermöglicht eine nahtlose Interaktion mittels natürlicher Sprache mit spezifischen Domäneninformationen sowie den Abruf von Wissen aus einer Vielfalt an Datenquellen wie Schulungsunterlagen, Instandhaltungsdokumentationen und diversen Datenbanktypen.

Ein herausragendes Merkmal ist die Fähigkeit, dynamische Performance-Reports in Echtzeit zu generieren und analysieren, wie in Abbildung 2 veranschaulicht. Dabei bleiben die Daten stets unter Kontrolle: Eine wichtige Randbedingung war die Datenhoheit, weswegen ausschließlich mit On-Premise Modellen gearbeitet wurde, die gemeinsam bei Infineon Austria in Betrieb genommen wurden.

Daniel Valtiner (Infineon Austria): „Es ist besonders beeindruckend, den Fortschritt von KI-Technologie direkt in unserem eigenen Arbeitsumfeld zu erleben. Angesichts der rasanten Entwicklungen von KI ist es entscheidend, neue Innovationen zeitnah zu integrieren. Die Expertinnen und Experten von Fraunhofer haben dies durch ihre agile Arbeitsweise hervorragend ermöglicht und uns dabei optimal unterstützt. Die Fähigkeiten zur Datenexploration sind beeindruckend und eröffnen neue Möglichkeiten.“ 

Fact Box

PROJEKT: Transformer-based approaches to Large Scale Knowledge Retrieval
PROJEKTDAUER: 10 Monate
METHODEN: Requirements Engineering, Agile Development (Scrum), Large Language Models, Retrieval Augmented Generation, Conversational AI, Responsible AI
PROJEKTERGEBNISSE:

Domänenspezifischer Chatbot in der Instandhaltung

  • Effiziente Wissensrecherche: Beschleunigtes Auffinden von Informationen und relevantem Wissen
  • Interaktive Datenkommunikation: Nutzende können intuitiv mittels natürlicher Sprache direkt mit Daten interagieren
  • Optimierte Sprachmodellanalyse: Analyse und Anpassung von Sprachmodellen und Entwicklung von Datenaufbereitungstechniken zur Optimierung von Fine-Tuning und Informationsversorgung der Modelle