Information Retrieval: Die geheime Zutat für Retrieval Augmented Generation (RAG)

Google Search kann sagen „I don’t know“ – „Ihre Suche ergab kein Ergebnis“. Large Language Models (LLMs) können das nicht. Stattdessen geben sie hochkonfident generierte aber oft auch inhaltlich falsche Texte von sich. Trotzdem nutzen immer mehr Menschen chatGPT für alltägliche Suchanfragen, eben weil die Antworten so schön aufbereitet sind. Der Retrieval Augmented Generation (RAG) Hype verspricht, dass Unternehmen das gleiche Erlebnis für ihre Mitarbeitenden und ihre interne Dokumentation erreichen können. Was nicht verraten wird, ist, dass Information Retrieval – das Rückgrat von RAG – eine Kunst ist, die die meisten Unternehmen, die nicht Google sind, immer noch vor ungelöste Probleme stellt. Suche ist eben nicht trivial.

In diesem Talk betrachten wir den Hype um RAG kritisch und schauen unter die Haube. Wir lernen anhand von Beispielen die Tücken aber auch Tricks beim Aufsetzen von domänenangepasster Suche kennen und zeigen Grenzen und Möglichkeiten auf.