Want to create an interactive transcript for this episode?
Podcast: Chaos Computer Club - recent events feed
Episode: KI-Chat mit eigener Suchmaschine: RAG in YaCy (clt26)
Description: Möchte man eine spezielle Datenmenge mit einem KI-Chat verbinden, so muss man diese Daten in einer speziellen Art und Weise mit dem Chat-System verbinden, die man RAG (Retrieval Augmented Generation) nennt. Man benötigt dazu eine Suchmaschine für diese speziellen Daten und ein Chat-System, das die Suche in dieser Suchmaschine durchführt.
Hier bietet es sich an, in YaCy einen KI-Chat einzubauen, damit der YaCy-Suchindex für den Chat genutzt werden kann. Genau das haben wir gemacht und zeigen:
- wie man in YaCy einen geeigneten Suchindex aufbaut,
- wie man ein lokales LLM Inference System installiert (mit Ollam...