Want to create an interactive transcript for this episode?
Podcast: Trending Topics Tech Talk
Episode: Edge AI: Wie LLMs am Smartphone laufen - feat. Vivien von Objectbox
Description: Wenn wir ChatGPT und Co heute mit Aufgaben beauftragne, dann wird das in der Cloud von Microsoft, Google und Amazon erledigt. Doch das muss nicht so sein: Edge AI verspricht, dass KI-Modelle lokal auf Smartphone oder Notebook Aufträge erledigen können, ohne Daten in die Cloud senden zu müssen. Mittendrin in dem Trend - Objectbox von Gründerin Vivien Dollinger aus Berlin - und mit ihr wollen wir heute über Edge AI und alles was dazu gehört sprechen. Die Themen:
- Edge AI vs. Cloud
- RAG - Retrieval Augmented Generation
- Ve...