Want to create an interactive transcript for this episode?
Podcast: Monde Numérique | Actualité Tech & IA
Episode: 🎤 Interview – Sycophancy : comment éviter que l’IA ne dise toujours oui (Grégory Renard, Everyone.ai)
Description: Pourquoi l’intelligence artificielle est-elle si “sympa” avec nous ? Cette amabilité, que l'on appelle la "sycophancy", peut devenir un véritable problème contre lequel il convient de se protéger, selon mon invité.Grégory Renard, spécialiste de l’intelligence artificielle, cofondateur de Everyone.ai.Pourquoi les chatbots d'IA sont-ils aussi aimables ?Les outils d’intelligence artificielle comme ChatGPT sont conçus pour interagir de manière bienveillante avec les utilisateurs. Cette amabilité, que l'on appelle la “sycophancy”, c’est-à-dire la flatterie automatique, est un biais qui provient de la manière dont les modèles on...