En el contexto del LLM, las "mentiras" o "spurious outputs" se refieren a la generación de información aparentemente verdadera o incorrecta por parte del modelo. Aunque los LLM como ChatGPT están diseñados para generar respuestas coherentes y basadas en datos reales, en ocasiones puede no cumplir con lo esperado.
Esto viene a cuento porque GPT me miente, como solía hacerlo mi madre cuando quería que me callara, o algún novio cansado de mis preguntas.
Lo noto, lo padezco, lo sospecho. Me miente. (SILENCIO INCÓMODO).
En otras palabras, en un contexto real me proporciona respuestas falsas... pero verosímiles. A veces me contesta algo que no tiene nada que ver con lo pedido, otras inventa, otras disimula... Vaya percal.
Pero creo que merece otra oportunidad.
Comprendí que estas falsedades pueden surgir debido a la naturaleza estadística del entrenamiento del modelo, la falta de información completa o precisa en los datos de entrenamiento, la interpretación errónea de la pregunta o la ambigüedad del contexto proporcionado. No es nada personal.
A ChatGPT no le gusta engañarme pero a veces inventa respuestas perfectas por si cuela. No está preparado para decirme que no lo sabe (aunque este aspecto está siendo mejorado por los entusiastas de OpenAI).
Para reducir "spurious outputs" y hasta que llegue el ChatGPTAzul voy a:
1. Darle un contexto. Sobre qué hablaremos?
2. Corroborar su comprensión. Sabes del tema?
3. Pedirle verificacion. No inventes datos.
Ver ejemplos en Cómo reducir spurious outputs
Si siguiera dando respuestas no fiables, paciencia. Acabará integrándose a mi mente y yo a la suya. Sin miedos ni estigmas.
Aquí paz y después gloria.
- Chat GPT: https://chat.openai.com/a
- Guía de referencia: https://learnprompting.org/es/
- Cómo resolver limitaciones de GPT: https://youtu.be/8XJLtKqOrBw
- Práctica: Cómo reducir spurious outputs.