Boletín · Nº 4
Cuando la IA se inventa un libro entero
No miente a propósito, pero tampoco avisa. Hoy aprendes a pillarla en cinco minutos.
Esto es un número de Maunga, un boletín que explica la IA cada domingo en cinco minutos, para quien no trabaja en esto. Recíbelo gratis →
La foto grande · Cómo funciona
Por qué se inventa cosas con tanta seguridad
No consulta lo que sabe: escribe lo que mejor encaja, y a veces lo que encaja no existe.
Le pides a un asistente un libro sobre la historia de tu pueblo. Te da título, autor, editorial y año. Suena perfecto. Vas a la librería y el libro no existe. Nunca existió. El autor, tampoco.
Eso tiene nombre: alucinación. Y no es una avería rara. El domingo pasado vimos cómo pedirle las cosas bien; hoy toca la otra mitad: aunque se lo pidas bien, a veces se lo inventa. Con el mismo tono y la misma seguridad que cuando acierta.
¿Por qué? Porque no consulta una enciclopedia. Escribe, palabra a palabra, lo que mejor encaja después de lo anterior. Casi siempre lo que encaja es además verdad. Pero cuando le falta el dato, no se queda en blanco: rellena el hueco con algo que suena bien.
Es como ese señor al que preguntas por una calle y, antes que admitir que no la conoce, te manda con total aplomo a la tercera a la derecha. No quiere engañarte. No miente: no tiene una forma fiable de separar lo que sabe de lo que suena bien.
Lo traicionero es dónde ocurre: en lo concreto. Nombres, fechas, cifras, citas y títulos son su terreno más resbaladizo. La prensa ha contado más de un caso de abogados que entregaron a un juez sentencias que no existían. Se las había redactado un asistente.
Por eso importa ahora: mucha gente le pregunta ya por su salud, sus impuestos o sus derechos. Y la respuesta inventada llega igual de bien escrita que la correcta. Que suene convincente no dice nada sobre si es verdad.
Pruébalo tú
Píllale una invención
Vas a conseguir que el asistente te diga de qué está seguro y de qué no, y vas a comprobar tú si sus fuentes existen.
📱 Funciona en la versión gratuita de ChatGPT, Gemini, Claude o Copilot, en el móvil o en el ordenador.
- Abre ChatGPT, Gemini o Claude.
- Piensa una pregunta cuya respuesta puedas comprobar: un dato de tu ciudad, de tu profesión o de una afición.
- Copia el texto de abajo, pon tu pregunta en el hueco y envíalo.
- Abre uno de los enlaces que te dé y busca en esa página el dato concreto.
Copia y pega esto
Qué vas a ver. Verás la respuesta partida en dos y, casi siempre, enlaces. Si no te da ninguno, pídele que busque en internet (en Claude, activa la búsqueda web en el botón «+»; en Gemini, mira el botón «Fuentes»). Un enlace que no abre es un invento.
Lo que ha pasado
Una firma invisible en los textos de ChatGPT Para cumplir la ley europea de IA, OpenAI añadirá en las próximas semanas, solo en la Unión Europea, una marca que no se ve a los textos de ChatGPT. Aguanta el copiar y pegar, pero se debilita si editas el texto.
→ A ti: Si usas ChatGPT en la UE, tus textos la llevarán; OpenAI dice que no te identifica. Maunga, la historia completa
Apple pedirá un sí más claro en el Mac Apple ha anunciado que cambiará, sin fecha todavía, el permiso que deja a una aplicación ver tus documentos, tu correo y tus mensajes. No lo prohíbe: exigirá un paso muy explícito. Lo atribuye al riesgo de los asistentes de IA que actúan solos.
→ A ti: Si tienes un asistente de IA en el Mac, mira si le diste acceso total: con él lo ve casi todo. Maunga, la historia completa
ChatGPT ya responde con gráficos y botones Esta semana ChatGPT ha empezado a contestar también con diagramas, calculadoras o mapas que se tocan y se ajustan, no solo con texto. A las cuentas gratuitas empezó a llegar el 8 de octubre.
→ A ti: Si usas ChatGPT, verás más gráficos; si te sobran, puedes pedirle menos. Maunga, la historia completa
¿Quieres el resto de la semana? Las noticias de IA, día a día y con sus fuentes, en la web de Maunga.
La palabra de la semana
Alucinación — Es cuando un asistente de IA da por cierto, y con total seguridad, algo que se ha inventado: un libro, una cifra, una cita.
«Le pedí la receta de mi abuela y me citó un recetario que no existe: una alucinación de manual.»
El meme de la semana
¿No lo pillas? Al asistente le cuesta reconocer que no sabe algo, y en cambio rellena el hueco con datos inventados que suenan perfectos. Meme hecho con IA.
Tu turno
¿Qué te gustaría saber hacer con la IA, o qué no acabas de entender? Respóndenos: lo más pedido saldrá en «Pruébalo tú» o en «La foto grande».
El recorrido
Etapa 3 de 12. Hoy: Por qué se inventa cosas.
El domingo que viene: Qué pasa con lo que le cuentas.
¿Te falta alguna etapa? Los números anteriores, en la web.
Quédate con la frase «si no lo sabes, dilo» y pruébala hoy con una pregunta de la que ya conozcas la respuesta. Verlo fallar una vez enseña más que cualquier explicación.
— Maunga