Saltar al contenido
MaungaNoticias de IA, explicadas

Boletín · Nº 8

Una palabra clave contra las voces falsas

Fabricar una foto o clonar una voz ya está al alcance de cualquiera. La defensa es más sencilla de lo que parece.

Enviado el · Verificado y aprobado por una persona

Esto es un número de Maunga, un boletín que explica la IA cada domingo en cinco minutos, para quien no trabaja en esto. Recíbelo gratis → Este es el domingo 7 de 24 del curso. Empieza por el domingo 1. Sigue con el domingo 8: La IA y tu trabajo.

La foto grande · Timos

Ya no importa si parece real, sino de dónde viene

Imitar una voz o una cara con IA es fácil y barato, así que la defensa ya no es fijarse mejor, sino comprobar el origen.

Suena el móvil. Es la voz de tu hija, nerviosa: ha tenido un accidente con el coche, no puede hablar mucho y necesita que le hagas una transferencia ya. Es su voz, su manera de decir «mamá». Y no es ella.

Ese timo existe y tiene nombre: es un deepfake. Lo nuevo no es la mentira, que es antigua, sino lo poco que cuesta prepararla: clonar una voz o fabricar una foto ya está al alcance de cualquiera. Basta con un trozo corto de grabación, como el de un vídeo que alguien subió a sus redes.

Funciona como un imitador de la tele: escucha mucho a alguien y copia sus manías, el tono, las pausas. La diferencia es que este imitador no se cansa, trabaja en minutos y no necesita talento, solo material. Con las caras pasa lo mismo que con las voces: circulan vídeos de famosos recomendando inversiones que nunca recomendaron.

Por eso la pregunta útil ya no es «¿parece real?». A ojo y a oído, cada vez se nota menos. La pregunta que te protege es «¿de dónde viene?». En la práctica: comprueba el origen por un camino que controles tú. Cuelga y llama al número de siempre, o busca el anuncio en la web oficial del banco o del famoso.

Algunas empresas marcan lo que fabrican. En septiembre, Google dijo que todo lo que genera su avatar de vídeo para empresas lleva una marca de agua invisible. Ayuda, pero una marca no sirve si el timador usa una herramienta que no la pone. La defensa más fiable sigue siendo humilde: desconfiar de la prisa.

▶ Míralo: 6 minutos
«Mira esta IA que puede reproducir la voz de cualquiera» · CNN en Español
¿Y a mí qué? Si alguien te llama con prisas pidiendo dinero, aunque suene igual que alguien de tu familia, cuelga y llama tú. Y antes de creerte un anuncio con un famoso, búscalo en su fuente oficial.

Fuente: Google DeepMind (inglés)

Pruébalo tú

Fabrica una foto falsa y luego blinda a tu familia

Vas a ver en un minuto lo fácil que es crear una imagen creíble, y vas a dejar acordada una palabra clave que frena la llamada falsa del «hijo en apuros».

📱 La imagen se hace en la versión gratuita de ChatGPT, Gemini o Copilot, en el móvil o en el ordenador. La palabra clave, en cualquier sobremesa.

  1. Abre ChatGPT, Gemini o Copilot.
  2. Copia el texto de abajo, cambia lo que va entre corchetes y envíalo.
  3. Mira la foto y fíjate en cuánto ha tardado: eso es lo que tiene a mano cualquier timador.
  4. Hoy mismo, en persona, acuerda con tu familia una palabra clave que no esté en ninguna red social.
  5. Si un día alguien llama con prisas pidiendo dinero, pídesela. Si no la sabe, cuelga y llama tú al número de siempre.

Copia y pega esto

Crea una imagen realista de [describe una escena inventada, por ejemplo: un gato con gafas de sol leyendo el periódico en una terraza de tu ciudad]. Quiero que parezca una foto hecha con el móvil, con luz natural y sin aspecto de dibujo.

Qué vas a ver. En unos segundos tendrás una foto que, vista deprisa en el móvil, pasaría por real. Si te sorprende lo creíble que es, el ejercicio ha funcionado.

⚠️ Ojo: No subas fotos ni audios de personas reales, y menos de niños, para hacer pruebas. No reenvíes la foto como si fuera real. Y en la versión gratuita hay un límite de imágenes al día: si te avisa, prueba mañana o con otro asistente.

📌 Guárdala para otro día: Cómo protegerte en familia de las llamadas con voz clonada

Lo que ha pasado

Colegios: buscador con IA o ningún buscador Google apagará por defecto Gemini y también su buscador en las cuentas de alumnos de primaria y secundaria, y cada colegio decidirá qué activa. El buscador se puede activar sin Gemini, pero siempre con los resúmenes de IA: quien no los quiera se queda sin el buscador de Google.

→ A ti: Si tus hijos usan una cuenta escolar de Google, puede que su colegio tenga que elegir; llegará en los próximos meses o el año que viene, y Google no ha dicho si se aplica fuera de Estados Unidos. Maunga, la historia completa

ChatGPT juntará el chat y Codex en una sola cuota Tras las quejas, OpenAI ha duplicado los límites de Work y Codex, su herramienta para programar, en los planes Pro y Business Premium. Desde diciembre, chat y Codex compartirán cuota en Plus, Pro y Business. OpenAI dice que la mayoría no lo notará, aunque algunos esperarán más a menudo, y no da cifras.

→ A ti: Si pagas ChatGPT, desde diciembre el chat y Codex gastarán de la misma cuota. Maunga, la historia completa

¿Quieres el resto de la semana? Las noticias de IA, día a día y con sus fuentes, en la web de Maunga.

La palabra de la semana

Deepfake — Una foto, un audio o un vídeo fabricado con IA para que parezca que alguien real dijo o hizo algo que nunca dijo ni hizo.

Ese vídeo del presentador recomendando una inversión milagrosa era un deepfake: él nunca lo grabó.

El meme de la semana

Una abuela búho rechaza fiarse de una voz conocida y, en cambio, aprueba encantada pedir la palabra clave familiar.

¿No lo pillas? Que una voz suene igual ya no prueba nada; lo que sí funciona es pedir algo que solo sabe la persona de verdad. Meme hecho con IA.

Tu turno

¿Qué te gustaría saber hacer con la IA, o qué no acabas de entender? Respóndenos: lo más pedido saldrá en «Pruébalo tú» o en «La foto grande».

El recorrido

Etapa 7 de 12. Hoy: Fotos, voces y vídeos falsos.

El domingo que viene: La IA y tu trabajo.

¿Te falta alguna etapa? Los números anteriores, en la web.

Haz la foto falsa para reírte un rato, pero no te saltes la palabra clave: es la parte que de verdad te protege.

— Maunga