Español
Una celebridad falsa no necesita resistir el escrutinio en una pantalla de cine. A veces basta con que aguante cinco segundos de atención distraída en un teléfono, el tiempo suficiente para que alguien haga clic, comparta o entre en pánico.
Esa es la pregunta incómoda detrás de los deepfakes de IA baratos. Podemos pasarnos toda la tarde discutiendo sobre una oreja extraña mientras el enlace que hay debajo del video ya está cumpliendo su función.
El nuevo video de Coffeezilla, Investigating AI Deepfakes, explora estafas, propaganda y acoso. Al presentarlo, dice que intentó abordar el proyecto por primera vez hace cuatro años y que ahora ve la amenaza de otra manera. Es un punto de partida útil para una discusión más amplia: ¿cuánto realismo necesita realmente una falsificación para causar daño?
La falsificación no tiene que engañar a todo el mundo
Imagina un anuncio inventado en el que un actor conocido recomienda una inversión. Los movimientos de la boca no encajan del todo, el fondo es sospechosamente liso y el actor parece haber desarrollado un nuevo interés por las rentabilidades garantizadas. Tú reconoces la estafa de inmediato. Otra persona ve un rostro en el que confía antes de advertir cualquiera de esas pistas.
La existencia de espectadores escépticos no anula la pérdida de esa segunda persona. Tampoco un defecto visible demuestra que toda la campaña haya fracasado. Deberíamos evaluar el riesgo por lo que el material persuade a la gente a hacer, no por si gana un premio de efectos visuales.
Esto no vuelve inofensivos a los deepfakes realistas. Las imitaciones mejores pueden crear problemas adicionales. Significa que el material imperfecto ya merece atención, sin esperar a que todas las manos generadas aprueben anatomía.
Una voz familiar puede añadir urgencia a una vieja estafa
La Comisión Federal de Comercio de Estados Unidos advirtió en marzo de 2023 que la clonación de voz podía hacer más convincentes las estafas basadas en emergencias familiares. Una grabación breve puede aportar material para una imitación, mientras la historia aporta la presión: un familiar está en apuros y necesita dinero inmediatamente.
La FTC recomienda contactar con la supuesta persona que llama a través de un número que ya conozcas, en lugar de confiar únicamente en la voz. Las peticiones de transferencias de dinero, criptomonedas o datos de tarjetas de regalo son señales de alerta adicionales.
La estructura del fraude es conocida. La IA puede añadir una capa de suplantación de identidad, pero no elimina la necesidad de verificar la solicitud de forma independiente. Una voz apremiante no es un documento de identidad.
También hay una diferencia entre una demostración convincente y la prueba de que todas las operaciones de fraude han sustituido a su personal por sistemas autónomos de llamadas. Una afirmación tan amplia necesitaría pruebas sobre despliegues reales, costos y tasas de éxito. El riesgo más acotado ya es suficientemente serio por sí solo.
«Podría ser falso» puede encubrir malas acciones reales
Los deepfakes pueden dañar la confianza en ambas direcciones. Un video falso puede aceptarse como real; uno auténtico puede descartarse como sintético.
Robert Chesney, Danielle Citron y Hany Farid analizaron este asunto en su análisis de 2020 sobre los riesgos de los deepfakes. Chesney y Citron llaman al segundo problema el «dividendo del mentiroso»: saber que existen falsificaciones convincentes facilita la excusa para rechazar pruebas auténticas. Su argumento también reconoce el daño de las ediciones engañosas más sencillas, que no requieren IA avanzada.
Eso nos deja una tarea incómoda. Creer a ciegas es peligroso, pero desconfiar automáticamente tampoco es pensamiento crítico. «Todo es falso» suena sofisticado hasta que se convierte en permiso para creer la versión que ya nos resultaba más cómoda.
Una pregunta útil es de dónde procede un video: quién lo publicó originalmente, la grabación completa, el acontecimiento que lo rodea y la información de fuentes independientes. Esas comprobaciones buscan pruebas más allá de los píxeles. Contar dedos no hará todo ese trabajo por sí solo.
Las imágenes íntimas falsas causan daños reales
Las falsificaciones sexualizadas no consentidas no se vuelven inofensivas porque quien las ve sepa que fueron generadas. La persona representada puede seguir sufriendo humillación, acoso y exigencias repetidas de explicar o retirar material cuya creación nunca consintió.
Aquí existe una asimetría especialmente cruel: producir y difundir otra copia puede ser más fácil que convencer a cada destinatario de que deje de compartirla. «Pero no eres tú de verdad» es una respuesta profundamente insuficiente para alguien a quien han atacado utilizando su rostro.
En Estados Unidos, la ley TAKE IT DOWN fue promulgada el 19 de mayo de 2025. Aborda determinadas representaciones íntimas no consentidas, incluidas las falsificaciones digitales, y establece un marco de retirada para las plataformas sujetas a ella.
La ley concede a esas plataformas un año desde su promulgación para establecer el procedimiento de notificación exigido, por lo que el plazo vence el 19 de mayo de 2026. Su marco exige retirar el material en un plazo de 48 horas tras recibir una solicitud válida, junto con esfuerzos razonables para retirar las copias idénticas conocidas. En el momento de la publicación de este artículo en marzo, ese plazo de implementación aún no ha vencido.
Un mecanismo de denuncia puede ayudar y aun así exigir esfuerzo a la persona afectada. Su existencia tampoco puede garantizar que todas las copias desaparezcan de todos los servicios. Aprobar una ley y acabar con un abuso son logros muy diferentes.
No necesitamos una cuenta regresiva para tomárnoslo en serio
Las afirmaciones de que todos los videos serán indistinguibles de la realidad dentro de exactamente doce meses dan un final llamativo. Son previsiones, no un plazo establecido. La detección depende del material, de quien lo observa, del contexto disponible y de las herramientas utilizadas para examinarlo.
La respuesta práctica no exige decidir cuándo desaparecerá el último defecto visual. Verifica las solicitudes inesperadas por otro canal. Busca la fuente de un video sensacionalista antes de reenviarlo. Evita difundir imágenes abusivas solo para anunciar que son falsas.
Los deepfakes de IA pueden ser peligrosos aunque sigan pareciendo un poco ridículos. Internet nunca ha exigido que una mentira esté bellamente representada para darle una audiencia enorme.
Traducción al español del artículo original en inglés del 2026-03-11. Traducido con ayuda de IA el 2026-11-02; las referencias temporales siguen siendo las del original.
