Los riesgos de las “deepfakes” y el uso malicioso de la inteligencia artificial

La ingeniera en informática y directora del Departamento de Ingeniería Informática de la UCSC, Claudia Martínez, abordó en Nuestra Casa el fenómeno de las “deepfakes”, contenido manipulado mediante inteligencia artificial que puede alterar imágenes, audios y videos con fines de desinformación.

La académica explicó que esta tecnología permite clonar rostros, voces y gestos con resultados cada vez más realistas, facilitando la creación de contenido falso que puede afectar desde la reputación de una persona hasta la seguridad de datos bancarios y cuentas personales.

“Con un prompt bien definido, hoy es mucho más fácil generar imágenes o audios falsos que años atrás”, señaló Claudia Martínez, directora del Departamento de Ingeniería Informática de la UCSC.

Durante la conversación, la especialista advirtió que actualmente muchas personas entregan voluntariamente información sensible al utilizar aplicaciones con inteligencia artificial, compartir fotografías en redes sociales con filtros basados en el uso de IA o enviar audios y videos a través de distintas plataformas.

Además, explicó que Chile aún está al debe en materia legislativa respecto a la regulación de este tipo de tecnologías, aunque actualmente existen discusiones para avanzar en protección de integridad digital y uso de datos biométricos.

La experta también entregó algunas recomendaciones para detectar posibles deepfakes, como observar movimientos irregulares de labios o parpadeos, inconsistencias entre audio e imagen, sombras poco naturales y desconfiar de contenido excesivamente impactante o sensacionalista.

Finalmente, llamó a verificar siempre las fuentes antes de compartir contenido en redes sociales y evitar difundir información dudosa para disminuir la propagación de noticias falsas.