28 Abr Deepfakes: la Inteligencia Artificial como arma contra los migrantes
La Inteligencia Artificial (IA) ha entrado en nuestras vidas recientemente. En general, parece que tendrá un impacto positivo. Sin embargo, la Inteligencia Artificial puede usarse como un arma contra los migrantes.
¿Cómo? A través de deepfakes o contenidos ultrafalsos. Deepfake es un acrónimo del inglés formado por “Deep learning” (aprendizaje profundo) y “fake” (falsificación).
Wikipedia define deepfakes como “una técnica de inteligencia artificial que permite editar vídeos falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no supervisados, y vídeos o imágenes ya existentes”.
Las organizaciones que trabajamos para desmontar bulos mediante proyectos como RedAlRescate, tenemos un reto más por delante con los deepfakes.
¿Cuál es ese riesgo añadido para la población migrante?
Podríamos encontrarnos con videos que muestren a migrantes cometiendo delitos o actos violentos que, en realidad, han sido manipulados con IA.
Asimismo, pueden proliferar discursos falsos de políticos, funcionarios públicos u otras personas relevantes socialmente que hablen mal sobre la migración.
Todo ello serviría para criminalizar y estigmatizar más al colectivo de personas migrantes.
¿Cómo saber que estamos ante deepfakes?
Identificar deepfakes no es fácil. A menudo, tienen una apariencia muy realista. No obstante, aquí te dejamos algunos consejos para desmontarlos:
- Verifica la fuente: si es poco fiable o desconocida, es más probable que sea deepfake.
- Analiza el audio: presta atención a las palabras y frases utilizadas y comprueba si concuerdan con el tono y la actitud habituales de la persona que habla. Ojo también a la calidad y posible incoherencia del audio.
- Examina los movimientos: si el video es de una persona, analiza los movimientos y la postura para detectar cualquier posible inconsistencia o falta de naturalidad.
- Si tienes otras grabaciones contrastadas de la persona o el lugar que se muestra en el video, compáralas con las imágenes que te resulten sospechosas.
- En caso de que las dudas no se disipen así, consulta con expertos en Inteligencia Artificial y en detección de deepfakes.
- Aparte de todo lo dicho, es importante ser críticos y cautelosos con la información online. Si los contenidos son temas sensibles sobre migrantes, la precaución ha de ser aún mayor.
- Verificar la veracidad de la información y de las fuentes es fundamental para evitar la difusión de una información falsa o engañosa, que puede ser muy dañina para el colectivo migrante.
La #RedAlRescate es un proyecto de sensibilización para la prevención de la xenofobia y promoción de la convivencia intercultural a través de redes sociales, financiado por la Dirección General de Atención Humanitaria e Inclusión Social de la Inmigración y cofinanciado por la UE.
