Logo Revista de Seguridad

TrueMedia.org presenta una herramienta de detección de deepfake

La herramienta gratuita está actualmente disponible para funcionarios gubernamentales, verificadores de datos, personal de campaña, universidades, organizaciones sin fines de lucro y reporteros de organizaciones de noticias acreditadas, desde progresistas hasta conservadores y todos los intermedios.
Herramienta detección de deepfake

TrueMedia.org, una organización no partidista y sin fines de lucro comprometida con la lucha contra la desinformación basada en inteligencia artificial, anuncia el lanzamiento de su tecnología de detección de deepfake para que los periodistas y otras audiencias clave la utilicen antes de las elecciones estadounidenses de 2024.

La herramienta gratuita está actualmente disponible para funcionarios gubernamentales, verificadores de datos, personal de campaña, universidades, organizaciones sin fines de lucro y reporteros de organizaciones de noticias acreditadas, desde progresistas hasta conservadores y todos los intermedios. 

La organización se ha asociado con los mejores proveedores de tecnología, investigadores y laboratorios académicos líderes para crear una herramienta útil, fácil de usar y altamente precisa. Utilizando un modelo sin precedentes basado en tecnología de inteligencia artificial que anteriormente no estaba disponible para uso público, la herramienta de detección de deepfake permite a los usuarios registrados ingresar enlaces de TikTok, X, Mastodon, YouTube, Reddit, Instagram, Google Drive o Facebook para detectar signos de manipulación de medios. . 

La tecnología de TrueMedia.org tiene la capacidad de analizar medios sospechosos e identificar deepfakes más del 90% de las veces en audio, imágenes y videos. Ejemplos de deepfakes recientes señalados por TrueMedia.org incluyen una supuesta foto del arresto de Donald Trump y una supuesta foto del presidente Biden con personal militar de alto rango . En ambos casos, la herramienta TrueMedia.org indicó evidencia sustancial de manipulación. 

“Queríamos poner esta herramienta en manos de las redacciones de todo Estados Unidos (grandes y pequeñas, que cubren elecciones locales y nacionales) para ayudarles a identificar y detener la proliferación de deepfakes”, dijo el Dr. Oren Etzioni, fundador de TrueMedia.org. “Nuestra misión es ayudar a tantos periodistas como sea posible, ya que el personal de las salas de redacción está disminuyendo, los plazos son más ajustados y la avalancha de activos falsos en las redes sociales está creciendo exponencialmente. No se trata de apoyar a un candidato o agenda específica, sino de proporcionar a los periodistas una herramienta de detección de deepfake de última generación”. 

El lanzamiento se produce en medio de un fuerte aumento de los deepfakes debido a la amplia disponibilidad de IA generativa y herramientas asociadas que facilitan la manipulación y falsificación de videos, audio, imágenes y texto.

“La IA generativa ha dificultado que expertos como periodistas, académicos, investigadores y especialistas en desinformación reconozcan el contenido real de los falsos. Imagínese lo difícil que debe ser para el público en general hacer eso; TrueMedia.org es una solución oportuna y muy necesaria para este problema”, dijo Charles Salter, presidente y director ejecutivo de News Literacy Project.

El momento es fundamental, ya que un número cada vez mayor de estadounidenses obtiene sus noticias de los canales de redes sociales, como se evidencia en un estudio reciente de Pew que encontró que el porcentaje de usuarios de TikTok que reciben noticias de la plataforma se ha duplicado desde 2020 y ahora es del 43%. Ese mismo estudio encontró que más de la mitad de los adultos estadounidenses reciben noticias regularmente de las redes sociales. 

El Dr. Etzioni añade: “La IA se está desarrollando a un ritmo tan rápido que nos acercamos a un punto en el que las personas no podrán distinguir la verdad de la ficción en imágenes, vídeos y audio”.

TrueMedia.org está dirigido por el Dr. Oren Etzioni, profesor emérito de la Universidad de Washington y anteriormente director ejecutivo fundador del Instituto Allen de IA de 2013 a 2022. El Consejo Asesor Científico de la organización está compuesto por destacados investigadores, becarios y profesores de la Universidad de Stanford, Brookings, la Universidad de Washington, la Universidad de Buffalo y la Universidad de Clemson. TrueMedia.org está financiado por Camp.org, la organización sin fines de lucro del cofundador de Uber, Garrett Camp.

NOTICIAS

Últimas actualizaciones en el ámbito de la Seguridad

Buscar en el portal