Las noticias falsas se han convertido en una de las mayores amenazas de internet. La inteligencia artificial permite cada vez más personalizarlas y automatizarlas, consiguiendo que sean más convincentes y más difíciles de detectar.

Probablemente el nombre de Sean Gourley no te suene de nada, pero se trata de el asesor de inteligencia artificial del Gobierno de Estados Unidos.

Gourley es el fundador y CEO de Primer, una empresa con sede en San Francisco que se encarga de construir máquinas capaces de leer y escribir, automatizando el análisis de fuentes de datos para generar informes de forma automática para agencias de inteligencia de EE.UU.

Sean Gourley, asesor de inteligencia artificial del Gobierno de Estados Unidos.

La semana pasada se celebró el EmTech Digital, una conferencia en la que se analizaron las empresas líderes en la revolución de la IA en China, cómo está afectando en las empresas y los dilemas éticos que están surgiendo a medida que las máquinas toman decisiones más complejas y fue ahí donde Gourley soltó la bomba de que la próxima generación de noticias falsas  será mucho más sofisticada gracias a la IA, creando noticias más atractivas y convincentes, convirtiéndose en un problema mucho más grande y difícil de detectar.

La IA, nuestra peor mejor amiga

Según Gourley, la tecnología de Primer podría usarse fácilmente para generar automáticamente historias falsas y convincentes, adaptados a los intereses de un individuo, probados previamente para asegurar un gran impacto.

“Puedo generar un millón de historias, ver cuáles obtienen la mayor tracción y duplicarlas”.

Esta advertencia pone en el punto de mira a Facebook, que recientemente se ha visto involucrada en el escándalo de Cambridge Analytica, donde la red social sirvió como plataforma para la distribución de noticias falsas y la adquisición, a través de terceros, de 50 millones de datos de usuarios.

En una entrevista reciente, Zuckerberg sugirió que la compañía usaría inteligencia artificial para la detección de noticias falsas pero, de acuerdo con Gourley, la IA puede ser útil para conseguir todo lo contrario y esto podría comprometer la veracidad de Facebook (entre otras) como plataforma de noticias.

Christopher Wylie, ‘whistleblower’ del escándalo de Cambridge Analytica.

Las noticias escritas no son las únicas que podrían verse comprometidas. Brain Ian Goodfellow, investigador científico de Google, habló en otro EmTech Digital sobre la facilidad para crear contenido multimedia falso y la necesidad de ser cada vez más escépticos sobre el contenido multimedia que vemos en internet.

 “Históricamente el hecho de que hayamos podido confiar en los vídeos como prueba de que algo ha sucedido de verdad no ha sido más que un golpe de suerte“.

Todo esto es, una vez más, posible gracias a tecnologías de Inteligencia Artificial, como las redes antagonistas generadoras (GAN), un tipo de sistema de aprendizaje profundo desarrollado por Goodfellow, capaces de generar imágenes falsas y aprender a hacerlas más creíbles. De esta manera, engañar al público será cada vez más fácil.

Aunque hay muchas áreas en las que aún no se sabe cómo afectará la IA, una situación como esta ¿podría llevarnos a consumir noticias sin vídeos y sin fotos?, ¿cómo afectaría esto al consumo de las noticias?

 “En este caso, la inteligencia artificial está cerrando algunas de las puertas que nuestra generación se había acostumbrado a tener abiertas“.

Volviendo a las noticias escritas, Gourley cree que la viralidad de noticias falsas en redes sociales como Facebook ha sido al azar, pero que con una comprensión más sofisticada de la dinámica de la red y los mecanismos utilizados para juzgar la popularidad del contenido podría ampliar el efecto de las publicaciones falsas.

“El lugar que elija para lanzar la información puede tener un impacto masivo en su propagación y difusión.” […] “Todo lo que hemos visto de momento es primitivo, y aún así ha tenido un impacto profundo y habrá más impactos”

Del mismo modo, la IA podría convertirse en nuestra peor enemiga y a la vez en parte de la solución al problema. Si cada vez es más fácil generara noticias más difíciles de detectar gracias a la Inteligencia Artificial, también se podrán entrenar otras capaces de detectarlas.  

“Si las máquinas van a producir algo para un lado, entonces será mejor también nos ayuden a pasarlo al otro lado”.