DeepMind prueba la etiqueta de contenido de IA en medio de temores de desinformación

DeepMind, una empresa de inteligencia artificial con sede en Londres propiedad de Google, está probando una herramienta de marca de agua digital que puede detectar y etiquetar contenido generado artificialmente.

Llamada SynthID, la herramienta incrusta la etiqueta en los píxeles individuales de una imagen. Los humanos no podrán ver la marca, pero las computadoras pueden detectarla y determinar que está generada por IA.

SynthID, que por ahora se está probando internamente para el propio modelo de generación de imágenes de Google, es un intento de DeepMind de combatir la desinformación procedente del contenido de IA, una preocupación clave con el auge de la tecnología.

Sin embargo, DeepMind advirtió que su sistema de marcas de agua no es “infalible contra la manipulación extrema de imágenes”.

Si bien las herramientas de IA generativa con capacidad para crear imágenes realistas sólo han estado disponibles públicamente desde hace poco tiempo, ya ha habido engaños que van desde bromas inofensivas hasta propaganda política.

A principios de este año, una imagen del Papa Francisco luciendo una chaqueta acolchada de diseño se volvió viral antes de que la gente se diera cuenta de que había sido creada por IA. Casi al mismo tiempo, circularon en las redes sociales imágenes que mostraban un arresto ficticio de Donald Trump, engañando a varias personas antes de que se denunciara como falso.

La desinformación impulsada por la IA se ha convertido en una preocupación aún mayor a medida que tanto el Reino Unido como Estados Unidos se acercan a elecciones importantes.

Este mes, el debate sobre las imágenes falsas que influyen en la política en el Reino Unido se avivó aún más cuando un parlamentario laborista compartió una fotografía del primer ministro Rishi Sunak sirviendo una pinta de cerveza junto a una mujer que lo desaprobaba. Más tarde se descubrió que había sido alterado para retratar a Sunak bajo una mala luz.

Aunque no se hizo con IA, la imagen editada provocó una respuesta agresiva, y la secretaria de tecnología, Michelle Donelan, recurrió a Twitter para compartir su desaprobación.

“En la era de los deepfakes y las imágenes distorsionadas digitalmente, es aún más importante poder tener fuentes confiables de información en las que puedas confiar. Ningún miembro electo del parlamento debería engañar al público con imágenes falsas”, afirmó Donelan. "Esto es algo bastante desesperado por parte del Partido Laborista".

La detección de imágenes falsas generadas por IA probablemente se discutirá en la próxima Cumbre de Seguridad de IA, que reunirá a líderes y expertos internacionales para explorar un enfoque global para regular la tecnología.

Leer más:La regulación de la IA es un "gran desafío para los responsables políticos", dice el diputado liberaldemócrata