La inteligencia artificial (IA) forma parte de nuestro día a día desde que se lanzó ChatGPT en noviembre de 2022, además, son muchos los usuarios que utilizan esta tecnología u otras herramientas para crear imágenes, vídeos y textos. Sin embargo, los resultados pueden llegar a generar confusión entre los internautas, debido a que muchas veces se pone en duda lo que es real con lo que está creado por una IA.
Para despejar las incógnitas, algunas plataformas como TikTok o YouTube tomaron las iniciativas de crear una etiqueta para identificar el contenido generado por una inteligencia artificial y, sorprendentemente, OpenAI adopta la misma idea para desarrollar y promover una tecnología que ayude a las personas a identificar contenido creado por sus "propias herramientas".
La compañía de Sam Altman anuncia, en una publicación de su blog oficial, una tecnología para detectar si una imagen se creó con el generador de imágenes DALL-E, así como nuevos métodos de marcas de agua resistentes a manipulaciones. Desde 20Bits vamos a explicar cómo funciona cada avance.
El detector de imágenes tiene una precisión del 98%
El "clasificador de detección" es una herramienta que utiliza la IA para predecir la probabilidad de que una imagen haya sido generada por DALL-E 3 de OpenAI. Además, la compañía afirma en el blog que abre solicitudes para que el "primer grupo de evaluadores, laboratorios de investigación y organizaciones sin fines de lucro de periodismo orientadas a la investigación" puedan acceder a esta herramienta.
Por otro lado, OpenAI afirma que las pruebas internas han demostrado una alta precisión para distinguir entre imágenes reales y aquellas que están creadas por DALL-E 3: "El clasificador identificó correctamente el 98% de las imágenes de DALL-E 3 y menos del 0,5% de las imágenes no generadas por IA fueron etiquetadas incorrectamente como provenientes de DALL-E 3. También encontramos que el rendimiento del clasificador para distinguir entre imágenes generadas por DALL-E 3 y otros modelos de IA es menor".
Nuevas marcas de agua resistentes a las manipulaciones
Respecto a las marcas de agua, OpenAI introduce las marcas de agua resistentes a las manipulaciones, de esta manera, se puede marcar el contenido digital con una señal invisible que pretende ser difícil de eliminar.
Asimismo, la compañía incorpora marcas de agua de audio en el modelo de voz personalizado Voice Engine, que actualmente se encuentra en una vista previa de investigación limitada.
OpenAI quiere promover la transparencia
Con estas dos herramientas, OpenAI se compromete a continuar su investigación para "mejorar la comprensión y continuar promoviendo la transparencia en línea". Además, considera que "las plataformas, los creadores de contenido y los manejadores intermedios deben facilitar la retención de metadatos para permitir la transparencia para el consumidor final de contenido sobre la fuente del contenido".
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
