Inteligencia Artificial Generativa

¿Te has preguntado si podrías diferenciar un contenido creado por un humano o por la inteligencia artificial? Responder a esta pregunta cada día es más difícil.

La IA evoluciona a una velocidad vertiginosa y cada vez es más sofisticada, de forma que poder identificar si lo que estamos leyendo o la información que hemos recibido es producto de una acción humana o de una máquina, se ha convertido es toda una hazaña.

¿Qué es la IA generativa (IAG)?

La IA generativa es aquella inteligencia artificial que puede crear contenidos novedosos y originales, intentando imitar la inteligencia humana, a través de métodos de aprendizaje y a partir de datos existentes.

¿Cuáles son los riesgos del contenido generado por la IAG?

Como ya sabemos, la IAG, según quién la desarrolle, está entrenada con criterios y parámetros establecidos por el desarrollador de la misma, obteniendo así información que puede no ser precisa, ni actualizada y contener sesgos o imprecisiones que afecten a la formación de nuestras propias ideas.

Esto nos lleva a plantearnos otro tipo de problema que está íntimamente relacionado con la IAG, como es la ética; es decir, los contenidos generados por la IAG tienen un alto impacto en nuestra sociedad y a nivel global, por lo que debemos tener en cuenta y analizar el uso ético y responsable de estas nuevas tecnologías.

También, estos contenidos novedosos generados por la IAG pueden ser un tema a considerar desde el punto de vista de la propiedad intelectual y derechos de autor, pues el contenido novedoso creado por la IAG bebe de información y datos creados por un tercero (humano, obviamente) que tiene reconocidos legalmente sus derechos de autor y de propiedad intelectual que deben seguir siendo protegidos.

¿Cómo detectar un texto generado por la IA?

Para poder detectar si un texto ha sido generado por IA y no por un humano, hay que poner atención en los siguientes puntos:

  1-. Texto con máxima coherencia exento de todo matiz emocional o cultural.

  2-. No hay faltas de ortografía y las construcciones gramaticales son simples.

  3-. Patrones repetitivos a lo largo del texto que le restan naturalidad.

  4-. Análisis general y poco profundo de las ideas expresadas en el texto.

  5-. Estilo formal en la redacción

La Comisión Europea, en su Informe “Transparencia de IA generativa: identificación de Contenido generado por máquinas (Generative AI Transparency: Identification of Machine-Generated content)” señala que los creadores de la IAG podrían utilizar las siguientes técnicas para hacer transparente el producto generado por la IA y que fuese fácilmente identificable para los usuarios:

Metadatos

Estos datos están en el propio documento, son sencillos de identificar y de analizar, sobre todo si el formato del contenido es JPG, PDF, MP3y PNG, y no alteran el contenido del documento y se almacenan por separado. Estos datos pueden ser protegidos mediante técnicas criptográficas.

Sello de agua

Esta técnica incorpora metadatos como marcadores invisibles o apenas perceptibles en el contenido. Pueden alterar el contenido (por ejemplo, en las imágenes) pero existen diseños que producen una alteración mínima. También puede robustecerse esta técnica con el cifrado de datos adicional.

Huella dactilar

Esta técnica toma los datos y los almacena de forma externa, creando bases de datos con identificadores únicos para cada contenido generado.

Herramientas de detección

Las herramientas de detección basadas en IA se crean utilizando técnicas de clasificación de aprendizaje automático y se entrenan en contenido creado por humanos y generado por máquinas. Pueden arrojar falsos positivos en la creación de información por humanos, por lo que deben ser actualizadas estas técnicas de manera constante, para evitar este tipo de errores.

Sin embargo, puede ser que todo lo señalado hasta el momento no sea suficiente para que podamos identificar contenidos generados por la IAG; es decir, nada es infalible; por eso, la Comisión Europea recomienda estas técnicas para que se adopten en los siguientes contenidos, de acuerdo con el grado de cobertura o garantía de cada una de ellas, según las propiedades de eficiencia, integridad, robustez frente a la alteración del contenido y protección contra la manipulación del contenido:                                   

Al respecto, hay que destacar que META ya anunció que aplicará en sus aplicaciones un distintivo de “Generado por IA” para que el usuario pueda identificar si el texto o la foto que está viendo es generada por la IA o por un humano.

Herramientas para detectar contenidos creados por IAG

Además de las características que hemos destacado de los contenidos generados por la IAG, y de las posibles soluciones que podríamos aplicar para que a simple vista se pudieran detectar, existen herramientas tecnológicas que nos pueden ayudar a detectar este tipo de contenidos:

Copyleaks

Sirve para detectar plagios y contenidos generados por IA. Utilizado por las empresas y sector educativo. 

GPTZero

Realiza un análisis textual para identificar si el contenido fue generado por IA o por humanos. Identifica contendios generados por ChatGPT, GPT-4, y Google Bard, a través de su función “Check Origin”. Existe una versión gratuita con limitación de análisis por número de caracteres del texto.

Scribrr

Esta herramienta originalmente ha sido creada para detectar plagio en textos académicos, pero ha ampliado su finalidad y también se aplica a contenidos generados por IA. Es gratuita.

Winston.ai

Identifica patrones característicos de contenidos generados por IA, y está enfocada al sector educativo y académico. Existe una versión gratuita con limitación de análisis por número de caracteres del texto.

OriginalityAI

Identifica textos generados por IA y está enfocada a creadores de contenido y profesionales del marketing. Su utilidad reside en que puede detectar patrones que han sido modificados para que no sea más difícil identificar que el contenido fue creado por IA.

Corrector.app

Esta herramienta es específica para detectar textos generados por IA en español.

Business Adapter® a tu servicio 

Si para ti es importante conocer si los textos que recibes están redactados por IA, te animamos a que pruebes cualquiera de estas herramientas. Prueba con este texto por ejemplo, pues ¿puedes asegurar que esta redacción la ha hecho un humano?.

Si tienes dudas de cómo aplicar la IA en tu negocio o empresa y quieres estar seguro que cumple con la normativa de protección de datos, contáctanos en el email: info@businessadapter.es,  también puedes llamar al 96 131 88 04, o deja tu mensaje en este formulario: