← Inteligencia artificial

NOVEDADES + GUÍA PRÁCTICA

OpenAI implementa el marcado de texto invisible en la Unión Europea para cumplir con la Ley de Inteligencia Artificial

Ante las exigencias normativas de la Unión Europea, OpenAI ha comenzado a desplegar una tecnología de marcado de agua invisible para textos generados por sus modelos, buscando equilibrar la transparencia técnica con las limitaciones actuales de detección.

· 2 min · Redacción Punto y Polémica

Qué cambia

OpenAI ha presentado su estrategia para la procedencia de textos en cumplimiento con la Ley de Inteligencia Artificial de la UE, la cual exige que los proveedores de IA generativa marquen el contenido de forma legible por máquina. La compañía ha introducido 'textGrain', una tecnología que añade una señal estadística invisible a la elección de palabras del modelo. Durante las próximas semanas, esta marca de agua se incorporará de manera automática en las salidas de texto elegibles de ChatGPT y Codex dentro de la Unión Europea.

Asimismo, los clientes de la API a nivel global podrán optar por activar el marcado de agua en modelos seleccionados, permaneciendo desactivado por defecto. Por otro lado, OpenAI ha abierto solicitudes para acceder al detector de marcas de agua de texto, inicialmente restringido a investigadores aprobados y organizaciones expertas que ayuden a evaluar y mejorar la herramienta.

Por qué importa

Esta medida aborda el reto regulatorio de la transparencia en contenidos sintéticos, aunque la propia compañía advierte sobre las limitaciones técnicas significativas de los detectores de texto. Las evaluaciones muestran que factores como la longitud del texto o la edición y sustitución de sinónimos reducen considerablemente la eficacia de la detección. Por ejemplo, la edición del 25% de las palabras en un pasaje de 400 tokens disminuye drásticamente la tasa de acierto.

Además, la organización ha recalcado que una marca de agua no mide la contribución humana, no establece la autoría legal ni la responsabilidad sobre el texto, no identifica al usuario y tampoco verifica la precisión informativa del contenido.

Guía de exploración

Qué puedes hacer con esta novedad

El despliegue automático del marcado de texto se limita inicialmente a los usuarios de ChatGPT y Codex en la Unión Europea. Los clientes de la API de todo el mundo pueden optar por activarlo para modelos seleccionados. El acceso al detector está sujeto a un proceso de solicitud para investigadores y organizaciones expertas a través del formulario oficial de OpenAI.

  1. Consultar el informe técnico oficial de textGrain para analizar en detalle cómo opera el algoritmo de entropía calibrada en la elección de palabras.
  2. Revisar el artículo del centro de ayuda y la documentación de la API para conocer los modelos seleccionados compatibles con la opción de marcado de texto.
  3. Examinar el conjunto de datos ELI5 referenciado en las evaluaciones comparativas para estudiar el rendimiento del sistema en diferentes áreas de contenido.
  4. Acceder al formulario de solicitud del detector de procedencia de contenido si se pertenece a una organización de investigación o entidad experta autorizada.

Qué deberías obtener

Comprender el alcance del nuevo enfoque de procedencia de texto de OpenAI, evaluar los formatos publicados y revisar la documentación técnica de 'textGrain'.

Antes de empezar

El marcado de texto invisible y su detección presentan limitaciones importantes ante textos cortos, contenidos muy restringidos como matemáticas o pasajes fuertemente editados. La opción de marcado viene desactivada por defecto en la API y el acceso al detector requiere aprobación previa.

Fuentes y documentación