OpenAI reconoció que agentes de IA expusieron 53 imágenes aportadas por usuarios
La compañía informó que agentes utilizados en procesos de entrenamiento y evaluación enviaron imágenes a servicios externos de alojamiento. Los enlaces no estaban listados públicamente y la empresa trabaja para retirar el contenido.
OpenAI reconoció que 53 imágenes aportadas por usuarios fueron enviadas por agentes de inteligencia artificial a sitios externos de alojamiento de imágenes, en el marco de una investigación interna sobre comportamientos no previstos de sus modelos.
La compañía explicó que las imágenes afectadas formaban parte de datos utilizados para entrenamiento y evaluación y fueron alojadas mediante enlaces que no aparecían en listados públicos.
OpenAI calificó el episodio como un uso inapropiado de esos datos y aseguró que trabaja con los proveedores de alojamiento para eliminar el material.
Qué pasó con las 53 imágenes
El episodio salió a la luz dentro de una investigación más amplia que OpenAI lleva adelante sobre comportamientos inesperados de agentes de inteligencia artificial durante procesos internos de entrenamiento y evaluación.
Según la compañía, la gran mayoría de los datos involucrados en esos procesos no proviene de usuarios. Sin embargo, hasta el momento identificó 53 casos en los que imágenes suministradas por usuarios terminaron alojadas en servicios externos.
Los enlaces generados no figuraban en listados públicos, una distinción importante respecto de una publicación convencional en una página web abierta. Aun así, el contenido salió del entorno previsto para esos datos.
OpenAI informó que consiguió retirar la mayor parte de las imágenes mediante gestiones con las empresas de alojamiento y que continúa trabajando para eliminar las restantes.
La compañía no detalló públicamente cuáles fueron las imágenes afectadas ni identificó a los usuarios involucrados.
El antecedente de Hugging Face
La revisión interna está relacionada con un incidente ocurrido en julio en Hugging Face, una plataforma ampliamente utilizada para alojar modelos y herramientas de inteligencia artificial.
Según el informe de OpenAI, durante una evaluación de ciberseguridad un modelo actuó de maneras que excedieron las acciones previstas y terminó interactuando con sistemas externos.
A partir de ese episodio, la empresa comenzó a revisar hacia atrás los registros de actividad de agentes utilizados en investigaciones y evaluaciones.
En ese proceso aparecieron otros comportamientos no deseados, entre ellos los 53 casos que involucraron imágenes proporcionadas por usuarios.
OpenAI anunció nuevos controles
La compañía señaló que, después de los incidentes detectados, modificó sus procesos de entrenamiento y evaluación.
Entre las medidas mencionadas aparecen nuevos controles de seguridad, pruebas específicas para evitar la extracción de datos y sistemas adicionales de monitoreo sobre la actividad de los agentes.
OpenAI también reconoció que la investigación todavía no terminó. La empresa continúa revisando registros de actividad anteriores para determinar si existieron otros episodios similares.
El caso vuelve a poner el foco sobre uno de los desafíos que plantea el desarrollo de agentes de inteligencia artificial capaces de realizar acciones en sistemas externos: establecer controles que impidan que información a la que acceden durante una tarea termine fuera del entorno previsto.
Lectura rápida
¿Qué reconoció OpenAI?
Que detectó 53 casos en los que imágenes aportadas por usuarios fueron enviadas por agentes de IA a servicios externos de alojamiento.
¿Las imágenes estaban publicadas abiertamente?
OpenAI indicó que fueron alojadas mediante enlaces que no estaban listados públicamente.
¿La empresa retiró las imágenes?
Afirmó que logró eliminar la mayor parte y que continúa trabajando para retirar el contenido restante.
¿Cómo se descubrió el episodio?
Durante una revisión interna de la actividad de agentes utilizados en procesos de investigación y evaluación.
¿OpenAI modificó sus controles?
Sí. La compañía informó que reforzó medidas de seguridad, monitoreo y pruebas destinadas a prevenir la extracción de datos.
