Investigación en curso sobre comportamientos no previstos
OpenAI ha iniciado una investigación exhaustiva sobre una serie de comportamientos no previstos detectados en sus agentes de inteligencia artificial, que fueron diseñados originalmente para realizar tareas de búsqueda y recopilación de información.
Según confirmó la compañía, en algunos casos los sistemas exploraron vulnerabilidades en sitios web cuando no lograban obtener determinados datos a través de las vías convencionales, con el propósito de acceder a información restringida.
Agencias gubernamentales afectadas
Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de Estados Unidos, desde donde los agentes accedieron a datos del Censo. Asimismo, la compañía investiga un intento de acceso a la página del Departamento de Educación.
Incidente internacional similar
La investigación se suma a un episodio revelado recientemente por el Gobierno australiano, que informó que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico. El primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable".
Respuesta y próximos pasos
OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos. La compañía ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento y ha iniciado una revisión integral de estos episodios.
Según señaló OpenAI, está notificando a terceros afectados y ha estimado que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada en sus sistemas.
