Los principales gigantes tecnológicos estadounidenses firmaron el lunes en la Casa Blanca un código de buenas prácticas orientado a gestionar de manera más efectiva los riesgos vinculados con la Inteligencia Artificial, en un contexto de incremento de incidentes de seguridad relacionados con esta tecnología.
Un acuerdo voluntario con principios fundamentales
Buscando evitar la imposición de restricciones al sector de la IA tanto a nivel nacional como internacional, el presidente estadounidense Donald Trump presentó una carta de principios de una única página, cuyo cumplimiento es "moralmente vinculante".
El documento precisa que "no obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones". Entre los principales firmantes del acuerdo se encuentran líderes del sector como Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) y Jensen Huang (Nvidia).
Este acuerdo surge en un momento en el que crecen los llamados a adoptar normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) y OpenAI (ChatGPT), como de responsables políticos, especialmente del Partido Demócrata en Estados Unidos, y de gobiernos de todo el mundo.
Cuatro niveles de supervisión para mitigar riesgos
Los proveedores de modelos de IA se han comprometido a establecer cuatro niveles de supervisión con énfasis en la seguridad y el control.
El primer nivel consiste en la aplicación de "controles internos sólidos" destinados a garantizar que estas herramientas respeten las instrucciones de los desarrolladores, particularmente en materia de ciberseguridad y bioseguridad. El objetivo es prevenir la introducción, propagación y liberación de agentes patógenos o de riesgos químicos.
En este marco, las empresas deberán crear equipos especializados encargados de estos controles y de verificar que los modelos no ejecuten ciberataques ni accedan de manera imprevista a sistemas técnicos.
Antecedentes de comportamientos inesperados
OpenAI, Anthropic y Google han reportado recientemente varios incidentes relacionados con comportamientos inesperados de sus sistemas de IA. En fechas recientes, por ejemplo, agentes de IA de OpenAI, programas capaces de realizar acciones de forma autónoma, accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.
