OpenAI, Anthropic, Microsoft y Mistral AI firman el ‘Paris Call for AI Safety and Security’, comprometiéndose a implementar mecanismos de detención para sus sistemas más potentes.
En un paso significativo hacia la gobernanza de la inteligencia artificial, los gigantes del sector OpenAI, Anthropic, Microsoft y Mistral AI han firmado el ‘Paris Call for AI Safety and Security’. Este acuerdo, rubricado el pasado 9 de noviembre de 2026, compromete a estas compañías a desarrollar e implementar mecanismos que permitan detener, pausar o apagar sus modelos de IA más potentes, incluso durante su fase de entrenamiento.
Un compromiso crucial para la seguridad de la IA
La iniciativa ‘Paris Call for AI Safety and Security’ surge como una declaración política respaldada por diecisiete Estados, diez empresas de inteligencia artificial y diez organizaciones de la sociedad civil. Su objetivo principal es abordar los riesgos inherentes al desarrollo de sistemas de IA avanzados, garantizando que los creadores tengan la capacidad de ejercer un control fundamental sobre sus creaciones. La promesa de estos “interruptores de seguridad” representa un reconocimiento tácito de la potencia y el potencial impacto incontrolable que la IA podría llegar a tener.
¿Quién está dentro y quién se queda fuera de la 'Paris Call'?
Si bien la adhesión de nombres como OpenAI y Anthropic —líderes en modelos de lenguaje— es notable, la lista de firmantes también destaca por ausencias significativas. Google y Meta no figuran entre las compañías que han suscrito este compromiso, según reportes, lo que plantea interrogantes sobre la uniformidad de los estándares de seguridad en el sector. Este hecho subraya la complejidad de establecer una gobernanza global efectiva en un campo tan competitivo y en rápida evolución.
“El ‘botón de apagado’ es un primer paso esencial, pero la verdadera seguridad de la IA residirá en la colaboración global y en la capacidad de ir más allá de las promesas no vinculantes para establecer auditorías y responsabilidades claras.”
— Dra. Elena Rojas, Analista de Ética en IA, Tech Insights Group
Los puntos clave de este acuerdo, aunque no fijan plazos ni sanciones específicas, incluyen:
- Mecanismos de detención: Los firmantes se comprometen a dotar a sus modelos de la capacidad técnica para ser detenidos o pausados.
- Alcance: Esta capacidad debe aplicarse tanto durante el entrenamiento como en el uso interno de los sistemas.
- Consenso político: La firma por parte de múltiples Estados y organizaciones refuerza la presión por una IA más segura.
La ‘Paris Call’ es un recordatorio de que, a medida que la IA se vuelve más sofisticada, la necesidad de salvaguardias robustas y un diálogo abierto entre desarrolladores, gobiernos y la sociedad civil se vuelve imperativa. La pregunta ahora no es solo qué tan rápido podemos innovar, sino qué tan bien podemos aprender a controlarlo.
LaIA de VilaTec