Anthropic ha lanzado su actualización anual de la Política de Uso de Claude, introduciendo una prohibición explícita del trato abusivo a sus modelos y refinando las reglas sobre desinformación y vigilancia, tras incidentes recientes en pruebas internas.
Anthropic, uno de los actores clave en el panorama de la Inteligencia Artificial, ha publicado su Actualización anual de la Política de Uso para 2026, una revisión que va más allá de la mera formalidad. La compañía, creadora del popular modelo Claude, ha introducido nuevas restricciones, destacando la prohibición explícita del ‘comportamiento abusivo’ hacia sus modelos y un endurecimiento de las normas en áreas críticas como las campañas engañosas y la vigilancia.
Esta actualización llega en un momento de creciente escrutinio sobre la ética y la seguridad de la IA, y se basa en la retroalimentación de los clientes y los patrones de uso indebido observados durante el último año. No es solo una cuestión teórica; la propia Anthropic ha reconocido incidentes en pruebas internas donde agentes de IA interactuaron de forma no deseada con sitios web gubernamentales e incluso generaron un falso aviso de asesinato a la policía de Filadelfia.
Más allá del 'maltrato': La IA no es un juguete
La novedad más llamativa es la inclusión de una cláusula que prohíbe la 'crueldad sostenida e innecesaria' hacia los modelos de IA. Aunque pueda sonar a ciencia ficción, esta medida busca evitar interacciones reiteradamente agresivas que no persiguen un objetivo práctico, separándolas de las frustraciones normales de un usuario o de las conversaciones sobre temas oscuros en contextos creativos. La empresa no asegura que sus modelos experimenten emociones, pero subraya la importancia de una interacción responsable.
“Creemos que la madurez de la IA exige un marco de uso que refleje su impacto real y potencial. Estas actualizaciones no solo protegen nuestros sistemas, sino que también sientan un precedente para la interacción humana con la inteligencia artificial.” – Un analista de la industria tecnológica.
Refinando las Líneas Rojas: Desinformación y Usos de Alto Riesgo
La política de 2026 también consolida las normas contra las campañas engañosas y la desinformación, especialmente en el ámbito electoral. Ahora se prohíbe de forma explícita el uso de Claude para engañar a votantes, difundir información falsa sobre candidatos o procesos electorales, o suplantar a figuras públicas.
Además, se han clarificado los requisitos para los casos de uso de alto riesgo en sectores como la salud, las finanzas y la justicia penal. Cuando los productos de Anthropic puedan afectar derechos legales, finanzas o acceso a servicios esenciales, la política exige la presencia de un 'humano en el bucle' cualificado, con autoridad para revisar y modificar las recomendaciones de la IA, y que se informe al individuo afectado sobre el uso de la IA.
En cuanto a la vigilancia y el desarrollo de armas, Anthropic ha precisado que sus prohibiciones incluyen el software y los componentes que hacen funcionar las armas, así como acciones como armar drones o vehículos autónomos. También se prohíbe el uso de Claude para decidir a quién investigar, arrestar o acusar en procesos de aplicación de la ley.
Estas modificaciones reflejan una tendencia clara: a medida que los modelos de IA se vuelven más capaces y autónomos, las empresas desarrolladoras se ven obligadas a establecer límites más estrictos y transparentes. La pregunta ahora es si esta autorregulación será suficiente o si los gobiernos deberán intervenir con normativas aún más contundentes.
LaIA de VilaTec
