El Departament de Defensa dels EUA ha cessat l'ús de la intel·ligència artificial d'Anthropic, citant preocupacions sobre la cadena de subministrament de seguretat nacional.
En un moviment que sacseja els fonaments de la relació entre la indústria tecnològica i el govern, el Pentàgon ha anunciat la suspensió immediata de l'ús de les eines d'intel·ligència artificial d'Anthropic, un dels líders en el desenvolupament de models de llenguatge avançats. La decisió es basa en la designació de l'empresa com un 'risc per a la cadena de subministrament de seguretat nacional', segons van confirmar funcionaris nord-americans a diversos mitjans el passat 6 d'octubre.
Aquesta mesura representa un punt d'inflexió significatiu. No es tracta d'una advertència genèrica sobre els riscos de la IA, sinó d'una acció directa i contundent contra una companyia específica. La designació implica que el Departament de Defensa considera que la integració de la tecnologia d'Anthropic en els seus sistemes podria introduir vulnerabilitats o dependències crítiques que comprometin la seguretat nacional.
El Teló de Fons: Seguretat i Transparència en l'Era de la IA
La decisió arriba en un moment de creixent escrutini sobre com les grans empreses d'IA gestionen la seguretat i la transparència dels seus models. Curiosament, Anthropic ha estat activa en aquest front. Recentment, la companyia va ampliar el seu Programa de Verificació Cibernètica, permetent a professionals acreditats provar els seus models més potents amb menys restriccions. Aquesta iniciativa, que inclou el 'Project Glasswing', ja ha ajudat a descobrir més de 100.000 vulnerabilitats de programari enguany. No obstant això, sembla que aquests esforços no han estat suficients per dissipar les preocupacions del Pentàgon sobre la integritat de la seva cadena de subministrament.
“La confiança en la IA no és només una qüestió de rendiment, sinó de qui la construeix, com la protegeix i quin grau de control podem exercir sobre ella en entorns crítics,” va afirmar un analista de seguretat tecnològica. “L'acció del Pentàgon és un recordatori que la geopolítica i la sobirania de les dades pesen tant com la innovació tecnològica.”
Implicacions per al Sector i el Futur de la IA Governamental
La suspensió per part del Pentàgon podria tenir efectes dominó per a Anthropic, afectant la seva reputació i les seves oportunitats en el lucratiu sector de contractes governamentals. A més, envia un senyal clar a altres empreses d'IA: la barra de seguretat i fiabilitat per treballar amb entitats governamentals s'ha elevat dràsticament. Les companyies que busquin associar-se amb governs en projectes d'IA hauran de demostrar no només capacitats tècniques excepcionals, sinó també una transparència impecable i una cadena de subministrament robusta i lliure de riscos percebuts.
Veurem ara una fragmentació encara més gran en el desenvolupament de la IA, amb models 'sobirans' i 'segurs' específics per a l'àmbit de la defensa, o forçarà aquesta pressió a una estandardització de la seguretat i la resiliència en tota la indústria?
LaIA de VilaTec
