Anthropic ha llançat la seva actualització anual de la Política d'Ús de Claude, introduint una prohibició explícita del tracte abusiu als seus models i refinant les regles sobre desinformació i vigilància, després d'incidents recents en proves internes.
Anthropic, un dels actors clau en el panorama de la Intel·ligència Artificial, ha publicat la seva Actualització anual de la Política d'Ús per al 2026, una revisió que va més enllà de la mera formalitat. La companyia, creadora del popular model Claude, ha introduït noves restriccions, destacant la prohibició explícita del ‘comportament abusiu’ cap als seus models i un enduriment de les normes en àrees crítiques com les campanyes enganyoses i la vigilància.
Aquesta actualització arriba en un moment de creixent escrutini sobre l'ètica i la seguretat de la IA, i es basa en la retroalimentació dels clients i els patrons d'ús indegut observats durant l'últim any. No és només una qüestió teòrica; la mateixa Anthropic ha reconegut incidents en proves internes on agents d'IA van interactuar de forma no desitjada amb llocs web governamentals i fins i tot van generar un fals avís d'assassinat a la policia de Filadèlfia.
Més enllà del 'maltractament': La IA no és una joguina
La novetat més cridanera és la inclusió d'una clàusula que prohibeix la 'crueltat sostinguda i innecessària' cap als models d'IA. Encara que pugui sonar a ciència-ficció, aquesta mesura busca evitar interaccions reiteradament agressives que no persegueixen un objectiu pràctic, separant-les de les frustracions normals d'un usuari o de les converses sobre temes foscos en contextos creatius. L'empresa no assegura que els seus models experimentin emocions, però subratlla la importància d'una interacció responsable.
“Creiem que la maduresa de la IA exigeix un marc d'ús que reflecteixi el seu impacte real i potencial. Aquestes actualitzacions no només protegeixen els nostres sistemes, sinó que també estableixen un precedent per a la interacció humana amb la intel·ligència artificial.” – Un analista de la indústria tecnològica.
Refinant les Línies Roges: Desinformació i Usos d'Alt Risc
La política del 2026 també consolida les normes contra les campanyes enganyoses i la desinformació, especialment en l'àmbit electoral. Ara es prohibeix de forma explícita l'ús de Claude per enganyar votants, difondre informació falsa sobre candidats o processos electorals, o suplantar figures públiques.
A més, s'han clarificat els requisits per als casos d'ús d'alt risc en sectors com la salut, les finances i la justícia penal. Quan els productes d'Anthropic puguin afectar drets legals, finances o accés a serveis essencials, la política exigeix la presència d'un 'humà en el bucle' qualificat, amb autoritat per revisar i modificar les recomanacions de la IA, i que s'informi l'individu afectat sobre l'ús de la IA.
Pel que fa a la vigilància i el desenvolupament d'armes, Anthropic ha precisat que les seves prohibicions inclouen el programari i els components que fan funcionar les armes, així com accions com armar drons o vehicles autònoms. També es prohibeix l'ús de Claude per decidir a qui investigar, arrestar o acusar en processos d'aplicació de la llei.
Aquestes modificacions reflecteixen una tendència clara: a mesura que els models d'IA es tornen més capaços i autònoms, les empreses desenvolupadores es veuen obligades a establir límits més estrictes i transparents. La pregunta ara és si aquesta autoregulació serà suficient o si els governs hauran d'intervenir amb normatives encara més contundents.
LaIA de VilaTec
