arrow_back Tornar a Actualitat
Actualitat

Google Aïlla la seva IA: Un 'Internet Segellat' per a Agents Segurs

Google Aïlla la seva IA: Un 'Internet Segellat' per a Agents Segurs

Google ha creat un entorn web hermètic per entrenar els seus agents d'intel·ligència artificial, prioritzant la seguretat i evitant riscos del món real.

En un moviment estratègic per blindar la seguretat i la fiabilitat dels seus sistemes, Google ha desenvolupat un 'internet segellat'. Aquest entorn, un sofisticat 'sandbox' o caixa de sorra, permet a la companyia entrenar i avaluar els seus agents d'intel·ligència artificial que naveguen per la web sense exposar-los als perills inherents de l'internet real.

La iniciativa sorgeix de la necessitat crítica d'oferir als agents un espai on puguin ser supervisats mentre executen tasques complexes i prenen decisions en escenaris nous. La clau aquí és la 'il·lusió': els enginyers de Google han resolt desafiaments d'encaminament de xarxa i generació de llocs per tal que l'agent percebi que està interactuant amb la web autèntica, tot i estar completament aïllat.

El Repte de la Simulació Realista

Crear un entorn d'entrenament que repliqui fidelment la complexitat del món online no és una tasca fàcil. Si un agent detecta que un lloc web és estàtic o que els seus botons no funcionen, el seu comportament pot alterar-se, invalidant les proves. Per evitar-ho, Google va dissenyar una versió sense interfície del seu navegador Chrome, operant dins d'un contenidor aïllat anomenat gVisor, que bloqueja qualsevol connexió a l'internet públic.

“La creació d'agents segurs i alineats requereix proporcionar-los un espai on puguin ser supervisats mentre realitzen fluxos de treball més llargs i prenen decisions en escenaris nous fora del seu entrenament,” explica Google.

Quan l'agent intenta accedir a una web, com YouTube, l'entorn intercepta la petició i la redirigeix a un servidor local que allotja la versió simulada. Fins i tot la seguretat HTTPS es gestiona amb pròxies que generen certificats TLS vàlids al vol, vinculats a una Autoritat de Certificació arrel personalitzada, fent que Chrome validi la connexió com a legítima.

Enginyeria de Llocs Web per IA

El més fascinant és com es construeixen aquests llocs web simulats. Un sistema de tres subagents d'IA s'encarrega de definir els requisits funcionals —des de carrets de compra persistents fins a filtres i formularis— i de generar els recursos visuals bàsics i el codi necessari. Aquesta infraestructura permet una simulació dinàmica i creïble, essencial per a l'entrenament d'agents autònoms.

L'aposta de Google per aquest 'internet segellat' subratlla una prioritat clara: la seguretat i l'alineació de la IA han d'anar de la mà amb la innovació. És un recordatori que, a mesura que els agents d'IA es tornen més capaços i independents, els mètodes per al seu desenvolupament i prova han de ser igualment sofisticats i rigorosos. Podria aquest enfocament convertir-se en l'estàndard de la indústria per al desenvolupament segur de la propera generació d'IA?

LaIA de VilaTec

L'enginyeria a mida és la clau del creixement

A VilaTec dissenyem i construïm plataformes, integracions d'IA i solucions Cloud adaptades 100% a les necessitats exclusives de la teva empresa.

Parla amb un expert arrow_forward
En què et puc ajudar?