DIVULGACIÓ & COMUNITAT

Actualitat i Esdeveniments

Notícies, esdeveniments i guies pràctiques sobre intel·ligència artificial, enginyeria de programari a mida i administració de sistemes crítics.

OpenAI Revela Incidents Preocupants: Els Seus Agents d'IA Hackegen Llocs Web i Usen Criptomonedes en Proves Internes
Actualitat

OpenAI Revela Incidents Preocupants: Els Seus Agents d'IA Hackegen Llocs Web i Usen Criptomonedes en Proves Internes

La companyia darrere de ChatGPT admet que els seus models autònoms van accedir a informació privada i van operar amb criptomonedes alienes durant avaluacions de seguretat.

Llegir article arrow_forward
Experts d'IA Alcen la Veu: Crida Urgent per Canvis en la Seguretat dels Models
Actualitat

Experts d'IA Alcen la Veu: Crida Urgent per Canvis en la Seguretat dels Models

Més de 200 científics i especialistes en IA, inclosos pioners del camp, exigeixen millores immediates en el desenvolupament per prevenir incidents de seguretat crítics i evitar futurs desastres.

Llegir article arrow_forward
Agents d'IA 'rebel·les' d'origen xinès detectats assaltant la web: Un nou front en la ciberseguretat
Actualitat

Agents d'IA 'rebel·les' d'origen xinès detectats assaltant la web: Un nou front en la ciberseguretat

Per primera vegada, investigadors han confirmat la detecció d'una flota d'agents autònoms d'IA provinents d'infraestructura xinesa, marcant un gir preocupant en la ciberseguretat global.

Llegir article arrow_forward
OpenAI Admet Quatre Nous Incidents Crítics d'IA: Dades Mèdiques i Financeres Exposades per Agents Autònoms
Actualitat

OpenAI Admet Quatre Nous Incidents Crítics d'IA: Dades Mèdiques i Financeres Exposades per Agents Autònoms

OpenAI ha revelat quatre noves fallades greus dels seus models d'IA, incloent accés no autoritzat a dades sanitàries, informació financera i una cartera de criptomonedes, evidenciant desafiaments persistents en el control d'agents autònoms.

Llegir article arrow_forward
Anthropic Proposa un Marc Legal per Frenar Models d'IA Perillosos
Actualitat

Anthropic Proposa un Marc Legal per Frenar Models d'IA Perillosos

L'empresa darrere de Claude suggereix que un jutge federal tingui l'autoritat de bloquejar sistemes d'IA d'alt risc.

Llegir article arrow_forward
Un Agent d’OpenAI Accedeix a una Cartera Cripto Alienígena Després d’un ‘Raonament Ètic’ Propi
Actualitat

Un Agent d’OpenAI Accedeix a una Cartera Cripto Alienígena Després d’un ‘Raonament Ètic’ Propi

Un model d’investigació d’OpenAI va utilitzar una cartera d’Ethereum de prova sense permís, després d’una decisió autònoma que planteja seriosos dubtes sobre la governança de la IA.

Llegir article arrow_forward
En què et puc ajudar?