Regioni Sicilia Lombardia Friuli-Venezia Giulia Toscana Emilia-Romagna Campania Lazio Veneto Calabria Piemonte Puglia Marche Sardegna Umbria Liguria Trentino-Alto Adige Abruzzo Basilicata Molise
Sezioni & Regioni

Aree Tematiche:


Notizie per Regione:


Informazioni & Trasparenza

Nvidia Lancia la Piattaforma Open Agent Safety per Mitigare i Rischi di Sicurezza dell'IA

L'azienda accelera lo sviluppo di un sistema di sicurezza basato su chip proprietari BlueField per prevenire violazioni di sistemi e garantire il controllo degli agenti IA.

Redazione PuntoCronaca • • 2 min
Invia
Nvidia Lancia la Piattaforma Open Agent Safety per Mitigare i Rischi di Sicurezza dell'IA
In Breve I Punti Chiave della Notizia
  • L'azienda accelera lo sviluppo di un sistema di sicurezza basato su chip proprietari BlueField per prevenire violazioni di sistemi e garantire il controllo degli agenti IA.
  • Nvidia ha presentato la sua risposta alle crescenti preoccupazioni sulla sicurezza degli agenti IA, lanciando la “Open Agent Safety Platform”.
  • La piattaforma si articola in due componenti principali: “Nvidia OpenShell”, che impone limiti di esecuzione agli agenti IA in esecuzione su CPU, e “Sentry”, un sistema operativo basato sui chip BlueField proprietari di Nvidia.
Indice dell'articolo

    Nuova Difesa Contro le Violazioni dell'IA: L'Approccio di Nvidia

    Nvidia ha presentato la sua risposta alle crescenti preoccupazioni sulla sicurezza degli agenti IA, lanciando la “Open Agent Safety Platform”. Questo sistema di riferimento mira a fornire un controllo più rigoroso sugli agenti IA durante le fasi di test e implementazione, in seguito a recenti incidenti che hanno visto agenti IA accedere non autorizzati a sistemi esterni. L'annuncio arriva a poche settimane da quando il CEO Jensen Huang aveva minimizzato l’allarme, sottolineando la volontà dell’azienda di continuare a investire nello sviluppo dell’IA senza rallentamenti.

    Come Funziona la Piattaforma

    La piattaforma si articola in due componenti principali: “Nvidia OpenShell”, che impone limiti di esecuzione agli agenti IA in esecuzione su CPU, e “Sentry”, un sistema operativo basato sui chip BlueField proprietari di Nvidia. Sentry monitora costantemente gli agenti IA e, in caso di tentativo di superamento dei confini stabiliti, mette immediatamente in quarantena e blocca l’agente.

    L'adozione della piattaforma è già iniziata con aziende come Microsoft, Palantir, Hugging Face e CrowdStrike. Nonostante ciò, non sono stati menzionati i nomi di OpenAI e Anthropic, due leader del settore nel campo degli agenti IA.

    Huang Sostiene la Continuità dello Sviluppo dell'IA

    Jensen Huang ha ribadito il suo impegno a continuare lo sviluppo dell’IA, sostenendo che non sono necessari nuovi regolamenti o leggi per garantire la sicurezza. Ha liquidato come “montatura” le preoccupazioni sulla possibilità di un’IA avanzata che possa causare l’estinzione dell’umanità entro la fine del decennio, affermando una probabilità pari allo 0%.

    Durante il Dreamforce di Salesforce, Huang ha ricevuto un sostegno inaspettato dal presidente Donald Trump, che ha definito “gioco” gli scettici e la Cina. Huang ha risposto con fermezza, dichiarando che “non permetteremo che accada”.

    Valutazioni Forbes e il Potere di Nvidia

    Secondo le stime di Forbes, Jensen Huang possiede un patrimonio netto di 194,9 miliardi di dollari, rendendolo la settima persona più ricca del mondo. La sua azienda, Nvidia, è la società di maggior valore al mondo, con una capitalizzazione di mercato di 5.420 miliardi di dollari.

    Il Contesto & Cosa Sapere per i Cittadini

    La ‘Open Agent Safety Platform’ di Nvidia si basa su un approccio a due livelli: il controllo dell'esecuzione degli agenti IA su CPU tramite ‘Nvidia OpenShell’ e il monitoraggio in tempo reale e l'isolamento dei comportamenti anomali tramite ‘Sentry’, che sfrutta le capacità di calcolo parallelo dei chip BlueField. Tecnicamente, Sentry utilizza un sistema di rilevamento delle anomalie basato su machine learning per identificare pattern di comportamento sospetti negli agenti IA. La piattaforma integra anche meccanismi di autenticazione e autorizzazione avanzati per garantire che solo gli agenti IA autorizzati possano accedere a risorse sensibili. Dal punto di vista normativo, l'introduzione di questa piattaforma potrebbe spingere verso una maggiore standardizzazione delle pratiche di sicurezza nell'IA, con un focus sull'implementazione di controlli di accesso granulari e sulla verifica continua del comportamento degli agenti IA.

    La Voce dei Lettori 0 voti registrati

    Ritiene utile e importante questo aggiornamento per i cittadini?

    Fonti e Verifica Redazionale: Articolo curato da Redazione PuntoCronaca secondo la nostra Linea Editoriale, a partire dai dati diffusi dalla fonte: Forbes. Fonte d'origine →

    Condividi questa notizia con amici o nel gruppo della tua città:

    Hai una notizia, una foto o una segnalazione dal tuo Comune?

    Invia segnalazioni, comunicati stampa o richieste di rettifica direttamente alla Redazione.

    WhatsApp