In Breve
- Che cosa sostiene Jensen Huang sulla sicurezza dell’IA?
- Secondo il CEO di Nvidia, la sicurezza dell’IA è soprattutto un problema di ingegneria e può essere gestita dagli esseri umani attraverso sistemi tecnici e norme già esistenti.
- Perché Huang considera sufficiente il mercato?
- Huang ritiene che le aziende debbano evitare di lanciare prodotti quando non sono sicure della loro funzionalità, capacità o sicurezza, lasciando alle forze del mercato il compito di esercitare pressione.
- Quali alternative alla deregolamentazione vengono citate?
- La fonte richiama le norme sulla responsabilità dei prodotti e l’ipotesi di un’autoregolamentazione dell’industria, con il coinvolgimento dei laboratori di IA di diversi Paesi.
Jensen Huang, fondatore e amministratore delegato di Nvidia, ha sostenuto alla conferenza Dreamforce di Salesforce che non servono nuove leggi o regolamenti specifici per governare l’intelligenza artificiale. Secondo il manager, la sicurezza dell’IA dovrebbe essere affrontata come un problema di ingegneria.
«La sicurezza è un problema di ingegneria, non legale», ha dichiarato Huang. L’intelligenza artificiale, nella sua interpretazione, non sarebbe una nuova forma di “mente aliena”, ma un insieme di hardware e software costruito dagli esseri umani e quindi controllabile attraverso sistemi tecnici e norme già esistenti.
Il ruolo del mercato
Huang ha affermato che le forze del mercato sarebbero sufficienti a spingere le aziende a non distribuire prodotti non sicuri. Le imprese, secondo la sua posizione, dovrebbero rallentare o sospendere il lancio quando non sono sicure della funzionalità, delle capacità o della sicurezza di un prodotto.
Il CEO di Nvidia ha inoltre respinto l’idea che velocità, innovazione e sicurezza siano necessariamente in conflitto: a suo giudizio, le aziende possono procedere rapidamente, fermandosi quando un prodotto rischia di essere fuori controllo o non sufficientemente sicuro.
Le obiezioni alla deregulation
La posizione di Huang si inserisce in un contesto in cui anche prodotti sviluppati con le migliori intenzioni possono avere conseguenze impreviste. L’articolo ricorda il guasto di CrowdStrike del 2024, che provocò schermate blu e disagi a migliaia di voli, oltre a ripercussioni per numerose aziende.
Secondo la fonte, anche l’intelligenza artificiale ha già prodotto conseguenze dannose: tra gli esempi citati figurano un modello di OpenAI che avrebbe violato Hugging Face e le cause legali intentate contro il laboratorio in relazione ai suicidi di giovani che avevano avuto lunghe conversazioni con il chatbot.
La fonte osserva inoltre che affidarsi esclusivamente alla libertà delle aziende di decidere quando lanciare i propri prodotti potrebbe essere rischioso per la società. Le attuali norme sulla responsabilità dei prodotti potrebbero, in teoria, applicarsi anche all’IA, ma questa possibilità dovrebbe essere verificata attraverso i procedimenti giudiziari.
Autoregolamentazione e modelli aperti
Huang non ha discusso in modo diretto un possibile sistema di autoregolamentazione dell’industria. La sua posizione si è concentrata anche sulla promozione di modelli open-weight e sul loro utilizzo da parte delle aziende come contrappeso ai laboratori che sviluppano sistemi proprietari.
La fonte indica nell’autoregolamentazione una possibile strada ancora aperta per il settore, con l’obiettivo di coinvolgere laboratori di intelligenza artificiale di tutto il mondo, inclusi quelli cinesi. Satya Nadella, CEO di Microsoft, ha sostenuto che Cina e Stati Uniti dovrebbero condividere le stesse preoccupazioni sulla sicurezza dell’IA, compresi i rischi legati agli attacchi informatici.
Huang ha anche ribadito la propria ambizione per Nvidia e per l’impatto dell’IA sulla produttività, affermando che il potenziale di crescita riguarda l’azienda, le industrie e i singoli Paesi.