In Breve
- Quali aziende stanno collaborando sulla sicurezza dell’AI?
- OpenAI, Anthropic e il laboratorio DeepMind di Google.
- Qual è il principale nodo legale della collaborazione?
- Il coordinamento potrebbe essere interpretato come una limitazione dell’output e sollevare problemi rispetto alle norme antitrust statunitensi.
- Quali proposte legislative sostiene OpenAI?
- Il FRONTIER Act e un secondo disegno di legge in elaborazione che potrebbe introdurre audit di sicurezza sui modelli prima del loro rilascio.
OpenAI, Anthropic e il laboratorio DeepMind di Google lavorano da alcune settimane a iniziative comuni per definire un quadro di sicurezza per l’intelligenza artificiale. La collaborazione è stata resa pubblica da Chris Lehane, responsabile globale delle politiche di OpenAI, durante un briefing con i media a Washington.
«È meglio cercare di lavorare insieme per dare priorità alla sicurezza», ha dichiarato Lehane, secondo quanto riportato da Bloomberg. Il dirigente non ha fornito dettagli sulla natura delle attività condivise.
La spinta a rallentare lo sviluppo dei modelli frontier
Le dichiarazioni arrivano dopo un appello di Dario Amodei, amministratore delegato di Anthropic, che in un saggio pubblicato sul proprio blog personale ha chiesto all’industria di cooperare per rallentare il ritmo di sviluppo dell’AI frontier e ridurre quelli che ha definito “rischi catastrofici”.
L’iniziativa ha ricevuto il sostegno di diversi leader del settore, tra cui il CEO di OpenAI Sam Altman e Demis Hassabis di Google. Altman ha inoltre affermato che OpenAI è disponibile a partecipare a un’iniziativa per inserire valutatori terzi nei team di sviluppo, con il compito di monitorare la sicurezza dei sistemi di AI.
Il rischio di violare le norme sulla concorrenza
La cooperazione tra i principali laboratori di AI solleva però interrogativi sul rispetto delle leggi antitrust statunitensi. Alcuni esperti legali ritengono che un coordinamento sulla sicurezza possa essere interpretato come una limitazione dell’output, potenzialmente in contrasto con lo Sherman Act.
Amodei ha proposto che il governo degli Stati Uniti valuti una deroga per consentire alle aziende di collaborare sulla sicurezza senza incorrere in violazioni antitrust. Lehane ha invece affermato che, a suo giudizio, una misura di questo tipo non sarebbe necessaria.
In precedenza, i senatori Jim Banks e Adam Schiff avevano sollevato preoccupazioni simili e proposto il “Collaboration on Adversarial Threats and Security Risks Act”, un disegno di legge pensato per consentire ai laboratori di AI di adottare misure di sicurezza anche quando queste possano entrare in conflitto con la normativa sulla concorrenza.
Le critiche di Cohere e il confronto politico
Aidan Gomez, CEO di Cohere, ha contestato l’appello alla collaborazione sostenendo che possa mascherare un progetto anticoncorrenziale a vantaggio dei laboratori più grandi. Secondo Gomez, le aziende dominanti rischierebbero di ottenere il potere di definire regole e standard di sicurezza per l’intero settore.
Anche il presidente statunitense Donald Trump ha respinto la richiesta di rallentare lo sviluppo dell’AI, sostenendo che una frenata potrebbe consentire alla Cina di superare gli Stati Uniti nella competizione tecnologica. Il suo consigliere per l’AI, David Sacks, ha dichiarato in passato che i timori relativi a una minaccia esistenziale dell’intelligenza artificiale sono esagerati.
Le proposte legislative sostenute da OpenAI
Durante il briefing di Washington, Lehane era atteso a incontri con diversi parlamentari. OpenAI starebbe sostenendo due proposte legislative sull’AI.
- Il FRONTIER Act, che prevede un quadro federale per la sicurezza dell’AI e audit dei nuovi modelli da parte di valutatori indipendenti.
- Un secondo disegno di legge ancora in fase di elaborazione, al quale lavorerebbero il leader della maggioranza al Senato John Thune, il senatore repubblicano Ted Cruz e la senatrice democratica Amy Klobuchar. La proposta attribuirebbe al segretario al Commercio il potere di sottoporre i nuovi modelli ad audit di sicurezza prima del loro rilascio.
La collaborazione tra i protagonisti dell’AI frontier si trova quindi all’incrocio tra esigenze di sicurezza, competizione tecnologica e regolamentazione. La fonte non specifica quali strumenti o procedure comuni siano stati finora definiti da OpenAI, Anthropic e Google.