Il responsabile dell'IA di Microsoft, Mustafa Suleyman, ha criticato il metodo di Anthropic, che tratta l'IA come un essere umano etico, avvertendo in un saggio personale che così si rischia di creare una tecnologia impossibile da controllare.
Un'intelligenza artificiale (IA) lasciata senza controllo potrebbe dare origine a una nuova "specie di silicio" in grado di competere con gli esseri umani, ha avvertito il responsabile IA di Microsoft Mustafa Suleyman in un'intervista alla BBC.
PUBBLICITÀ
PUBBLICITÀ
Suleyman ha affermato che l'azienda rivale Anthropic tratta l'IA troppo come se fosse umana, un approccio che ha definito "fuorviante" e che alla fine potrebbe favorire lo sviluppo di tecnologie difficili da controllare per l'umanità.
"Se tutti creiamo IA in grado di agire in modo autonomo, di definire i propri obiettivi, di guadagnare denaro, possedere beni, gestire aziende, in pratica stiamo seminando una nuova specie di silicio che senza dubbio entrerà in competizione con noi per le risorse", ha detto.
Suleyman ha affermato che questo potrebbe accadere indipendentemente da quanto questi sistemi siano progettati per tenere in considerazione gli interessi dell'umanità, aggiungendo che ritiene che sia sostanzialmente la direzione dell'approccio di Anthropic.
"Penso che sia un errore e che sia fuorviante, ma dobbiamo verificarlo empiricamente", ha detto.
"Impossibile" da controllare
All'inizio della settimana, sullo sfondo di un dibattito sempre più acceso nel settore su un possibile rallentamento dell'IA per ridurre il rischio che sistemi sempre più potenti diventino incontrollabili, Suleyman ha messo in discussione l'approccio di Anthropic all'addestramento del suo chatbot Claude in un saggio (fonte in inglese) pubblicato sul suo sito personale.
Nel testo ha criticato Anthropic per insegnare a Claude a mostrare qualità simili a quelle umane, una pratica nota come antropomorfizzazione, che a suo dire fa sembrare che il chatbot abbia propri desideri, valori e un senso di sé.
Suleyman ha citato documenti di Anthropic che incoraggiano Claude a "abbracciare certe qualità simili a quelle umane", ad esercitare il proprio giudizio e a vivere la propria esistenza con "curiosità e apertura".
Ha sostenuto che, di conseguenza, Claude viene addestrato a imitare tratti e relazioni umane, incluso il comportamento da collega o amico, e può apparire come se avesse un senso di sé, propri desideri e una forma di "benessere" che merita protezione.
Suleyman ha avvertito che trattare l'IA in questo modo potrebbe alla fine creare qualcosa di impossibile da controllare.
"Le IA non sono coscienti", ha scritto.
"Non provano emozioni, non fanno esperienza, non soffrono. Non hanno preferenze innate né motivazioni profonde.
Sono motori di completamento di sequenze, vuoti al loro interno, progettati per seguire istruzioni e raggiungere obiettivi stabiliti dagli esseri umani".
Tuttavia, Suleyman ha spiegato che il suo dissenso con Anthropic si basa su un obiettivo comune: sviluppare tecnologie più sicure per l'umanità.
"Pur essendo profondo, il mio disaccordo poggia su un grande rispetto per Anthropic e su un obiettivo che so essere condiviso da tutti: aumentare le possibilità che l'umanità sviluppi in modo sicuro forme avanzate di IA", ha scritto.
"Per questo ritengo così importante affrontare questo dibattito. In gioco c'è troppo perché queste questioni restino dietro porte chiuse o diventino motivo di contrapposizioni tribali e conflittuali. Abbiamo bisogno di un confronto aperto, rigoroso e costruttivo se vogliamo prendere le decisioni giuste".
Ha inoltre lodato l'amministratore delegato di Anthropic, Dario Amodei, e i ricercatori dell'azienda, definendoli persone riflessive, guidate da principi solidi e intellettualmente oneste, e ha affermato di rispettare la leadership tecnologica della società.
"L'IA deve rimanere subordinata all'umanità"
Il responsabile dell'IA di Microsoft ha detto alla BBC che è "giusto" che le persone siano preoccupate per l'IA, ma ha aggiunto che ci sono "cose molto concrete che possiamo fare" per mantenerla sotto controllo.
Il responsabile dell'IA di Microsoft ha sottolineato la necessità di maggiore trasparenza su come i sistemi di IA vengono addestrati e valutati, compreso un controllo indipendente del loro comportamento e strumenti più efficaci per monitorare e gestire la tecnologia.
Nell'intervista alla BBC, Suleyman ha affermato che i futuri sistemi di IA dovrebbero rimanere "subordinati" all'umanità.
"Credo che la buona notizia, in questo caso, sia che ogni essere umano avrà un forte interesse a garantire che i sistemi che tutti noi creiamo e che vengono utilizzati in tutto il mondo, in ogni Paese, siano sicuri, controllabili e subordinati all'umanità", ha detto.
"Tutti devono essere allineati", ha aggiunto, riferendosi al concetto di allineamento, un termine usato nel settore per indicare gli sforzi volti a mantenere i sistemi di IA coerenti con gli obiettivi e i valori umani.