Il nuovo capo dell'intelligenza artificiale di Google Cloud studia l'intelligenza artificiale militare con il fondatore di Project Maven

Quando il capo di Google Cloud Diane Greene ha annunciato che Andrew Moore avrebbe sostituito Fei-Fei Li entro la fine dell'anno come capo dell'intelligenza artificiale per Google Cloud, ha menzionato che era preside della scuola di informatica presso la Carnegie Mellon University e che in precedenza aveva lavorato presso Google .

Ciò che Greene non ha menzionato è che Moore è anche co-presidente di una task force sull’intelligenza artificiale creata dal Center for a New American Security (CNAS), un think tank con forti legami con l’esercito americano. Il co-presidente di Moore nella task force è Robert Work, ex vice segretario alla difesa, che il New York Times ha definito "la forza trainante dietro la creazione del Progetto Maven", lo sforzo dell'esercito americano di analizzare dati, come i filmati dei droni , utilizzando l'intelligenza artificiale.

Il coinvolgimento di Google in Project Maven ha causato un enorme contraccolpo all'interno dell'azienda all'inizio di quest'anno, costringendo il CEO Sundar Pichai a promettere che Google non avrebbe mai lavorato su armi potenziate dall'intelligenza artificiale.

L’assunzione di Moore riaccenderà sicuramente il dibattito sul coinvolgimento di Google in alcuni mercati dell’intelligenza artificiale – una delle aree più calde della tecnologia con un enorme potenziale commerciale – e sul rapporto che l’azienda intrattiene con l’esercito.

Durante il suo mandato alla Carnegie Mellon, Moore ha spesso discusso del ruolo dell’intelligenza artificiale nelle applicazioni difensive e militari, come nel suo discorso del 2017 su Intelligenza artificiale e sicurezza globale:

"Potremmo permetterci, se volessimo e se ne avessimo bisogno, di sorvegliare praticamente tutto il mondo con droni autonomi di vario tipo", ha detto Moore. "Non sto dicendo che vorremmo farlo, ma non c'è un divario tecnologico per cui penso che sia effettivamente troppo difficile da fare. Questo ora è pratico."

Il CNAS, l'organizzazione che ha formato i co-presidenti della task force Moore, si concentra su questioni di sicurezza nazionale e la sua missione dichiarata è quella di "sviluppare politiche di sicurezza e difesa nazionale forti, pragmatiche e basate su principi che promuovano e proteggano gli interessi e i valori americani".

La decisione di Google di assumere Moore è stata accolta con dispiacere da almeno un ex googler che si è opposto a Project Maven.

"È preoccupante notare, dopo il diffuso dissenso interno contro Maven, che Google avrebbe assunto Andrew Moore", ha detto un ex dipendente di Google. "I googler vogliono meno allineamento con il complesso militare-industriale, non di più. Questa assunzione è come un pugno in faccia per gli oltre 4.000 googler che hanno firmato la lettera di annullamento di Maven."

Un portavoce di Google ha rifiutato di commentare.

Moore, che è nato nel Regno Unito ma da allora è diventato cittadino statunitense, ha spesso parlato della necessità di cautela nel portare l’intelligenza artificiale fuori dal laboratorio e nel mondo reale. Quando la task force del CNAS è stata annunciata a marzo, Moore ha sottolineato l'importanza di "garantire che tali sistemi funzionino con gli esseri umani in un modo che dia potere all'umano, non lo sostituisca, e che mantenga l'autorità decisionale ultima presso l'umano".

E in un recente podcast del CNAS, ha descritto quella che ha definito la sua visione "conservatrice" sull'intelligenza artificiale nel mondo reale: "Anche se sapessi che, ad esempio, il lancio di una flotta di veicoli autonomi in una città ridurrebbe le morti del 50%, Non voglio lanciarlo finché non mi sono imbattuto in alcune prove formali di correttezza, che mi abbiano dimostrato che non sarebbe stato assolutamente coinvolto in morti inutili."

Tuttavia, non ha evitato di occuparsi del settore militare.

La biografia di Moore alla Carnegie Mellon menziona il lavoro passato riguardante "il rilevamento e la sorveglianza delle minacce terroristiche", ed è indicato come collaboratore alla ricerca di fatti in un rapporto consultivo sulla ricerca navale del settembre 2017 su "Sistemi autonomi e senza pilota nel Dipartimento della Marina".

Per saperne di più: Un teso incontro interno tra il CEO di Google Sundar Pichai e i dipendenti è andato di traverso mentre i dirigenti hanno affrontato le voci sui piani dell'azienda in Cina

Durante il discorso sulla sicurezza globale del 2017, ha menzionato la possibilità di incorporare assistenti personali digitali, come quelli utilizzati nei gadget di consumo realizzati da Google e Amazon, in applicazioni militari. "C'è una questione aperta su se, quando e come possiamo sviluppare assistenti personali per combattenti e comandanti per avere quella serie completa di informazioni che aiutano a rimuovere la 'nebbia della guerra', senza intralciarli con troppe informazioni," Egli ha detto.