AVANTICreata un’Intelligenza Artificiale in grado di generare testi falsi ma altamente credibili

OpenAI, una società di ricerca senza scopo di lucro co-finanziata da Elon Musk, ha realizzato un’Intelligenza Artificiale chiamata GPT2 e che tecnicamente è un generatore di testi. Produce testi talmente credibili a livello di contenuti e di forma che potrebbe essere oggetto di un uso improprio, come per esempio la creazione delle cosiddette fake news.
Il funzionamento di GPT2 è stato descritto dal quotidiano The Guardian come un algoritmo che, partendo da poche parole o da un breve testo, è in grado di scrivere abilmente il prosieguo di una notizia o di un racconto. Sarebbe inoltre capace di produrre passaggi credibili e associabili alla persona al quale vengono accostati.
Ad esempio, facendo leggere a GPT2 l’inizio del testo “1984” di George Orwell, “Era una luminosa e fredda giornata d’aprile, e gli orologi battevano tredici colpi […]”, l’algoritmo riconosce il tono futuristico e lo stile romanzesco, inventandosi il prosieguo: “Nel 2045 ero un insegnante in una scuola della Cina rurale. Ho iniziato con la storia cinese e la storia della scienza”.
Un altro sorprendente esempio è quando, facendo scorrere a GPT2 i primi paragrafi di un articolo del Guardian sulla Brexit, l’algoritmo è stato in grado di scrivere un articolo di giornale plausibile, pieno di citazioni di Jeremy Corbyn, e di risposte del portavoce dell’ex Primo Ministro britannico Teresa May. Uno di questi totalmente inventato.
Secondo il direttore della ricerca di OpenAI, Dario Amodei, sono due i motivi principali per i quali GPT2 sarebbe “rivoluzionario” nel settore. Il primo riguarda la sua dimensione: si basa infatti su un set di dati 15 volte più grande rispetto al precedente modello di IA all’avanguardia. La sua formazione si è basata su 40 GB di testi presi da Internet e ciò ha permesso a GPT2 di allenarsi di più e assimilare più nozioni sulla comprensione del testo scritto. Il secondo elemento rivoluzionario dipende dal fatto che ha competenze più generiche rispetto ai suoi predecessori, quindi partendo dal testo che viene immesso riesce a fare traduzioni e a riassumere molto meglio di altre Intelligenze Artificiali progettate per avere competenze verticali.
Questi fattori, tuttavia, potrebbero portare a possibili problemi. Non a caso, il responsabile dell’azienda Jack Clark, ha spiegato che GPT2 verrà tenuto segreto fino a quando non si saranno fatti tutti gli esperimenti utili per capire cosa si può e cosa non si può fare con questo strumento. Il fatto è che si potrebbe essere tentati di fare un uso improprio delle sue capacità, come ad esempio generare giudizi positivi o negativi sui prodotti, creare spam e notizie false, o addirittura produrre teorie complottistiche o simili. Tutti problemi che un’intelligenza Artificiale dovrebbe semmai aiutare a debellare, non incrementare.