https://share.hsforms.com/1X7XxBm4uSFSiCXHrPFX-EQ2e3cv

🔊 Speaker

“Mi piacerebbe cominciare con un "da piccolo sono sempre stato affascinato dall'AI" e invece no, a Bergamo da bambini mangiamo polenta invece che guardare film di fantascienza.

La mia strada verso l'AI è stata più tortuosa, fatta di anni errando tra Francia, fluidodinamica, vino e rischio bancario.

L'unica certezza che inseguivo era il fascino verso la matematica, provando ambienti diversi per trovare una "missione" da condividere. E nell'AI ho trovato quello a cui aspiravo: argomenti di frontiera che possano creare un impatto positivo sulla qualità di vita delle persone.”

Enrico Bertino - Chief AI Officer di Indigo.ai

⚗️ Abstract

Qual è il miglior modello di intelligenza artificiale per elaborare dei dati testuali?

Negli ultimi tre anni la tecnologia Transformer ha cambiato il mondo del Natural Language Processing rendendo i modelli AI capaci di svolgere compiti prima impensabili.

Se da una parte però la ricerca mira a studiare modelli Transformer sempre più piccoli e leggeri per permettere di sfruttare questa tecnologia in sistemi meno potenti (mobile, IoT, ...), dall'altra stiamo assistendo alla creazione di modelli Transformer giganteschi, i cosiddetti Large Language Models, le cui capacità si avvicinano a quelle umane come ci ha dimostrato GPT-3.

In questo Webinar proponiamo una overview delle due categorie descritte, studiando modelli, peculiarità, pro e contro dei due approcci e provando a delineare una prospettiva per il futuro dell'intelligenza artificiale.

📋 Table of contents

• Overview sulla rete Transformer
• Modelli Transformer super leggeri: come ridurre peso e latenza?
  • DistilBERT: molti parametri sono ridondati?
  • Fastformers: comprimere il comprimibile
  • Adapters: ridurre i parametri da addestrare
• Large Language Models: le dimensioni contano
  • Un modello per tutti i task: sfruttare il transfer learning
  • T5: stesso modello, molti fine-tuning
  • GPT-3 e il few-shot learning: quando è utile e quando non fa al caso nostro
• Come scegliere che modello di AI usare?
• What's next?
  • L'approccio multimodale può cambiare le performance?
  • I transformers sono davvero il miglior approccio in circolazione?

https://share.hsforms.com/1X7XxBm4uSFSiCXHrPFX-EQ2e3cv

💊 NLPills newsletter

Se ti interessa il mondo del Natural Language Processing e della Conversational AI e vuoi aggiornarti sulle ultime pubblicazioni, noi di Indigo.ai abbiamo creato una newsletter, chiamata NLPills, dove settimanalmente presentiamo uno o più papers che hanno catturato la nostra attenzione nell'ambito dell'intelligenza artificiale. Se vuoi iscriverti, lasciaci la tua mail a questo link!