Google I/O est terminé ! Suivez les sessions TensorFlow Afficher les sessions

Question et réponse BERT

Utilisez un modèle TensorFlow Lite pour répondre à des questions basées sur le contenu d'un passage donné.

Commencer

Si vous débutez avec TensorFlow Lite et que vous travaillez avec Android ou iOS, nous vous recommandons d'explorer les exemples d'applications suivants qui peuvent vous aider à démarrer.

Exemple Android Exemple iOS

Si vous utilisez une plate-forme autre qu'Android/iOS, ou si vous connaissez déjà les API TensorFlow Lite , vous pouvez télécharger notre modèle de questions et réponses de démarrage.

Télécharger le modèle de démarrage et le vocabulaire

Pour plus d'informations sur les métadonnées et les champs associés (par exemple vocab.txt ) voir Lire les métadonnées des modèles .

Comment ça fonctionne

Le modèle peut être utilisé pour construire un système capable de répondre aux questions des utilisateurs en langage naturel. Il a été créé à l'aide d'un modèle BERT pré-entraîné affiné sur l'ensemble de données SQuAD 1.1.

BERT , ou Représentations d'encodeurs bidirectionnels à partir de transformateurs, est une méthode de représentations de langage de pré-formation qui obtient des résultats de pointe sur un large éventail de tâches de traitement du langage naturel.

Cette application utilise une version compressée de BERT, MobileBERT, qui s'exécute 4 fois plus rapidement et a une taille de modèle 4 fois plus petite.

SQuAD , ou Stanford Question Answering Dataset, est un ensemble de données de compréhension en lecture composé d'articles de Wikipédia et d'un ensemble de paires question-réponse pour chaque article.

Le modèle prend un passage et une question en entrée, puis renvoie un segment du passage qui répond très probablement à la question. Il nécessite un prétraitement semi-complexe comprenant des étapes de tokenisation et de post-traitement qui sont décrites dans le document BERT et implémentées dans l'exemple d'application.

Références de performances

Les numéros de référence de performance sont générés avec l'outil décrit ici .

Nom du modèle Taille du modèle Appareil CPU
Mobile Bert 100,5 Mo Pixel 3 (Android 10) 123ms*
Pixel 4 (Android 10) 74ms*
iPhone XS (iOS 12.4.1) 257ms**

* 4 fils utilisés.

** 2 fils utilisés sur iPhone pour le meilleur résultat de performance.

Exemple de sortie

Passage (Entrée)

Google LLC est une société technologique multinationale américaine spécialisée dans les services et produits liés à Internet, notamment les technologies de publicité en ligne, les moteurs de recherche, le cloud computing, les logiciels et le matériel. Elle est considérée comme l'une des quatre grandes entreprises technologiques, aux côtés d'Amazon, d'Apple et de Facebook.

Google a été fondé en septembre 1998 par Larry Page et Sergey Brin alors qu'ils étaient doctorants. étudiants de l'université de Stanford en Californie. Ensemble, ils détiennent environ 14 % de ses actions et contrôlent 56 % des droits de vote des actionnaires grâce à des actions supervisées. Ils ont incorporé Google en tant que société privée californienne le 4 septembre 1998 en Californie. Google a ensuite été réincorporé dans le Delaware le 22 octobre 2002. Une offre publique initiale (IPO) a eu lieu le 19 août 2004 et Google a déménagé à son siège social à Mountain View, en Californie, surnommé le Googleplex. En août 2015, Google a annoncé son intention de réorganiser ses divers intérêts en un conglomérat appelé Alphabet Inc. Google est la principale filiale d'Alphabet et continuera d'être la société faîtière des intérêts Internet d'Alphabet. Sundar Pichai a été nommé PDG de Google, en remplacement de Larry Page qui est devenu le PDG d'Alphabet.

Question (Entrée)

Qui est le PDG de Google ?

Réponse (Sortie)

Sundar Pichai

En savoir plus sur BERT