La journée communautaire ML est le 9 novembre ! Rejoignez - nous pour les mises à jour de tensorflow, JAX et plus En savoir plus

Questions et réponses du BERT

Utilisez un modèle TensorFlow Lite pour répondre aux questions en fonction du contenu d'un passage donné.

Commencer

Si vous êtes nouveau sur TensorFlow Lite et que vous travaillez avec Android ou iOS, nous vous recommandons d'explorer les exemples d'applications suivants qui peuvent vous aider à démarrer.

Exemple Android Exemple iOS

Si vous utilisez une plate-forme autre qu'Android / iOS, ou si vous êtes déjà familiarisé avec les API TensorFlow Lite , vous pouvez télécharger notre modèle de questions et réponses de démarrage.

Télécharger le modèle de démarrage et le vocabulaire

Pour plus d'informations sur les métadonnées et les champs associés (par exemple vocab.txt ), voir Lire les métadonnées à partir des modèles .

Comment ça fonctionne

Le modèle peut être utilisé pour construire un système capable de répondre aux questions des utilisateurs en langage naturel. Il a été créé à l'aide d'un modèle BERT pré-entraîné affiné sur l'ensemble de données SQuAD 1.1.

BERT , ou Bidirectional Encoder Representations from Transformers, est une méthode de pré-formation des représentations de langage qui obtient des résultats de pointe sur un large éventail de tâches de traitement du langage naturel.

Cette application utilise une version compressée de BERT, MobileBERT, qui s'exécute 4 fois plus vite et a une taille de modèle 4 fois plus petite.

SQuAD , ou Stanford Question Answering Dataset, est un ensemble de données de compréhension en lecture composé d'articles de Wikipédia et d'un ensemble de paires question-réponse pour chaque article.

Le modèle prend un passage et une question en entrée, puis renvoie un segment du passage qui répond le plus vraisemblablement à la question. Il nécessite un prétraitement semi-complexe, y compris des étapes de tokenisation et de post-traitement qui sont décrites dans l' article BERT et implémentées dans l'exemple d'application.

Benchmarks de performance

Les chiffres de référence de performance sont générés avec l'outil décrit ici .

Nom du modèle Taille du modèle Appareil CPU
Mobile Bert 100,5 Mo Pixel 3 (Android 10) 123 ms *
Pixel 4 (Android 10) 74 ms *
iPhone XS (iOS 12.4.1) 257 ms **

* 4 fils utilisés.

** 2 threads utilisés sur iPhone pour le meilleur résultat de performance.

Exemple de sortie

Passage (entrée)

Google LLC est une société technologique multinationale américaine spécialisée dans les services et produits liés à Internet, notamment les technologies de publicité en ligne, les moteurs de recherche, le cloud computing, les logiciels et le matériel. Elle est considérée comme l'une des quatre grandes entreprises technologiques, aux côtés d'Amazon, Apple et Facebook.

Google a été fondé en septembre 1998 par Larry Page et Sergey Brin alors qu'ils étaient doctorants. étudiants de l'Université de Stanford en Californie. Ensemble, ils détiennent environ 14% de ses actions et contrôlent 56% des droits de vote des actionnaires par le biais de la surveillance des actions. Ils ont incorporé Google en tant que société privée californienne le 4 septembre 1998 en Californie. Google a ensuite été réincorporée dans le Delaware le 22 octobre 2002. Une offre publique initiale (IPO) a eu lieu le 19 août 2004 et Google a déménagé à son siège à Mountain View, en Californie, surnommé le Googleplex. En août 2015, Google a annoncé son intention de réorganiser ses divers intérêts en un conglomérat appelé Alphabet Inc. Google est la principale filiale d'Alphabet et continuera d'être la société faîtière des intérêts Internet d'Alphabet. Sundar Pichai a été nommé PDG de Google, en remplacement de Larry Page qui est devenu le PDG d'Alphabet.

Question (entrée)

Qui est le PDG de Google?

Réponse (sortie)

Sundar Pichai

En savoir plus sur BERT