Pergunta e resposta do BERT

Use um modelo do TensorFlow Lite para responder perguntas com base no conteúdo de uma determinada passagem.

iniciar

Se você é novo no TensorFlow Lite e trabalha com Android ou iOS, recomendamos explorar os exemplos de aplicativos a seguir que podem ajudá-lo a começar.

Exemplo Android Exemplo iOS

Se você estiver usando uma plataforma diferente do Android/iOS ou já estiver familiarizado com as APIs do TensorFlow Lite , poderá fazer download do nosso modelo inicial de perguntas e respostas.

Baixe o modelo inicial e o vocabulário

Para obter mais informações sobre metadados e campos associados (por exemplo, vocab.txt ), consulte Ler os metadados dos modelos .

Como funciona

O modelo pode ser usado para construir um sistema que possa responder às perguntas dos usuários em linguagem natural. Ele foi criado usando um modelo BERT pré-treinado e ajustado no conjunto de dados SQuAD 1.1.

BERT , ou Representações de Codificador Bidirecional de Transformadores, é um método de pré-treinamento de representações de linguagem que obtém resultados de última geração em uma ampla gama de tarefas de Processamento de Linguagem Natural.

Este aplicativo usa uma versão compactada do BERT, MobileBERT, que roda 4x mais rápido e tem modelo 4x menor.

SQuAD , ou Stanford Question Answering Dataset, é um conjunto de dados de compreensão de leitura que consiste em artigos da Wikipedia e um conjunto de pares de perguntas e respostas para cada artigo.

O modelo pega uma passagem e uma pergunta como entrada e depois retorna um segmento da passagem que provavelmente responde à pergunta. Requer pré-processamento semicomplexo, incluindo etapas de tokenização e pós-processamento descritas no documento do BERT e implementadas no aplicativo de exemplo.

Referências de desempenho

Os números de benchmark de desempenho são gerados com a ferramenta descrita aqui .

Nome do modelo Tamanho do modelo Dispositivo CPU
Bert móvel 100,5 MB Pixel 3 (Android 10) 123ms*
Pixel 4 (Android 10) 74ms*
iPhone XS (iOS 12.4.1) 257ms**

* 4 fios usados.

** 2 threads usados ​​no iPhone para melhor resultado de desempenho.

Exemplo de saída

Passagem (Entrada)

Google LLC é uma empresa multinacional americana de tecnologia especializada em serviços e produtos relacionados à Internet, que incluem tecnologias de publicidade on-line, mecanismo de pesquisa, computação em nuvem, software e hardware. É considerada uma das quatro grandes empresas de tecnologia, ao lado de Amazon, Apple e Facebook.

O Google foi fundado em setembro de 1998 por Larry Page e Sergey Brin enquanto eles eram Ph.D. estudantes da Universidade de Stanford, na Califórnia. Juntos, eles possuem cerca de 14% de suas ações e controlam 56% do poder de voto dos acionistas por meio de ações com direito a voto. Eles incorporaram o Google como uma empresa privada da Califórnia em 4 de setembro de 1998, na Califórnia. O Google foi então reincorporado em Delaware em 22 de outubro de 2002. Uma oferta pública inicial (IPO) ocorreu em 19 de agosto de 2004, e o Google mudou-se para sua sede em Mountain View, Califórnia, apelidada de Googleplex. Em agosto de 2015, o Google anunciou planos para reorganizar seus vários interesses como um conglomerado chamado Alphabet Inc. O Google é a principal subsidiária da Alphabet e continuará a ser a empresa guarda-chuva dos interesses da Alphabet na Internet. Sundar Pichai foi nomeado CEO do Google, substituindo Larry Page, que se tornou CEO da Alphabet.

Pergunta (entrada)

Quem é o CEO do Google?

Resposta (Saída)

Sundar Pichai

Leia mais sobre BERT