Помогают защитить Большой Барьерный Риф с TensorFlow на Kaggle Присоединяйтесь вызов

Интегрируйте ответчик на вопросы BERT

Задача библиотеки BertQuestionAnswerer API загружает модель Берт и ответы на вопросы , на основе содержания данного отрывка. Для получения более подробной информации, обратитесь к документации по модели Вопрос-Ответ здесь .

Ключевые особенности API BertQuestionAnswerer

  • Принимает два текстовых ввода в виде вопроса и контекста и выводит список возможных ответов.

  • Выполняет токенизации Wordpiece или Sentencepiece вне графика для входящего текста.

Поддерживаемые модели BertQuestionAnswerer

Следующие модели совместимы с BertNLClassifier API.

Выполнить вывод в Java

Шаг 1. Импортируйте зависимость Gradle и другие настройки

Скопируйте .tflite файл модели в каталоге ресурсов в Android модуля , в котором будет запущена модель. Указывает , что файл не должен быть сжат, и добавить библиотеку TensorFlow Lite для модуля build.gradle файла:

android {
    // Other settings

    // Specify tflite file should not be compressed for the app apk
    aaptOptions {
        noCompress "tflite"
    }

}

dependencies {
    // Other dependencies

    // Import the Task Text Library dependency (NNAPI is included)
    implementation 'org.tensorflow:tensorflow-lite-task-text:0.3.0'
}

Шаг 2. Выполните вывод с помощью API

// Initialization
BertQuestionAnswererOptions options =
    BertQuestionAnswererOptions.builder()
        .setBaseOptions(BaseOptions.builder().setNumThreads(4).build())
        .build();
BertQuestionAnswerer answerer =
    BertQuestionAnswerer.createFromFileAndOptions(
        androidContext, modelFile, options);

// Run inference
List<QaAnswer> answers = answerer.answer(contextOfTheQuestion, questionToAsk);

Смотрите исходный код для более подробной информации.

Выполнить вывод в Swift

Шаг 1. Импортируйте CocoaPods

Добавьте модуль TensorFlowLiteTaskText в Podfile

target 'MySwiftAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskText', '~> 0.2.0'
end

Шаг 2. Выполните вывод с помощью API

// Initialization
let mobileBertAnswerer = TFLBertQuestionAnswerer.questionAnswerer(
      modelPath: mobileBertModelPath)

// Run inference
let answers = mobileBertAnswerer.answer(
      context: context, question: question)

Смотрите исходный код для более подробной информации.

Выполнить вывод в C ++

// Initialization
BertQuestionAnswererOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_file);
std::unique_ptr<BertQuestionAnswerer> answerer = BertQuestionAnswerer::CreateFromOptions(options).value();

// Run inference
std::vector<QaAnswer> positive_results = answerer->Answer(context_of_question, question_to_ask);

Смотрите исходный код для более подробной информации.

Примеры результатов

Ниже приведен пример результатов ответа на модели АЛЬБЕРТ .

Контекст: «Тропические леса Амазонки или джунгли Амазонки, также известные на английском языке как Амазония, представляют собой влажные широколиственные тропические леса в биоме Амазонки, покрывающие большую часть бассейна Амазонки в Южной Америке. Площадь этого бассейна составляет 7 000 000 км2 (2 700 000 кв. Миль). ), из которых 5 500 000 км2 (2 100 000 квадратных миль) покрыты тропическим лесом. Этот регион включает территорию, принадлежащую девяти странам ".

Вопрос: «Где находится тропический лес Амазонки?»

Ответы:

answer[0]:  'South America.'
logit: 1.84847, start_index: 39, end_index: 40
answer[1]:  'most of the Amazon basin of South America.'
logit: 1.2921, start_index: 34, end_index: 40
answer[2]:  'the Amazon basin of South America.'
logit: -0.0959535, start_index: 36, end_index: 40
answer[3]:  'the Amazon biome that covers most of the Amazon basin of South America.'
logit: -0.498558, start_index: 28, end_index: 40
answer[4]:  'Amazon basin of South America.'
logit: -0.774266, start_index: 37, end_index: 40

Попробуйте простой CLI демонстрационного инструмента для BertQuestionAnswerer с вашими собственными моделью и тестовыми данными.

Требования к совместимости моделей

BertQuestionAnswerer API ожидает , что модель TFLite с обязательным TFLite модели метаданных .

Метаданные должны соответствовать следующим требованиям:

  • input_process_units для Wordpiece / Sentencepiece Tokenizer

  • 3 входных тензора с именами «id», «mask» и «segment_ids» для вывода токенизатора

  • 2 выходных тензора с именами "end_logits" и "start_logits", чтобы указать относительное положение ответа в контексте