Halaman ini diterjemahkan oleh Cloud Translation API.

Integrasikan pengklasifikasi audio

Klasifikasi audio adalah kasus penggunaan umum Machine Learning untuk mengklasifikasikan jenis suara. Misalnya, dapat mengidentifikasi spesies burung melalui kicauannya.

API AudioClassifier Pustaka Tugas dapat digunakan untuk menyebarkan pengklasifikasi audio khusus atau yang telah dilatih sebelumnya ke dalam aplikasi seluler Anda.

Fitur utama API AudioClassifier

Pemrosesan audio input, misalnya mengubah pengkodean PCM 16 bit menjadi pengkodean PCM Float dan manipulasi buffer cincin audio.
Labeli lokasi peta.
Mendukung model klasifikasi Multi-kepala.
Mendukung klasifikasi label tunggal dan multi-label.
Ambang batas skor untuk memfilter hasil.
Hasil klasifikasi top-k.
Labeli daftar yang diizinkan dan daftar yang ditolak.

Model pengklasifikasi audio yang didukung

Model berikut dijamin kompatibel dengan AudioClassifier API.

Model yang dibuat oleh TensorFlow Lite Model Maker untuk Klasifikasi Audio .
Model klasifikasi peristiwa audio yang telah dilatih sebelumnya di TensorFlow Hub .
Model khusus yang memenuhi persyaratan kompatibilitas model .

Jalankan inferensi di Java

Lihat aplikasi referensi Klasifikasi Audio untuk contoh penggunaan AudioClassifier di aplikasi Android.

Langkah 1: Impor ketergantungan Gradle dan pengaturan lainnya

Salin file model .tflite ke direktori aset modul Android tempat model akan dijalankan. Tentukan bahwa file tersebut tidak boleh dikompresi, dan tambahkan pustaka TensorFlow Lite ke file build.gradle modul:

android {
    // Other settings

    // Specify that the tflite file should not be compressed when building the APK package.
    aaptOptions {
        noCompress "tflite"
    }
}

dependencies {
    // Other dependencies

    // Import the Audio Task Library dependency (NNAPI is included)
    implementation 'org.tensorflow:tensorflow-lite-task-audio:0.4.4'
    // Import the GPU delegate plugin Library for GPU inference
    implementation 'org.tensorflow:tensorflow-lite-gpu-delegate-plugin:0.4.4'
}

Langkah 2: Menggunakan model

// Initialization
AudioClassifierOptions options =
    AudioClassifierOptions.builder()
        .setBaseOptions(BaseOptions.builder().useGpu().build())
        .setMaxResults(1)
        .build();
AudioClassifier classifier =
    AudioClassifier.createFromFileAndOptions(context, modelFile, options);

// Start recording
AudioRecord record = classifier.createAudioRecord();
record.startRecording();

// Load latest audio samples
TensorAudio audioTensor = classifier.createInputTensorAudio();
audioTensor.load(record);

// Run inference
List<Classifications> results = audioClassifier.classify(audioTensor);

Lihat kode sumber dan javadoc untuk opsi lebih lanjut untuk mengonfigurasi AudioClassifier .

Jalankan inferensi di iOS

Langkah 1: Instal dependensi

Perpustakaan Tugas mendukung instalasi menggunakan CocoaPods. Pastikan CocoaPods terinstal di sistem Anda. Silakan lihat panduan instalasi CocoaPods untuk petunjuknya.

Silakan lihat panduan CocoaPods untuk detail tentang menambahkan pod ke proyek Xcode.

Tambahkan pod TensorFlowLiteTaskAudio di Podfile.

target 'MyAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskAudio'
end

Pastikan model .tflite yang akan Anda gunakan untuk inferensi ada di app bundle Anda.

Langkah 2: Menggunakan model

Cepat

// Imports
import TensorFlowLiteTaskAudio
import AVFoundation

// Initialization
guard let modelPath = Bundle.main.path(forResource: "sound_classification",
                                            ofType: "tflite") else { return }

let options = AudioClassifierOptions(modelPath: modelPath)

// Configure any additional options:
// options.classificationOptions.maxResults = 3

let classifier = try AudioClassifier.classifier(options: options)

// Create Audio Tensor to hold the input audio samples which are to be classified.
// Created Audio Tensor has audio format matching the requirements of the audio classifier.
// For more details, please see:
// https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_tensor/sources/TFLAudioTensor.h
let audioTensor = classifier.createInputAudioTensor()

// Create Audio Record to record the incoming audio samples from the on-device microphone.
// Created Audio Record has audio format matching the requirements of the audio classifier.
// For more details, please see:
https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_record/sources/TFLAudioRecord.h
let audioRecord = try classifier.createAudioRecord()

// Request record permissions from AVAudioSession before invoking audioRecord.startRecording().
AVAudioSession.sharedInstance().requestRecordPermission { granted in
    if granted {
        DispatchQueue.main.async {
            // Start recording the incoming audio samples from the on-device microphone.
            try audioRecord.startRecording()

            // Load the samples currently held by the audio record buffer into the audio tensor.
            try audioTensor.load(audioRecord: audioRecord)

            // Run inference
            let classificationResult = try classifier.classify(audioTensor: audioTensor)
        }
    }
}

Tujuan C

// Imports
#import <TensorFlowLiteTaskAudio/TensorFlowLiteTaskAudio.h>
#import <AVFoundation/AVFoundation.h>

// Initialization
NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"sound_classification" ofType:@"tflite"];

TFLAudioClassifierOptions *options =
    [[TFLAudioClassifierOptions alloc] initWithModelPath:modelPath];

// Configure any additional options:
// options.classificationOptions.maxResults = 3;

TFLAudioClassifier *classifier = [TFLAudioClassifier audioClassifierWithOptions:options
                                                                          error:nil];

// Create Audio Tensor to hold the input audio samples which are to be classified.
// Created Audio Tensor has audio format matching the requirements of the audio classifier.
// For more details, please see:
// https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_tensor/sources/TFLAudioTensor.h
TFLAudioTensor *audioTensor = [classifier createInputAudioTensor];

// Create Audio Record to record the incoming audio samples from the on-device microphone.
// Created Audio Record has audio format matching the requirements of the audio classifier.
// For more details, please see:
https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_record/sources/TFLAudioRecord.h
TFLAudioRecord *audioRecord = [classifier createAudioRecordWithError:nil];

// Request record permissions from AVAudioSession before invoking -[TFLAudioRecord startRecordingWithError:].
[[AVAudioSession sharedInstance] requestRecordPermission:^(BOOL granted) {
    if (granted) {
        dispatch_async(dispatch_get_main_queue(), ^{
            // Start recording the incoming audio samples from the on-device microphone.
            [audioRecord startRecordingWithError:nil];

            // Load the samples currently held by the audio record buffer into the audio tensor.
            [audioTensor loadAudioRecord:audioRecord withError:nil];

            // Run inference
            TFLClassificationResult *classificationResult =
                [classifier classifyWithAudioTensor:audioTensor error:nil];

        });
    }
}];

Lihat kode sumber untuk opsi lebih lanjut untuk mengonfigurasi TFLAudioClassifier .

Jalankan inferensi dengan Python

Langkah 1: Instal paket pip

pip install tflite-support

Linux: Jalankan sudo apt-get update && apt-get install libportaudio2
Mac dan Windows: PortAudio diinstal secara otomatis saat menginstal paket pip tflite-support .

Langkah 2: Menggunakan model

# Imports
from tflite_support.task import audio
from tflite_support.task import core
from tflite_support.task import processor

# Initialization
base_options = core.BaseOptions(file_name=model_path)
classification_options = processor.ClassificationOptions(max_results=2)
options = audio.AudioClassifierOptions(base_options=base_options, classification_options=classification_options)
classifier = audio.AudioClassifier.create_from_options(options)

# Alternatively, you can create an audio classifier in the following manner:
# classifier = audio.AudioClassifier.create_from_file(model_path)

# Run inference
audio_file = audio.TensorAudio.create_from_wav_file(audio_path, classifier.required_input_buffer_size)
audio_result = classifier.classify(audio_file)

Lihat kode sumber untuk opsi lebih lanjut untuk mengonfigurasi AudioClassifier .

Jalankan inferensi di C++

// Initialization
AudioClassifierOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_path);
std::unique_ptr<AudioClassifier> audio_classifier = AudioClassifier::CreateFromOptions(options).value();

// Create input audio buffer from your `audio_data` and `audio_format`.
// See more information here: tensorflow_lite_support/cc/task/audio/core/audio_buffer.h
int input_size = audio_classifier->GetRequiredInputBufferSize();
const std::unique_ptr<AudioBuffer> audio_buffer =
    AudioBuffer::Create(audio_data, input_size, audio_format).value();

// Run inference
const ClassificationResult result = audio_classifier->Classify(*audio_buffer).value();

Lihat kode sumber untuk opsi lebih lanjut untuk mengonfigurasi AudioClassifier .

Persyaratan kompatibilitas model

AudioClassifier API mengharapkan model TFLite dengan Metadata Model TFLite wajib. Lihat contoh pembuatan metadata untuk pengklasifikasi audio menggunakan TensorFlow Lite Metadata Writer API .

Model pengklasifikasi audio yang kompatibel harus memenuhi persyaratan berikut:

Tensor audio masukan (kTfLiteFloat32)
- klip audio berukuran [batch x samples] .
- inferensi batch tidak didukung ( batch harus 1).
- untuk model multisaluran, saluran perlu disisipkan.
Tensor skor keluaran (kTfLiteFloat32)
- Array [1 x N] dengan N mewakili nomor kelas.
- peta label opsional (tetapi disarankan) sebagai AssociatedFile-s dengan tipe TENSOR_AXIS_LABELS, berisi satu label per baris. AssociatedFile pertama (jika ada) digunakan untuk mengisi kolom label (dinamai class_name dalam C++) dari hasil. Bidang display_name diisi dari AssociatedFile (jika ada) yang lokalnya cocok dengan bidang display_names_locale dari AudioClassifierOptions yang digunakan pada waktu pembuatan ("en" secara default, yaitu bahasa Inggris). Jika tidak ada yang tersedia, hanya bidang index hasil yang akan diisi.