O Google I / O retorna de 18 a 20 de maio! Reserve espaço e monte sua agenda Cadastre-se agora

Passo a passo de treinamento de modelo

Ver no TensorFlow.org Executar no Google Colab Ver fonte no GitHub

Este guia apresenta o Swift para TensorFlow criando um modelo de aprendizado de máquina que categoriza flores de íris por espécie. Ele usa Swift para TensorFlow para:

  1. Construir um modelo,
  2. Treine este modelo em dados de exemplo e
  3. Use o modelo para fazer previsões sobre dados desconhecidos.

Programação TensorFlow

Este guia usa estes conceitos Swift for TensorFlow de alto nível:

  • Importe dados com a API Epochs.
  • Construa modelos usando abstrações Swift.
  • Use bibliotecas Python usando a interoperabilidade Python do Swift quando bibliotecas Swift puras não estiverem disponíveis.

Este tutorial é estruturado como muitos programas TensorFlow:

  1. Importe e analise os conjuntos de dados.
  2. Selecione o tipo de modelo.
  3. Treine o modelo.
  4. Avalie a eficácia do modelo.
  5. Use o modelo treinado para fazer previsões.

Programa de configuração

Configurar importações

Importe o TensorFlow e alguns módulos úteis do Python.

import TensorFlow
import PythonKit
// This cell is here to display the plots in a Jupyter Notebook.
// Do not copy it into another environment.
%include "EnableIPythonDisplay.swift"
print(IPythonDisplay.shell.enable_matplotlib("inline"))
('inline', 'module://ipykernel.pylab.backend_inline')

let plt = Python.import("matplotlib.pyplot")
import Foundation
import FoundationNetworking
func download(from sourceString: String, to destinationString: String) {
    let source = URL(string: sourceString)!
    let destination = URL(fileURLWithPath: destinationString)
    let data = try! Data.init(contentsOf: source)
    try! data.write(to: destination)
}

O problema de classificação da íris

Imagine que você seja um botânico em busca de uma maneira automatizada de categorizar cada flor de íris que encontrar. O aprendizado de máquina fornece muitos algoritmos para classificar flores estatisticamente. Por exemplo, um programa sofisticado de aprendizado de máquina poderia classificar flores com base em fotografias. Nossas ambições são mais modestas - vamos classificar as flores da íris com base nas medidas de comprimento e largura de suas sépalas e pétalas .

O gênero Iris envolve cerca de 300 espécies, mas nosso programa classificará apenas as três seguintes:

  • Iris setosa
  • Iris Virginica
  • Iris versicolor
Geometria da pétala comparada para três espécies de íris: Iris setosa, Iris virginica e Iris versicolor
Figura 1. Iris setosa (por Radomil , CC BY-SA 3.0), Iris versicolor , (por Dlanglois , CC BY-SA 3.0) e Iris virginica (por Frank Mayfield , CC BY-SA 2.0).

Felizmente, alguém já criou um conjunto de dados de 120 flores de íris com as medidas de sépala e pétala. Este é um conjunto de dados clássico popular para problemas de classificação de aprendizado de máquina para iniciantes.

Importar e analisar o conjunto de dados de treinamento

Baixe o arquivo do conjunto de dados e converta-o em uma estrutura que possa ser usada por este programa Swift.

Baixe o conjunto de dados

Baixe o arquivo do conjunto de dados de treinamento em http://download.tensorflow.org/data/iris_training.csv

let trainDataFilename = "iris_training.csv"
download(from: "http://download.tensorflow.org/data/iris_training.csv", to: trainDataFilename)

Inspecione os dados

Este conjunto de dados, iris_training.csv , é um arquivo de texto simples que armazena dados tabulares formatados como valores separados por vírgula (CSV). Vejamos as 5 primeiras entradas.

let f = Python.open(trainDataFilename)
for _ in 0..<5 {
    print(Python.next(f).strip())
}
print(f.close())
120,4,setosa,versicolor,virginica
6.4,2.8,5.6,2.2,2
5.0,2.3,3.3,1.0,1
4.9,2.5,4.5,1.7,2
4.9,3.1,1.5,0.1,0
None

Nesta visão do conjunto de dados, observe o seguinte:

  1. A primeira linha é um cabeçalho contendo informações sobre o conjunto de dados:
    • Existem 120 exemplos no total. Cada exemplo tem quatro recursos e um dos três nomes de rótulos possíveis.
  2. As linhas subsequentes são registros de dados, um exemplo por linha, onde:
    • Os primeiros quatro campos são recursos : são as características de um exemplo. Aqui, os campos contêm números flutuantes que representam as medidas das flores.
    • A última coluna é o rótulo : este é o valor que queremos prever. Para este conjunto de dados, é um valor inteiro de 0, 1 ou 2 que corresponde a um nome de flor.

Vamos escrever isso em código:

let featureNames = ["sepal_length", "sepal_width", "petal_length", "petal_width"]
let labelName = "species"
let columnNames = featureNames + [labelName]

print("Features: \(featureNames)")
print("Label: \(labelName)")
Features: ["sepal_length", "sepal_width", "petal_length", "petal_width"]
Label: species

Cada rótulo é associado a um nome de string (por exemplo, "setosa"), mas o aprendizado de máquina geralmente depende de valores numéricos. Os números dos rótulos são mapeados para uma representação nomeada, como:

  • 0 : Iris setosa
  • 1 : Iris versicolor
  • 2 : Iris virginica

Para obter mais informações sobre recursos e rótulos, consulte a seção Terminologia de ML do Curso intensivo de aprendizado de máquina .

let classNames = ["Iris setosa", "Iris versicolor", "Iris virginica"]

Crie um conjunto de dados usando a API Epochs

A Epochs API do Swift for TensorFlow é uma API de alto nível para ler dados e transformá-los em um formulário usado para treinamento.

let batchSize = 32

/// A batch of examples from the iris dataset.
struct IrisBatch {
    /// [batchSize, featureCount] tensor of features.
    let features: Tensor<Float>

    /// [batchSize] tensor of labels.
    let labels: Tensor<Int32>
}

/// Conform `IrisBatch` to `Collatable` so that we can load it into a `TrainingEpoch`.
extension IrisBatch: Collatable {
    public init<BatchSamples: Collection>(collating samples: BatchSamples)
        where BatchSamples.Element == Self {
        /// `IrisBatch`es are collated by stacking their feature and label tensors
        /// along the batch axis to produce a single feature and label tensor
        features = Tensor<Float>(stacking: samples.map{$0.features})
        labels = Tensor<Int32>(stacking: samples.map{$0.labels})
    }
}

Como os conjuntos de dados que baixamos estão no formato CSV, vamos escrever uma função para carregar os dados como uma lista de objetos IrisBatch

/// Initialize an `IrisBatch` dataset from a CSV file.
func loadIrisDatasetFromCSV(
        contentsOf: String, hasHeader: Bool, featureColumns: [Int], labelColumns: [Int]) -> [IrisBatch] {
        let np = Python.import("numpy")

        let featuresNp = np.loadtxt(
            contentsOf,
            delimiter: ",",
            skiprows: hasHeader ? 1 : 0,
            usecols: featureColumns,
            dtype: Float.numpyScalarTypes.first!)
        guard let featuresTensor = Tensor<Float>(numpy: featuresNp) else {
            // This should never happen, because we construct featuresNp in such a
            // way that it should be convertible to tensor.
            fatalError("np.loadtxt result can't be converted to Tensor")
        }

        let labelsNp = np.loadtxt(
            contentsOf,
            delimiter: ",",
            skiprows: hasHeader ? 1 : 0,
            usecols: labelColumns,
            dtype: Int32.numpyScalarTypes.first!)
        guard let labelsTensor = Tensor<Int32>(numpy: labelsNp) else {
            // This should never happen, because we construct labelsNp in such a
            // way that it should be convertible to tensor.
            fatalError("np.loadtxt result can't be converted to Tensor")
        }

        return zip(featuresTensor.unstacked(), labelsTensor.unstacked()).map{IrisBatch(features: $0.0, labels: $0.1)}

    }

Agora podemos usar a função de carregamento de CSV para carregar o conjunto de dados de treinamento e criar um objeto TrainingEpochs

let trainingDataset: [IrisBatch] = loadIrisDatasetFromCSV(contentsOf: trainDataFilename, 
                                                  hasHeader: true, 
                                                  featureColumns: [0, 1, 2, 3], 
                                                  labelColumns: [4])

let trainingEpochs: TrainingEpochs = TrainingEpochs(samples: trainingDataset, batchSize: batchSize)

O objeto TrainingEpochs é uma sequência infinita de épocas. Cada época contém IrisBatch es. Vejamos o primeiro elemento da primeira época.

let firstTrainEpoch = trainingEpochs.next()!
let firstTrainBatch = firstTrainEpoch.first!.collated
let firstTrainFeatures = firstTrainBatch.features
let firstTrainLabels = firstTrainBatch.labels

print("First batch of features: \(firstTrainFeatures)")
print("firstTrainFeatures.shape: \(firstTrainFeatures.shape)")
print("First batch of labels: \(firstTrainLabels)")
print("firstTrainLabels.shape: \(firstTrainLabels.shape)")
First batch of features: [[5.1, 2.5, 3.0, 1.1],
 [6.4, 3.2, 4.5, 1.5],
 [4.9, 3.1, 1.5, 0.1],
 [5.0, 2.0, 3.5, 1.0],
 [6.3, 2.5, 5.0, 1.9],
 [6.7, 3.1, 5.6, 2.4],
 [4.9, 3.1, 1.5, 0.1],
 [7.7, 2.8, 6.7, 2.0],
 [6.7, 3.0, 5.0, 1.7],
 [7.2, 3.6, 6.1, 2.5],
 [4.8, 3.0, 1.4, 0.1],
 [5.2, 3.4, 1.4, 0.2],
 [5.0, 3.5, 1.3, 0.3],
 [4.9, 3.1, 1.5, 0.1],
 [5.0, 3.5, 1.6, 0.6],
 [6.7, 3.3, 5.7, 2.1],
 [7.7, 3.8, 6.7, 2.2],
 [6.2, 3.4, 5.4, 2.3],
 [4.8, 3.4, 1.6, 0.2],
 [6.0, 2.9, 4.5, 1.5],
 [5.0, 3.0, 1.6, 0.2],
 [6.3, 3.4, 5.6, 2.4],
 [5.1, 3.8, 1.9, 0.4],
 [4.8, 3.1, 1.6, 0.2],
 [7.6, 3.0, 6.6, 2.1],
 [5.7, 3.0, 4.2, 1.2],
 [6.3, 3.3, 6.0, 2.5],
 [5.6, 2.5, 3.9, 1.1],
 [5.0, 3.4, 1.6, 0.4],
 [6.1, 3.0, 4.9, 1.8],
 [5.0, 3.3, 1.4, 0.2],
 [6.3, 3.3, 4.7, 1.6]]
firstTrainFeatures.shape: [32, 4]
First batch of labels: [1, 1, 0, 1, 2, 2, 0, 2, 1, 2, 0, 0, 0, 0, 0, 2, 2, 2, 0, 1, 0, 2, 0, 0, 2, 1, 2, 1, 0, 2, 0, 1]
firstTrainLabels.shape: [32]

Observe que os recursos dos primeiros exemplos batchSize são agrupados (ou em lote ) em firstTrainFeatures e que os rótulos dos primeiros exemplos batchSize são agrupados em firstTrainLabels .

Você pode começar a ver alguns clusters traçando alguns recursos do lote, usando o matplotlib do Python:

let firstTrainFeaturesTransposed = firstTrainFeatures.transposed()
let petalLengths = firstTrainFeaturesTransposed[2].scalars
let sepalLengths = firstTrainFeaturesTransposed[0].scalars

plt.scatter(petalLengths, sepalLengths, c: firstTrainLabels.array.scalars)
plt.xlabel("Petal length")
plt.ylabel("Sepal length")
plt.show()

png

Use `print()` to show values.

Selecione o tipo de modelo

Por que modelo?

Um modelo é uma relação entre recursos e rótulo. Para o problema de classificação da íris, o modelo define a relação entre as medidas das sépalas e pétalas e as espécies de íris previstas. Alguns modelos simples podem ser descritos com algumas linhas de álgebra, mas modelos complexos de aprendizado de máquina têm um grande número de parâmetros que são difíceis de resumir.

Você poderia determinar a relação entre os quatro recursos e as espécies de íris sem usar o aprendizado de máquina? Ou seja, você poderia usar técnicas de programação tradicionais (por exemplo, muitas instruções condicionais) para criar um modelo? Talvez - se você analisou o conjunto de dados por tempo suficiente para determinar as relações entre as medições das pétalas e sépalas para uma espécie em particular. E isso se torna difícil - talvez impossível - em conjuntos de dados mais complicados. Uma boa abordagem de aprendizado de máquina determina o modelo para você . Se você inserir exemplos representativos suficientes no tipo certo de modelo de aprendizado de máquina, o programa descobrirá os relacionamentos para você.

Selecione o modelo

Precisamos selecionar o tipo de modelo a treinar. Existem muitos tipos de modelos e escolher um bom exige experiência. Este tutorial usa uma rede neural para resolver o problema de classificação da íris. As redes neurais podem encontrar relações complexas entre recursos e o rótulo. É um gráfico altamente estruturado, organizado em uma ou mais camadas ocultas . Cada camada oculta consiste em um ou mais neurônios . Existem várias categorias de redes neurais e este programa usa uma rede neural densa ou totalmente conectada : os neurônios em uma camada recebem conexões de entrada de todos os neurônios na camada anterior. Por exemplo, a Figura 2 ilustra uma rede neural densa que consiste em uma camada de entrada, duas camadas ocultas e uma camada de saída:

Um diagrama da arquitetura da rede: entradas, 2 camadas ocultas e saídas
Figura 2. Uma rede neural com recursos, camadas ocultas e previsões.

Quando o modelo da Figura 2 é treinado e alimentado com um exemplo não rotulado, ele produz três previsões: a probabilidade de que essa flor seja a espécie de íris fornecida. Essa previsão é chamada de inferência . Para este exemplo, a soma das previsões de saída é 1,0. Na Figura 2, essa previsão se divide em: 0.02 para Iris setosa , 0.95 para Iris versicolor e 0.03 para Iris virginica . Isso significa que o modelo prevê - com 95% de probabilidade - que um exemplo de flor sem rótulo é uma íris versicolor .

Crie um modelo usando o Swift for TensorFlow Deep Learning Library

O Swift for TensorFlow Deep Learning Library define camadas primitivas e convenções para conectá-los, o que facilita a construção de modelos e experimentos.

Um modelo é uma struct conformidade com a Layer , o que significa que define um callAsFunction(_:) que mapeia os Tensor entrada para os Tensor saída. O callAsFunction(_:) geralmente simplesmente sequencia a entrada por meio de subcamadas. Vamos definir um IrisModel que sequencia a entrada por meio de três subcamadas Dense .

import TensorFlow

let hiddenSize: Int = 10
struct IrisModel: Layer {
    var layer1 = Dense<Float>(inputSize: 4, outputSize: hiddenSize, activation: relu)
    var layer2 = Dense<Float>(inputSize: hiddenSize, outputSize: hiddenSize, activation: relu)
    var layer3 = Dense<Float>(inputSize: hiddenSize, outputSize: 3)

    @differentiable
    func callAsFunction(_ input: Tensor<Float>) -> Tensor<Float> {
        return input.sequenced(through: layer1, layer2, layer3)
    }
}

var model = IrisModel()

A função de ativação determina a forma de saída de cada nó na camada. Essas não linearidades são importantes - sem elas, o modelo seria equivalente a uma única camada. Existem muitas ativações disponíveis, mas ReLU é comum para camadas ocultas.

O número ideal de camadas e neurônios ocultos depende do problema e do conjunto de dados. Como muitos aspectos do aprendizado de máquina, escolher a melhor forma da rede neural requer uma mistura de conhecimento e experimentação. Como regra geral, aumentar o número de camadas e neurônios ocultos normalmente cria um modelo mais poderoso, que requer mais dados para um treinamento eficaz.

Usando o modelo

Vamos dar uma olhada rápida no que este modelo faz com um lote de recursos:

// Apply the model to a batch of features.
let firstTrainPredictions = model(firstTrainFeatures)
print(firstTrainPredictions[0..<5])
[[  1.1514063,  -0.7520321,  -0.6730235],
 [  1.4915676,  -0.9158071,  -0.9957161],
 [  1.0549936,  -0.7799266,   -0.410466],
 [  1.1725322, -0.69009197,  -0.8345413],
 [  1.4870572,  -0.8644099,  -1.0958937]]

Aqui, cada exemplo retorna um logit para cada classe.

Para converter esses logits em uma probabilidade para cada classe, use a função softmax :

print(softmax(firstTrainPredictions[0..<5]))
[[  0.7631462,  0.11375094, 0.123102814],
 [  0.8523791, 0.076757915,  0.07086295],
 [  0.7191151,  0.11478964,  0.16609532],
 [ 0.77540654,  0.12039323,  0.10420021],
 [  0.8541314,  0.08133837, 0.064530246]]

Pegar o argmax entre as classes nos dá o índice de classe previsto. Mas, o modelo ainda não foi treinado, então essas não são boas previsões.

print("Prediction: \(firstTrainPredictions.argmax(squeezingAxis: 1))")
print("    Labels: \(firstTrainLabels)")
Prediction: [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
    Labels: [1, 1, 0, 1, 2, 2, 0, 2, 1, 2, 0, 0, 0, 0, 0, 2, 2, 2, 0, 1, 0, 2, 0, 0, 2, 1, 2, 1, 0, 2, 0, 1]

Treine o modelo

O treinamento é o estágio de aprendizado de máquina em que o modelo é gradualmente otimizado ou o modelo aprende o conjunto de dados. O objetivo é aprender o suficiente sobre a estrutura do conjunto de dados de treinamento para fazer previsões sobre dados não vistos. Se você aprender muito sobre o conjunto de dados de treinamento, as previsões só funcionarão para os dados que ele viu e não serão generalizáveis. Esse problema é chamado de overfitting - é como memorizar as respostas em vez de entender como resolver um problema.

O problema de classificação da íris é um exemplo de aprendizado de máquina supervisionado : o modelo é treinado a partir de exemplos que contêm rótulos. No aprendizado de máquina não supervisionado , os exemplos não contêm rótulos. Em vez disso, o modelo normalmente encontra padrões entre os recursos.

Escolha uma função de perda

Os estágios de treinamento e avaliação precisam calcular a perda do modelo. Isso mede o quanto as previsões de um modelo estão fora do rótulo desejado, em outras palavras, o quão ruim o modelo está se saindo. Queremos minimizar ou otimizar esse valor.

Nosso modelo calculará sua perda usando a função softmaxCrossEntropy(logits:labels:) , que pega as previsões de probabilidade da classe do modelo e o rótulo desejado, e retorna a perda média entre os exemplos.

Vamos calcular a perda para o modelo não treinado atual:

let untrainedLogits = model(firstTrainFeatures)
let untrainedLoss = softmaxCrossEntropy(logits: untrainedLogits, labels: firstTrainLabels)
print("Loss test: \(untrainedLoss)")
Loss test: 1.7598655

Crie um otimizador

Um otimizador aplica os gradientes calculados às variáveis ​​do modelo para minimizar a função de loss . Você pode pensar na função de perda como uma superfície curva (consulte a Figura 3) e queremos encontrar seu ponto mais baixo caminhando. Os gradientes apontam na direção da subida mais íngreme - portanto, viajaremos na direção oposta e desceremos a colina. Calculando iterativamente a perda e o gradiente de cada lote, ajustaremos o modelo durante o treinamento. Gradualmente, o modelo encontrará a melhor combinação de pesos e tendências para minimizar a perda. E quanto menor a perda, melhores são as previsões do modelo.

Algoritmos de otimização visualizados ao longo do tempo no espaço 3D.
Figura 3. Algoritmos de otimização visualizados ao longo do tempo no espaço 3D.
(Fonte: Stanford class CS231n , MIT License, Crédito da imagem: Alec Radford )

O Swift for TensorFlow tem muitos algoritmos de otimização disponíveis para treinamento. Este modelo usa o otimizador SGD que implementa o algoritmo dedescida gradiente estocástico (SGD). O learningRate define o tamanho do passo a ser executado para cada iteração morro abaixo. Este é um hiperparâmetro que normalmente você ajustará para obter melhores resultados.

let optimizer = SGD(for: model, learningRate: 0.01)

Vamos usar o optimizer para dar um único passo de descida de gradiente. Primeiro, calculamos o gradiente da perda em relação ao modelo:

let (loss, grads) = valueWithGradient(at: model) { model -> Tensor<Float> in
    let logits = model(firstTrainFeatures)
    return softmaxCrossEntropy(logits: logits, labels: firstTrainLabels)
}
print("Current loss: \(loss)")
Current loss: 1.7598655

Em seguida, passamos o gradiente que acabamos de calcular para o otimizador, que atualiza as variáveis ​​diferenciadas do modelo de acordo:

optimizer.update(&model, along: grads)

Se calcularmos a perda novamente, ela deve ser menor, porque as etapas de descida do gradiente (geralmente) diminuem a perda:

let logitsAfterOneStep = model(firstTrainFeatures)
let lossAfterOneStep = softmaxCrossEntropy(logits: logitsAfterOneStep, labels: firstTrainLabels)
print("Next loss: \(lossAfterOneStep)")
Next loss: 1.5318773

Loop de treinamento

Com todas as peças no lugar, a modelo está pronta para treinar! Um loop de treinamento alimenta os exemplos de conjuntos de dados no modelo para ajudá-lo a fazer melhores previsões. O bloco de código a seguir configura essas etapas de treinamento:

  1. Repita em cada época . Uma época é uma passagem pelo conjunto de dados.
  2. Dentro de uma época, itere em cada lote na época de treinamento
  3. Agrupe o lote e obtenha seus recursos ( x ) e rótulo ( y ).
  4. Usando os recursos do lote agrupado, faça uma previsão e compare-a com o rótulo. Meça a imprecisão da previsão e use-a para calcular a perda e gradientes do modelo.
  5. Use o gradiente descendente para atualizar as variáveis ​​do modelo.
  6. Acompanhe algumas estatísticas para visualização.
  7. Repita para cada época.

A variável epochCount é o número de vezes para fazer um loop na coleção do conjunto de dados. Contra-intuitivamente, treinar um modelo por mais tempo não garante um modelo melhor. epochCount é um hiperparâmetro que você pode ajustar. A escolha do número certo geralmente requer experiência e experimentação.

let epochCount = 500
var trainAccuracyResults: [Float] = []
var trainLossResults: [Float] = []
func accuracy(predictions: Tensor<Int32>, truths: Tensor<Int32>) -> Float {
    return Tensor<Float>(predictions .== truths).mean().scalarized()
}

for (epochIndex, epoch) in trainingEpochs.prefix(epochCount).enumerated() {
    var epochLoss: Float = 0
    var epochAccuracy: Float = 0
    var batchCount: Int = 0
    for batchSamples in epoch {
        let batch = batchSamples.collated
        let (loss, grad) = valueWithGradient(at: model) { (model: IrisModel) -> Tensor<Float> in
            let logits = model(batch.features)
            return softmaxCrossEntropy(logits: logits, labels: batch.labels)
        }
        optimizer.update(&model, along: grad)

        let logits = model(batch.features)
        epochAccuracy += accuracy(predictions: logits.argmax(squeezingAxis: 1), truths: batch.labels)
        epochLoss += loss.scalarized()
        batchCount += 1
    }
    epochAccuracy /= Float(batchCount)
    epochLoss /= Float(batchCount)
    trainAccuracyResults.append(epochAccuracy)
    trainLossResults.append(epochLoss)
    if epochIndex % 50 == 0 {
        print("Epoch \(epochIndex): Loss: \(epochLoss), Accuracy: \(epochAccuracy)")
    }
}
Epoch 0: Loss: 1.475254, Accuracy: 0.34375
Epoch 50: Loss: 0.91668004, Accuracy: 0.6458333
Epoch 100: Loss: 0.68662673, Accuracy: 0.6979167
Epoch 150: Loss: 0.540665, Accuracy: 0.6979167
Epoch 200: Loss: 0.46283028, Accuracy: 0.6979167
Epoch 250: Loss: 0.4134724, Accuracy: 0.8229167
Epoch 300: Loss: 0.35054502, Accuracy: 0.8958333
Epoch 350: Loss: 0.2731444, Accuracy: 0.9375
Epoch 400: Loss: 0.23622067, Accuracy: 0.96875
Epoch 450: Loss: 0.18956228, Accuracy: 0.96875

Visualize a função de perda ao longo do tempo

Embora seja útil imprimir o progresso do treinamento do modelo, geralmente é mais útil ver esse progresso. Podemos criar gráficos básicos usando o módulo matplotlib do Python.

Interpretar esses gráficos requer alguma experiência, mas você realmente quer ver a perda diminuir e a precisão aumentar.

plt.figure(figsize: [12, 8])

let accuracyAxes = plt.subplot(2, 1, 1)
accuracyAxes.set_ylabel("Accuracy")
accuracyAxes.plot(trainAccuracyResults)

let lossAxes = plt.subplot(2, 1, 2)
lossAxes.set_ylabel("Loss")
lossAxes.set_xlabel("Epoch")
lossAxes.plot(trainLossResults)

plt.show()

png

Use `print()` to show values.

Observe que os eixos y dos gráficos não são baseados em zero.

Avalie a eficácia do modelo

Agora que o modelo está treinado, podemos obter algumas estatísticas sobre seu desempenho.

Avaliar significa determinar a eficácia com que o modelo faz previsões. Para determinar a eficácia do modelo na classificação da íris, passe algumas medidas de sépala e pétala para o modelo e peça ao modelo para prever quais espécies de íris elas representam. Em seguida, compare a previsão do modelo com o rótulo real. Por exemplo, um modelo que escolheu a espécie correta em metade dos exemplos de entrada tem uma precisão de 0.5 . A Figura 4 mostra um modelo um pouco mais eficaz, acertando 4 de 5 previsões com precisão de 80%:

Recursos de exemplo Rótulo Predição de modelo
5,9 3,0 4,3 1,5 1 1
6,9 3,1 5,4 2,1 2 2
5,1 3,3 1,7 0,5 0 0
6,0 3,4 4,5 1,6 1 2
5,5 2,5 4,0 1,3 1 1
Figura 4. Um classificador de íris com 80% de precisão.

Configure o conjunto de dados de teste

Avaliar o modelo é semelhante a treiná-lo. A maior diferença é que os exemplos vêm de um conjunto de teste separado , e não do conjunto de treinamento. Para avaliar de forma justa a eficácia de um modelo, os exemplos usados ​​para avaliar um modelo devem ser diferentes dos exemplos usados ​​para treinar o modelo.

A configuração do conjunto de dados de teste é semelhante à configuração do conjunto de dados de treinamento. Baixe o conjunto de teste em http://download.tensorflow.org/data/iris_test.csv :

let testDataFilename = "iris_test.csv"
download(from: "http://download.tensorflow.org/data/iris_test.csv", to: testDataFilename)

Agora carregue-o em uma matriz de IrisBatch es:

let testDataset = loadIrisDatasetFromCSV(
    contentsOf: testDataFilename, hasHeader: true,
    featureColumns: [0, 1, 2, 3], labelColumns: [4]).inBatches(of: batchSize)

Avalie o modelo no conjunto de dados de teste

Ao contrário do estágio de treinamento, o modelo avalia apenas uma única época dos dados de teste. Na célula de código a seguir, iteramos sobre cada exemplo no conjunto de teste e comparamos a previsão do modelo com o rótulo real. Isso é usado para medir a precisão do modelo em todo o conjunto de teste.

// NOTE: Only a single batch will run in the loop since the batchSize we're using is larger than the test set size
for batchSamples in testDataset {
    let batch = batchSamples.collated
    let logits = model(batch.features)
    let predictions = logits.argmax(squeezingAxis: 1)
    print("Test batch accuracy: \(accuracy(predictions: predictions, truths: batch.labels))")
}
Test batch accuracy: 0.96666664

Podemos ver no primeiro lote, por exemplo, o modelo costuma estar correto:

let firstTestBatch = testDataset.first!.collated
let firstTestBatchLogits = model(firstTestBatch.features)
let firstTestBatchPredictions = firstTestBatchLogits.argmax(squeezingAxis: 1)

print(firstTestBatchPredictions)
print(firstTestBatch.labels)
[1, 2, 0, 1, 1, 1, 0, 2, 1, 2, 2, 0, 2, 1, 1, 0, 1, 0, 0, 2, 0, 1, 2, 2, 1, 1, 0, 1, 2, 1]
[1, 2, 0, 1, 1, 1, 0, 2, 1, 2, 2, 0, 2, 1, 1, 0, 1, 0, 0, 2, 0, 1, 2, 1, 1, 1, 0, 1, 2, 1]

Use o modelo treinado para fazer previsões

Treinamos um modelo e demonstramos que ele é bom - mas não perfeito - para classificar as espécies de íris. Agora vamos usar o modelo treinado para fazer algumas previsões sobre exemplos não rotulados ; ou seja, em exemplos que contêm recursos, mas não um rótulo.

Na vida real, os exemplos não rotulados podem vir de muitas fontes diferentes, incluindo aplicativos, arquivos CSV e feeds de dados. Por enquanto, forneceremos manualmente três exemplos sem rótulos para prever seus rótulos. Lembre-se, os números dos rótulos são mapeados para uma representação nomeada como:

  • 0 : Iris setosa
  • 1 : Iris versicolor
  • 2 : Iris virginica
let unlabeledDataset: Tensor<Float> =
    [[5.1, 3.3, 1.7, 0.5],
     [5.9, 3.0, 4.2, 1.5],
     [6.9, 3.1, 5.4, 2.1]]

let unlabeledDatasetPredictions = model(unlabeledDataset)

for i in 0..<unlabeledDatasetPredictions.shape[0] {
    let logits = unlabeledDatasetPredictions[i]
    let classIdx = logits.argmax().scalar!
    print("Example \(i) prediction: \(classNames[Int(classIdx)]) (\(softmax(logits)))")
}
Example 0 prediction: Iris setosa ([   0.98731947,   0.012679046, 1.4035809e-06])
Example 1 prediction: Iris versicolor ([0.005065103,  0.85957265,  0.13536224])
Example 2 prediction: Iris virginica ([2.9613977e-05,     0.2637373,    0.73623306])