Diese Seite wurde von der Cloud Translation API übersetzt.
Switch to English

Dialekt & # 39; tfl & # 39; Definition

Der TensorFlow Lite-Dialekt.

Dieser Dialekt ist TensorFlow Lite-Operationen zugeordnet.

Invarianten:

  • Alle Werte sind vom Typ Tensor (insbesondere werden Skalare mit nulldimensionalen Tensoren dargestellt);

Operationsdefinition

tfl.abs (TFL :: AbsOp)

Absolutwertoperator

Beschreibung:

Bei einem gegebenen Tensor x gibt diese Operation einen Tensor zurück, der den absoluten Wert jedes Elements in x . Wenn beispielsweise x ein Eingabeelement und y ein Ausgabeelement ist, berechnet diese Operation \ (y = | x | \).

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.add_n (TFL :: AddNOp)

Operator add_n

Beschreibung:

Fügt alle Eingangstensoren elementweise hinzu.

Operanden:

  1. inputs : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. sum : Tensor beliebiger Typwerte

tfl.add (TFL :: AddOp)

Additionsoperator

Beschreibung:

Elementweise Additionsoperation.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Attribut MLIR-Typ Beschreibung
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.arg_max (TFL :: ArgMaxOp)

ArgMax-Operator

Beschreibung:

Gibt den Index mit dem größten Wert über die Dimensionen eines Tensors zurück.

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. dim : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
output_type Attribute abgeleitetes Attribut Attribut

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.arg_min (TFL :: ArgMinOp)

ArgMin-Operator

Beschreibung:

Gibt den Index mit dem kleinsten Wert über die Dimensionen eines Tensors zurück. "A = [1, 10, 26,9, 2,8, 166,32, 62,3] b = tf.math.argmin (Eingabe = a) c = tf.keras.backend.eval (b)

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. dim : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
output_type Attribute abgeleitetes Attribut Attribut

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.average_pool_2d (TFL :: AveragePool2DOp)

Average_pool_2d Operator

Beschreibung:

Führt eine durchschnittliche Pooling-Operation für die Eingabe durch.

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
filter_height IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
filter_width IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
padding StringAttr Padding-Enum-Attribut
stride_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
stride_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.basic_lstm (TFL :: BasicLSTMOp)

Der grundlegende lstm-Operator

Beschreibung:

grundlegender LSTM-Zellenoperator.

Operanden:

  1. data_input : Tensor beliebiger data_input
  2. prev_activ_input : Tensor beliebiger prev_activ_input
  3. weights_input : Tensor beliebiger weights_input
  4. biases_input : Tensor beliebiger biases_input
  5. prev_state_input : Tensor beliebiger prev_state_input

Attribute:

Attribut MLIR-Typ Beschreibung
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung
cell_clip FloatAttr 32-Bit-Attribut float
proj_clip FloatAttr 32-Bit-Attribut float
kernel_type StringAttr lstm Kernel Typ enum case BASIC Attribut

Ergebnisse:

  1. activ_output : 2D-Tensor beliebiger activ_output
  2. state_output : 2D-Tensor beliebiger state_output
  3. concat_temp : 2D-Tensor beliebiger concat_temp
  4. activ_temp : 2D-Tensor beliebiger activ_temp

tfl.batch_to_space_nd (TFL :: BatchToSpaceNdOp)

BatchToSpaceNd-Operator

Beschreibung:

Diese Operation formt die "Stapel" -Dimension 0 in Raumdimensionen um.

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. block_shape : Tensor beliebiger block_shape
  3. indices : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.cast (TFL :: CastOp)

Darsteller

Beschreibung:

Wandelt Eingaben vom Eingabetyp in den Ausgabetyp um.

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.ceil (TFL :: CeilOp)

Deckenbediener

Beschreibung:

Gibt den elementweisen Ceil-Wert der Eingabe zurück.

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.concatenation (TFL :: ConcatenationOp)

Verkettungsoperator

Beschreibung:

Verkettet Tensoren entlang einer Dimension

Operanden:

  1. values : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
axis IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.pseudo_const (TFL :: ConstOp)

Konstante Pseudo-Op.

Beschreibung:

Stellt einen konstanten Wert im TensorFlow Lite-Dialekt dar. Dies ist keine tatsächliche Operation und wird stattdessen auf Puffer gesenkt.

Die Operation darf alle die gleichen Attributtypen haben wie tf.Const (z. B. sind undurchsichtige TF-Attribute zulässig).

Operanden:

Attribute:

Attribut MLIR-Typ Beschreibung
value ElementsAttr konstantes Vektor / Tensor-Attributattribut

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.conv_2d (TFL :: Conv2DOp)

Faltungsoperator

Beschreibung:

Führt eine Faltungsoperation an den Eingängen durch.

Eingänge: inputs[0] : erforderlich: Eingangsaktivierungstensoreingänge inputs[1] : erforderlich: Filtergewichtstensoreingänge inputs[2] : optional: Vorspannungstensor

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. filter : Tensor beliebiger Typwerte
  3. bias : Tensor eines beliebigen Typs oder kein Typ

Attribute:

Attribut MLIR-Typ Beschreibung
dilation_h_factor IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
dilation_w_factor IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung
padding StringAttr Padding-Enum-Attribut
stride_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
stride_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.convolution_2d_transpose_bias (TFL :: Convolution2DTransposeBiasOp)

Transponieren Sie die Faltung mit dem Bias-Operator

Beschreibung:

Führt eine Transponierungsfaltungsoperation an Eingängen mit der Option durch, eine Vorspannung hinzuzufügen. Beachten Sie, dass dies eine benutzerdefinierte Operation ist, die in der Standardlaufzeit nicht unterstützt wird.

 Inputs:
  `inputs[0]`: required: the input activation tensor
  `inputs[1]`: required: the filter weight tensor
  `inputs[2]`: optional: the bias tensor
 

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. filter : Tensor beliebiger Typwerte
  3. bias : Tensor eines beliebigen Typs oder kein Typ

Attribute:

Attribut MLIR-Typ Beschreibung
padding StringAttr Padding-Enum-Attribut
stride_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
stride_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.cos (TFL :: CosOp)

Kosinusoperator

Beschreibung:

Berechnet den elementweisen Cosinus der Eingabe

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.densify (TFL :: DensifyOp)

Operator verdichten

Beschreibung:

Konvertiert spärlichen Tensor in dichtes Format.

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.depth_to_space (TFL :: DepthToSpaceOp)

DepthToSpace-Operator

Beschreibung:

Ordnet Daten aus der Tiefe in räumliche Datenblöcke um. Dies ist die umgekehrte Transformation von SpaceToDepth. Insbesondere gibt diese Operation eine Kopie des Eingabetensors aus, bei der Werte aus der depth in räumlichen Blöcken in die height und width verschoben werden. Das attr block_size gibt die Größe des Eingabeblocks an und wie die Daten verschoben werden.

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
block_size IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.depthwise_conv_2d (TFL :: DepthwiseConv2DOp)

Tief trennbarer Faltungsoperator

Beschreibung:

Führt eine Faltungsoperation an den Eingängen durch.

Eingänge: inputs[0] : erforderlich: Eingangsaktivierungstensoreingänge inputs[1] : erforderlich: Filtergewichtstensoreingänge inputs[2] : optional: Vorspannungstensor

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. filter : Tensor beliebiger Typwerte
  3. bias : Tensor eines beliebigen Typs oder kein Typ

Attribute:

Attribut MLIR-Typ Beschreibung
dilation_h_factor IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
dilation_w_factor IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung
padding StringAttr Padding-Enum-Attribut
stride_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
stride_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
depth_multiplier IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.dequantize (TFL :: DequantizeOp)

Operator dequantisieren

Beschreibung:

Konvertiert ein quantisiertes Array von Ganzzahlen gemäß den Quantisierungsparametern in Gleitkommawerte.

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.div (TFL :: DivOp)

Abteilungsbetreiber

Beschreibung:

Elementweise Teilungsoperation.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Attribut MLIR-Typ Beschreibung
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.elu (TFL :: EluOp)

Operator für exponentielle Lineareinheiten

Beschreibung:

Berechnet die exponentielle lineare f (x) -> exp (x) - 1 für x <0, x für x> = 0. elementweise.

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.embedding_lookup (TFL :: EmbeddingLookupOp)

Suchoperator einbetten

Beschreibung:

Sucht nach IDs in einer Liste eingebetteter Tensoren.

Operanden:

  1. lookup : Tensor beliebiger Typwerte
  2. value : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.equal (TFL :: EqualOp)

Gleicher Operator

Beschreibung:

Gibt das Wahrheitselement von x == y elementweise zurück

Operanden:

  1. x : Tensor beliebiger Typwerte
  2. y : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.exp (TFL :: ExpOp)

Natürlicher Potenzierungsoperator

Beschreibung:

Führt eine elementweise natürliche Potenzierungsoperation für die Eingabe durch.

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.expand_dims (TFL :: ExpandDimsOp)

Fügt eine Dimension von 1 in die Form eines Tensors ein.

Beschreibung:

Bei einem Tensor input , fügt dieser Vorgang eine Dimension von 1 in der Dimension Index axis des input ‚s Form. Die Dimension axis beginnt bei Null ist ; Wenn Sie eine negative Zahl für die axis angeben, axis diese vom Ende rückwärts gezählt.

Diese Operation ist nützlich, wenn Sie einem einzelnen Element eine Stapeldimension hinzufügen möchten. Wenn Sie beispielsweise ein einzelnes Bild mit Form [height, width, channels] , können Sie es mit expand_dims(image, 0) einem Stapel von 1 Bild machen, wodurch die Form [1, height, width, channels] .

Andere Beispiele:

 # 't' is a tensor of shape [2]
shape(expand_dims(t, 0)) ==> [1, 2]
shape(expand_dims(t, 1)) ==> [2, 1]
shape(expand_dims(t, -1)) ==> [2, 1]

# 't2' is a tensor of shape [2, 3, 5]
shape(expand_dims(t2, 0)) ==> [1, 2, 3, 5]
shape(expand_dims(t2, 2)) ==> [2, 3, 1, 5]
shape(expand_dims(t2, 3)) ==> [2, 3, 5, 1]
 

Diese Operation erfordert Folgendes:

-1-input.dims() <= dim <= input.dims()

Diese Operation bezieht sich auf squeeze() , wodurch Abmessungen der Größe 1 entfernt werden.

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. dim : Tensor eines beliebigen Integer-Typs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.external_const (TFL :: ExternalConstOp)

Externe Konstante op.

Beschreibung:

Externe const op enthält einen buffer_index der auf eine Konstante im Flatbuffer zeigt.

Operanden:

Attribute:

Attribut MLIR-Typ Beschreibung
buffer_index IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.fake_quant (TFL :: FakeQuantOp)

FakeQuant-Operator

Beschreibung:

Fake-quantisieren Sie den 'Inputs'-Tensor vom Typ float über Float-Skalare min und max zu' Outputs'-Tensor mit der gleichen Form wie Inputs.

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
min FloatAttr 32-Bit-Attribut float
max FloatAttr 32-Bit-Attribut float
num_bits IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
narrow_range BoolAttr bool Attribut Attribut

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.fill (TFL :: FillOp)

Füllen Sie den Tensor mit dem angegebenen Wert.

Beschreibung:

Füllen Sie den Tensor mit dem angegebenen Wert.

Operanden:

  1. dims : Tensor beliebiger dims
  2. value : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. res : Tensor beliebiger Typwerte

tfl.floor_div (TFL :: FloorDivOp)

Floor Div Operator

Beschreibung:

Elementweise Bodendivision.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.floor_mod (TFL :: FloorModOp)

Abteilungserinnerung

Beschreibung:

Elementweise Teilungserinnerungsoperation.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.floor (TFL :: FloorOp)

Bodenbetreiber

Beschreibung:

Gibt den elementweisen Grundwert der Eingabe zurück.

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.fully_connected (TFL :: FullyConnectedOp)

Vollständig verbunden op

Beschreibung:

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. filter : Tensor beliebiger Typwerte
  3. bias : Tensor eines beliebigen Typs oder kein Typ

Attribute:

Attribut MLIR-Typ Beschreibung
fused_activation_function StringAttr Attribut für fusionierte Aktivierungsaufzählung
weights_format StringAttr Vollständig verbundene Optionen gewichten das Formatattribut
keep_num_dims BoolAttr bool Attribut Attribut

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.gather_nd (TFL :: GatherNdOp)

Gather_nd-Operator

Beschreibung:

Sammeln Sie Scheiben von params in einem Tensor mit einer durch indices angegebenen Form.

Operanden:

  1. params : Tensor beliebiger params
  2. indices : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.gather (TFL :: GatherOp)

Operator sammeln

Beschreibung:

Sammelt Scheiben von params Achse axis entsprechend indices .

Operanden:

  1. params : Tensor beliebiger params
  2. indices : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
axis IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.greater_equal (TFL :: GreaterEqualOp)

Größerer_Gleicher Operator

Beschreibung:

Elementweise größere_gleiche Operation.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.greater (TFL :: GreaterOp)

Größerer Betreiber

Beschreibung:

Elementweise größere Operation.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.hard_swish (TFL :: HardSwishOp)

Hardswish-Aktivierungsfunktion.

Beschreibung:

Berechnet die Hard-Swish-Aktivierungsfunktion f (x) -> (x * relu6 (x + 3)) / 6 elementweise.

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. out : Tensor beliebiger Typwerte

tfl.l2_normalization (TFL :: L2NormalizationOp)

L2 Operator normalisieren

Beschreibung:

L2Normalisierung Op

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.lstm (TFL :: LSTMOp)

Der volle lstm-Operator

Beschreibung:

Wiederkehrende Netzwerkschicht der Long Short Term Memory Unit (LSTM). Die Standardimplementierung ohne Guckloch basiert auf: http://deeplearning.cs.cmu.edu/pdfs/Hochreiter97_lstm.pdf S. Hochreiter und J. Schmidhuber. "Langes Kurzzeitgedächtnis". Neural Computation, 9 (8): 1735-1780, 1997. Die Gucklochimplementierung basiert auf: https://research.google.com/pubs/archive/43905.pdf Hasim Sak, Andrew Senior und Francoise Beaufays. "Wiederkehrende neuronale Netzwerkarchitekturen mit langem Kurzzeitgedächtnis für die akustische Modellierung in großem Maßstab. INTERSPEECH, 2014. Die Kopplung von Eingabe- und Vergessensgatter (CIFG) basiert auf: http://arxiv.org/pdf/1503.04069.pdf Greff et al "LSTM: Eine Odyssee im Suchraum" Die Ebenennormalisierung basiert auf: https://arxiv.org/pdf/1607.06450.pdf Ba et al. "Ebenennormalisierung"

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. input_to_input_weights : Tensor mit beliebigen oder keinem Typ
  3. input_to_forget_weights : Tensor beliebiger input_to_forget_weights
  4. input_to_cell_weights : Tensor beliebiger input_to_cell_weights
  5. input_to_output_weights : Tensor beliebiger input_to_output_weights
  6. recurrent_to_input_weights : Tensor eines beliebigen Typs oder eines Typs
  7. recurrent_to_forget_weights : Tensor beliebiger Typwerte
  8. recurrent_to_cell_weights : Tensor beliebiger Typwerte
  9. recurrent_to_output_weights : Tensor beliebiger Typwerte
  10. cell_to_input_weights : Tensor mit beliebigen oder keinem Typ
  11. cell_to_forget_weights : Tensor mit beliebigen oder keinem Typ
  12. cell_to_output_weights : Tensor mit beliebigen oder keinem Typ
  13. input_gate_bias : Tensor mit beliebigen oder keinem Typ
  14. forget_gate_bias : Tensor beliebiger forget_gate_bias
  15. cell_bias : Tensor beliebiger cell_bias
  16. output_gate_bias : Tensor beliebiger output_gate_bias
  17. projection_weights : Tensor mit beliebigen oder keinem Typ
  18. projection_bias : Tensor mit beliebigen oder keinem Typ
  19. input_activation_state : Stateful Tensor
  20. input_cell_state : Stateful Tensor
  21. input_layer_norm_coefficients : Tensor mit beliebigen oder keinem Typ
  22. forget_layer_norm_coefficients : Tensor mit beliebigen oder keinem Typ
  23. cell_layer_norm_coefficients : Tensor mit beliebigen oder keinem Typ
  24. output_layer_norm_coefficients : Tensor mit beliebigen oder keinem Typ

Attribute:

Attribut MLIR-Typ Beschreibung
fused_activation_function StringAttr Attribut für fusionierte Aktivierungsaufzählung
cell_clip FloatAttr 32-Bit-Attribut float
proj_clip FloatAttr 32-Bit-Attribut float
kernel_type StringAttr lstm Kerneltyp enum case FULL Attribut

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.leaky_relu (TFL :: LeakyReluOp)

Undichter Relu-Operator

Beschreibung:

Elementweiser undichter ReLU-Operator x -> x> = 0? x: (alpha * x)

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
alpha FloatAttr 32-Bit-Attribut float

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.less_equal (TFL :: LessEqualOp)

Operator Less_equal

Beschreibung:

Elementweise less_equal-Operation.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.less (TFL :: LessOp)

Weniger Bediener

Beschreibung:

Elementweise weniger Betrieb.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.local_response_normalization (TFL :: LocalResponseNormalizationOp)

Normalisierung der lokalen Antwort.

Beschreibung:

Der 4-D- input wird als 3-D-Array von 1-D-Vektoren (entlang der letzten Dimension) behandelt, und jeder Vektor wird unabhängig normalisiert. Innerhalb eines gegebenen Vektors wird jede Komponente durch die gewichtete, quadratische Summe der Eingaben innerhalb von depth_radius . Im Detail,

 sqr_sum[a, b, c, d] =
    sum(input[a, b, c, d - depth_radius : d + depth_radius + 1] ** 2)
output = input / (bias + alpha * sqr_sum) ** beta
 

Für Details siehe Krizhevsky et al., ImageNet-Klassifikation mit tiefen Faltungs-Neuronalen Netzen (NIPS 2012) .

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
radius IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
bias FloatAttr 32-Bit-Attribut float
alpha FloatAttr 32-Bit-Attribut float
beta FloatAttr 32-Bit-Attribut float

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.log (TFL :: LogOp)

Natürlicher Logarithmusoperator

Beschreibung:

Führt bei der Eingabe eine elementweise natürliche Logarithmusoperation durch.

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.log_softmax (TFL :: LogSoftmaxOp)

Protokollieren Sie den Softmax-Operator

Beschreibung:

Berechnet elementweise Protokoll-Softmax-Aktivierungen mit der folgenden Formel

input - log (redu_sum (exp (input), dim))

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.logical_and (TFL :: LogicalAndOp)

Logischer UND-Operator

Beschreibung:

Elementweise logische UND-Verknüpfung.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.logical_not (TFL :: LogicalNotOp)

Logischer NICHT-Operator

Beschreibung:

Elementweise logische NICHT-Operation.

Operanden:

  1. lhs : Tensor beliebiger lhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.logical_or (TFL :: LogicalOrOp)

Logischer ODER-Operator

Beschreibung:

Elementweise logische ODER-Verknüpfung.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.logistic (TFL :: LogisticOp)

Logistiker

Beschreibung:

Berechnet das elementweise Sigmoid der Eingabe

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.matrix_diag (TFL :: MatrixDiagOp)

 Returns a tensor with the provided diagonal and everything else padded with zeros.
 

Beschreibung:

Gibt bei gegebener Diagonale einen Tensor mit der Diagonale und alles andere mit Nullen aufgefüllt zurück. Angenommen, die Diagonale hat k Dimensionen [I, J, K, ..., N] , dann ist die Ausgabe ein Tensor vom Rang k+1 mit den Dimensionen [I, J, K, ..., N, N] wobei: output[i, j, k, ..., m, n] = 1{m=n} * diagonal[i, j, k, ..., n].

Operanden:

  1. diagonal : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.matrix_set_diag (TFL :: MatrixSetDiagOp)

 Returns a batched matrix tensor with new batched diagonal values.
 

Beschreibung:

Bei gegebener input und diagonal gibt diese Operation einen Tensor mit derselben Form und denselben Werten wie die input , mit Ausnahme der Hauptdiagonale der innersten Matrizen. Diese werden durch die diagonal Werte überschrieben.

Operanden:

  1. input : Tensor mit 32-Bit-Float- oder 32-Bit-Integer- oder 64-Bit-Integer- oder 8-Bit-Integer- oder QI8-Typ- oder QI16-Typ- oder QUI8-Typ- oder TFLite-Uint8-Typ- oder TFLite-Quint8-Typ-Werten
  2. diagonal : Tensor von 32-Bit-Float- oder 32-Bit-Integer- oder 64-Bit-Integer- oder 8-Bit-Integer- oder QI8-Typ- oder QI16-Typ- oder QUI8-Typ- oder TFLite-Uint8-Typ- oder TFLite-Quint8-Typ-Werten

Attribute:

Ergebnisse:

  1. output : Tensor mit 32-Bit-Float- oder 32-Bit-Integer- oder 64-Bit-Integer- oder 8-Bit-Integer- oder QI8-Typ- oder QI16-Typ- oder QUI8-Typ- oder TFLite-Uint8-Typ- oder TFLite-Quint8-Typ-Werten

tfl.max_pool_2d (TFL :: MaxPool2DOp)

Max Pool 2D op

Beschreibung:

Führt bei Eingabe einen maximalen 2D-Pool aus.

Eingänge: inputs[0] : erforderlich: der Eingangstensor

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
padding StringAttr Padding-Enum-Attribut
stride_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
stride_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
filter_width IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
filter_height IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.max_pooling_with_argmax_2d (TFL :: MaxPoolingWithArgMax2DOp)

Max Pool 2D mit Argmax op

Beschreibung:

Führt ein maximales Pooling für die Eingabe durch und gibt sowohl maximale Werte als auch Indizes aus. Jeder Index ist ein Abflachungsindex in einem Unterarray mit der Größe "filter_w" x "filter_h". Beachten Sie, dass dies eine benutzerdefinierte Operation ist, die in der Standardlaufzeit nicht unterstützt wird.

Eingänge: inputs[0] : erforderlich: der Eingangsaktivierungstensor

Operanden:

  1. input : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
padding StringAttr Padding-Enum-Attribut
stride_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
stride_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
filter_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
filter_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. value : Tensor beliebiger Typwerte
  2. indices : Tensor beliebiger Typwerte

tfl.max_unpooling_2d (TFL :: MaxUnpooling2DOp)

Max Unpool 2D

Beschreibung:

Führt den maximalen Unpool-Betrieb aus. In gewissem Maße ist dies die umgekehrte Operation des Max-Pooling: Die Elemente im Eingangsaktivierungstensor werden an der durch die Eingangsindizes angegebenen Position gespeichert. Beachten Sie, dass dies eine benutzerdefinierte Operation ist, die in der Standardlaufzeit nicht unterstützt wird.

Eingänge: inputs[0] : erforderlich: die Eingangsaktivierungstensoreingänge inputs[1] : erforderlich: die Eingangsindizes

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. indices : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
padding StringAttr Padding-Enum-Attribut
stride_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
stride_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
filter_w IntegerAttr 32-Bit-Attributattribut für Ganzzahlen
filter_h IntegerAttr 32-Bit-Attributattribut für Ganzzahlen

Ergebnisse:

  1. outputs : Tensor beliebiger Typwerte

tfl.maximum (TFL :: MaximumOp)

Max Operator

Beschreibung:

Elementweiser Maximalbetrieb.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. max : Tensor beliebiger Typwerte

tfl.mean (TFL :: MeanOp)

Mittlerer Operator

Beschreibung:

Berechnet den Mittelwert von Elementen über die Dimensionen eines Tensors. Reduziert input_tensor entlang der in der Achse angegebenen Abmessungen. Sofern keepdims nicht wahr ist, wird der Rang des Tensors für jeden Eintrag in der Achse um 1 verringert. Wenn keepdims wahr ist, bleiben die reduzierten Abmessungen mit der Länge 1 erhalten.

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. axis : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
keep_dims BoolAttr bool Attribut Attribut

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.minimum (TFL :: MinimumOp)

Min Operator

Beschreibung:

Elementweise min. Betrieb.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Ergebnisse:

  1. min : Tensor beliebiger Typwerte

tfl.mirror_pad (TFL :: MirrorPadOp)

MirrorPad-Operator. Füllt einen Tensor mit gespiegelten Werten auf.

Beschreibung:

Diese Operation füllt eine Eingabe mit gespiegelten Werten gemäß den von Ihnen angegebenen Auffüllungen auf. padding ist ein ganzzahliger Tensor mit der Form [n, 2], wobei n der Rang der Eingabe ist. Für jede Dimension D der Eingabe geben Auffüllungen [D, 0] an, wie viele Werte vor dem Inhalt der Eingabe in dieser Dimension hinzugefügt werden sollen, und Auffüllungen [D, 1] geben an, wie viele Werte nach dem Inhalt der Eingabe in dieser Dimension hinzugefügt werden sollen.

Sowohl die Auffüllungen [D, 0] als auch die Auffüllungen [D, 1] dürfen nicht größer als input.dim_size (D) (oder input.dim_size (D) - 1) sein, wenn copy_border true ist (falls false).

Die gepolsterte Größe jeder Dimension D der Ausgabe beträgt:

Auffüllungen (D, 0) + input.dim_size (D) + Auffüllungen (D, 1)

Operanden:

  1. input : Tensor beliebiger Typwerte
  2. pad : Tensor beliebiger Typwerte

Attribute:

Attribut MLIR-Typ Beschreibung
mode StringAttr Mirum-Attribut "Mirror Pad"

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.mul (TFL :: MulOp)

Multiplikationsoperator

Beschreibung:

Elementweise Multiplikationsoperation.

Operanden:

  1. lhs : Tensor beliebiger lhs
  2. rhs : Tensor beliebiger rhs

Attribute:

Attribut MLIR-Typ Beschreibung
fused_activation_function StringAttr Attribut für verschmolzene Aktivierungsaufzählung

Ergebnisse:

  1. output : Tensor beliebiger Typwerte

tfl.neg (TFL :: NegOp)

Negationsoperator

Beschreibung:

Berechnet die elementweise Negation der Eingabe

Operanden:

  1. x : Tensor beliebiger Typwerte

Attribute:

Ergebnisse:

  1. y : Tensor beliebiger Typwerte

tfl.non_max_suppression_v4 (TFL :: NonMaxSuppressionV4Op)

Wählt gierig eine Teilmenge der Begrenzungsrahmen in absteigender Reihenfolge der Punktzahl aus.

Beschreibung:

Das Wegschneiden von Feldern mit hoher Überschneidung (IOU) überschneidet sich mit zuvor ausgewählten Feldern. Begrenzungsrahmen mit einer Punktzahl von weniger als score_threshold werden entfernt. Begrenzungsrahmen werden als [y1, x1, y2, x2] geliefert, wobei (y1, x1) und (y2, x2) die Koordinaten eines beliebigen diagonalen Paares von Rahmenecken sind und die Koordinaten als normalisiert angegeben werden können (dh in liegen) das Intervall [0, 1]) oder absolut. Es ist zu beachten, dass dieser Algorithmus unabhängig davon ist, wo sich der Ursprung im Koordinatensystem befindet, und im Allgemeinen für orthogonale Transformationen und Übersetzungen des Koordinatensystems unveränderlich ist. Das Verschieben oder Reflektieren des Koordinatensystems führt dazu, dass vom Algorithmus dieselben Kästchen ausgewählt werden. Die Ausgabe dieser Operation ist eine Reihe von Ganzzahlen, die in die Eingabesammlung von Begrenzungsrahmen indiziert werden, die die ausgewählten Felder darstellen. Die Begrenzungsrahmenkoordinaten, die den ausgewählten Indizes entsprechen, können dann unter Verwendung der tf.gather operation . Zum Beispiel: selected_indices = tf.image.non_max_suppression_v2 (Felder, Scores, max_output_size, iou_threshold, score_threshold) selected_boxes = tf.gather (Felder, selected_indices)

Operanden:

  1. boxes : Tensor beliebiger Typwerte
  2. scores : Tensor beliebiger Typwerte
  3. max_output_size : Tensor beliebiger max_output_size
  4. iou_threshold : Tensor beliebiger iou_threshold
  5. score_threshold : Tensor beliebiger score_threshold

Attribute:

Ergebnisse:

  1. selected_indices : Tensor beliebiger Typwerte
  2. valid_outputs : Tensor beliebiger valid_outputs

tfl.non_max_suppression_v5 (TFL :: NonMaxSuppressionV5Op)

Wählt gierig eine Teilmenge der Begrenzungsrahmen in absteigender Reihenfolge der Punktzahl aus.

Beschreibung:

Das Wegschneiden von Feldern mit hoher Überschneidung (IOU) überschneidet sich mit zuvor ausgewählten Feldern. Begrenzungsrahmen mit einer Punktzahl von weniger als score_threshold werden entfernt. Begrenzungsrahmen werden als [y1, x1, y2, x2] geliefert, wobei (y1, x1) und (y2, x2) die Koordinaten eines beliebigen diagonalen Paares von Rahmenecken sind und die Koordinaten als normalisiert angegeben werden können (dh in liegen) das Intervall [0, 1]) oder absolut. Es ist zu beachten, dass dieser Algorithmus unabhängig davon ist, wo sich der Ursprung im Koordinatensystem befindet, und im Allgemeinen für orthogonale Transformationen und Übersetzungen des Koordinatensystems unveränderlich ist. Das Verschieben oder Reflektieren des Koordinatensystems führt dazu, dass vom Algorithmus dieselben Kästchen ausgewählt werden. Die Ausgabe dieser Operation ist eine Reihe von Ganzzahlen, die in die Eingabesammlung von Begrenzungsrahmen indiziert werden, die die ausgewählten Felder darstellen. Die Begrenzungsrahmenkoordinaten, die den ausgewählten Indizes entsprechen, können dann unter Verwendung der tf.gather operation . For example: selected_indices = tf.image.non_max_suppression_v2( boxes, scores, max_output_size, iou_threshold, score_threshold) selected_boxes = tf.gather(boxes, selected_indices) This op also supports a Soft-NMS (with Gaussian weighting) mode (cf Bodla et al, https://arxiv.org/abs/1704.04503) where boxes reduce the score of other overlapping boxes instead of directly causing them to be pruned. To enable this Soft-NMS mode, set the soft_nms_sigma parameter to be larger than 0.

Operands:

  1. boxes : tensor of any type values
  2. scores : tensor of any type values
  3. max_output_size : tensor of any type values
  4. iou_threshold : tensor of any type values
  5. score_threshold : tensor of any type values
  6. soft_nms_sigma : tensor of any type values

Attributes:

Results:

  1. selected_indices : tensor of any type values
  2. selected_scores : tensor of any type values
  3. valid_outputs : tensor of any type values

tfl.not_equal (TFL::NotEqualOp)

Not_equal operator

Description:

Element-wise not_equal operation.

Operands:

  1. lhs : tensor of any type values
  2. rhs : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.NumericVerify (TFL::NumericVerifyOp)

Verifies the numericals of the two operands

Description:

The NumericVerify op is a debugging op to verify the numericals of the two activations. It is a custom op in TFLite.

Operands:

  1. input : tensor of any type values
  2. ref : tensor of any type values

Attributes:

Attribute MLIR Type Description
tolerance FloatAttr 32-bit float attribute attribute

Results:

tfl.one_hot (TFL::OneHotOp)

OneHot operator

Description:

Returns a one-hot tensor.The locations represented by indices in indices take value on_value , while all other locations take value off_value .

If the input indices is rank N , the output will have rank N+1 , The new axis is created at dimension axis (default: the new axis is appended at the end).

Operands:

  1. indices : tensor of any type values
  2. depth : tensor of any type values
  3. on_value : tensor of any type values
  4. off_value : tensor of any type values

Attributes:

Attribute MLIR Type Description
axis IntegerAttr 32-bit integer attribute attribute

Results:

  1. output : tensor of any type values

tfl.prelu (TFL::PReluOp)

Parameterized Relu operator

Description:

Parameterized Relu operator x -> x >= 0 ? x : (alpha * x) where alpha is a trainable tensor. alpha should have one less rank than the input as it doesn't have the batch dimension, and the other dimensions either should be the same size as input or size 1, where it is broadcasted in the second case.

Operands:

  1. input : tensor of any type values
  2. alpha : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.pack (TFL::PackOp)

Packs a list of tensors along a dimension into one tensor

Description:

Packs a list of values_count rank- R tensors into one rank- (R+1) tensor.

Packs the values_count tensors in values into a tensor with rank one higher than each tensor in values , by packing them along the axis dimension.

Given a list of tensors of shape (A, B, C) ;

if axis == 0 then the output tensor will have the shape (N, A, B, C) . if axis == 1 then the output tensor will have the shape (A, N, B, C) . Etc.

For example:

 # 'x' is [1, 4]
# 'y' is [2, 5]
# 'z' is [3, 6]
pack([x, y, z]) => [[1, 4], [2, 5], [3, 6]]  # Pack along first dim.
pack([x, y, z], axis=1) => [[1, 2, 3], [4, 5, 6]]
 

This is the opposite of unpack .

Operands:

  1. values : tensor of any type values

Attributes:

Attribute MLIR Type Description
values_count IntegerAttr 32-bit integer attribute attribute
axis IntegerAttr 32-bit integer attribute attribute

Results:

  1. output : tensor of any type values

tfl.pad (TFL::PadOp)

Padding operator

Description:

This operation pads a input with zeros according to the paddings you specify. paddings is an integer tensor with shape [Dn, 2] , where n is the rank of input . For each dimension D of input , paddings[D, 0] indicates how many zeros to add before the contents of input in that dimension, and paddings[D, 1] indicates how many zeros to add after the contents of input in that dimension.

The padded size of each dimension D of the output is:

paddings(D, 0) + input.dim_size(D) + paddings(D, 1)

For example:

 # 't' is [[1, 1], [2, 2]]
# 'paddings' is [[1, 1], [2, 2]]
# rank of 't' is 2
pad(t, paddings) ==> [[0, 0, 0, 0, 0, 0]
                      [0, 0, 1, 1, 0, 0]
                      [0, 0, 2, 2, 0, 0]
                      [0, 0, 0, 0, 0, 0]]
 

Operands:

  1. input : tensor of any type values
  2. padding : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.padv2 (TFL::PadV2Op)

Padding operator v2

Description:

This operation pads a input according to the paddings and constant_values you specify. paddings is an integer tensor with shape [Dn, 2] , where n is the rank of input . For each dimension D of input , paddings[D, 0] indicates how many zeros to add before the contents of input in that dimension, and paddings[D, 1] indicates how many zeros to add after the contents of input in that dimension. constant_values is a scalar tensor of the same type as input that indicates the value to use for padding input .

The padded size of each dimension D of the output is:

paddings(D, 0) + input.dim_size(D) + paddings(D, 1)

For example:

 # 't' is [[1, 1], [2, 2]]
# 'paddings' is [[1, 1], [2, 2]]
# rank of 't' is 2
pad(t, paddings) ==> [[0, 0, 0, 0, 0, 0]
                      [0, 0, 1, 1, 0, 0]
                      [0, 0, 2, 2, 0, 0]
                      [0, 0, 0, 0, 0, 0]]
 

Operands:

  1. input : tensor of any type values
  2. padding : tensor of any type values
  3. constant_values : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.pow (TFL::PowOp)

Power operator

Description:

Element-wise power operation.

Operands:

  1. lhs : tensor of any type values
  2. rhs : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.pseudo_qconst (TFL::QConstOp)

Quantized constant pseudo op

Description:

Represents a quantized constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead. The quantization parameters are stored as a type attribute in this constant.

Operands:

Attributes:

Attribute MLIR Type Description
qtype TypeAttr Tensor type attribute attribute
value ElementsAttr constant vector/tensor attribute attribute

Results:

  1. output : tensor of any type values

tfl.quantize (TFL::QuantizeOp)

Quantize operator

Description:

Converts floating point tensors to quantized integer tensors according to the quantization parameters defined in the type attribute.

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
qtype TypeAttr Tensor type attribute attribute

Results:

  1. output : tensor of any type values

tfl.range (TFL::RangeOp)

Range operator

Description:

Returns a 1D tensor defined by a sequence from start to limit with a given delta .

Operands:

  1. start : tensor of any type values
  2. limit : tensor of any type values
  3. delta : tensor of any type values

Attributes:

Results:

  1. result : tensor of any type values

tfl.rank (TFL::RankOp)

Rank operator.

Description:

Returns the rank of a tensor.

Operands:

  1. input : tensor of any type values

Attributes:

Results:

  1. output : tensor of any integer type

tfl.reduce_any (TFL::ReduceAnyOp)

Computes the "logical or" of elements across dimensions of a tensor.

Description:

Reduces input along the dimensions given in axis . Unless keep_dims is true, the rank of the tensor is reduced by 1 for each entry in axis . If keep_dims is true, the reduced dimensions are retained with length 1.

Operands:

  1. input : tensor of any type values
  2. reduction_indices : tensor of any type values

Attributes:

Attribute MLIR Type Description
keep_dims BoolAttr bool attribute attribute

Results:

  1. output : tensor of any type values

tfl.reduce_max (TFL::ReduceMaxOp)

Max-reduction operator

Description:

Computes the max reduction along the specified axes

Operands:

  1. input : tensor of any type values
  2. axes : tensor of any type values

Attributes:

Attribute MLIR Type Description
keep_dims BoolAttr bool attribute attribute

Results:

  1. «unnamed»: tensor of any type values

tfl.reduce_min (TFL::ReduceMinOp)

Min-reduction operator

Description:

Computes the min reduction along the specified axes

Operands:

  1. input : tensor of any type values
  2. axes : tensor of any type values

Attributes:

Attribute MLIR Type Description
keep_dims BoolAttr bool attribute attribute

Results:

  1. «unnamed»: tensor of any type values

tfl.reduce_prod (TFL::ReduceProdOp)

Prod-reduction operator

Description:

Computes the product along the specified axes

Operands:

  1. input : tensor of any type values
  2. axes : tensor of any type values

Attributes:

Attribute MLIR Type Description
keep_dims BoolAttr bool attribute attribute

Results:

  1. «unnamed»: tensor of any type values

tfl.relu_n1_to_1 (TFL::Relu1Op)

Relu1 operator

Description:

Element-wise Relu1 operator x -> max(-1, min(1, x))

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.relu6 (TFL::Relu6Op)

Relu6 operator

Description:

Element-wise Relu6 operator x -> max(0, min(6, x))

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.relu (TFL::ReluOp)

Relu operator

Description:

Element-wise Relu operator x -> max(0, x)

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.reshape (TFL::ReshapeOp)

Reshape operator

Description:

Produces a tensor with the same values but different static shape defined by the output type.

Operands:

  1. input : tensor of any type values
  2. shape : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.resize_bilinear (TFL::ResizeBilinearOp)

ResizeBilinear Op

Description:

Resize images to size using bilinear interpolation.

Operands:

  1. input : tensor of any type values
  2. size : tensor of any type values

Attributes:

Attribute MLIR Type Description
align_corners BoolAttr bool attribute attribute
half_pixel_centers BoolAttr bool attribute attribute

Results:

  1. output : tensor of any type values

tfl.resize_nearest_neighbor (TFL::ResizeNearestNeighborOp)

ResizeNearestNeighbor Op

Description:

Resize images to size using nearest neighbor interpolation.

Operands:

  1. input : tensor of any type values
  2. size : tensor of any type values

Attributes:

Attribute MLIR Type Description
align_corners BoolAttr bool attribute attribute

Results:

  1. output : tensor of any type values

tfl.reverse_sequence (TFL::ReverseSequenceOp)

Reverses variable length slices.

Description:

This op first slices input along the dimension batch_dim , and for each slice i , reverses the first seq_lengths[i] elements along the dimension seq_dim .

The elements of seq_lengths must obey seq_lengths[i] <= input.dims[seq_dim] , and seq_lengths must be a vector of length input.dims[batch_dim] .

The output slice i along dimension batch_dim is then given by input slice i , with the first seq_lengths[i] slices along dimension seq_dim reversed.

Operands:

  1. input : tensor of any type values
  2. seq_lengths : tensor of any type values

Attributes:

Attribute MLIR Type Description
seq_dim IntegerAttr 32-bit integer attribute attribute
batch_dim IntegerAttr 32-bit integer attribute attribute

Results:

  1. output : tensor of any type values

tfl.reverse_v2 (TFL::ReverseV2Op)

ReverseV2 Operator

Description:

Reverses specific dimensions of a tensor.

Given a tensor, and a int32/int64 tensor axis representing the set of dimensions of tensor to reverse. This operation reverses each dimension i for which there exists j st axis[j] == i.

Args: tensor: A Tensor. Must be one of the following types: uint8, int16, int32, int64, float32, bool Up to 8-D.

axis: A Tensor. Must be one of the following types: int32, int64. with only 1 element which is the axis index. TODO: Add support for multiple elements.

Operands:

  1. input : tensor of any type values
  2. axis : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.round (TFL::RoundOp)

Round operator

Description:

Rounds the values of a tensor to the nearest integer, element-wise.

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.rsqrt (TFL::RsqrtOp)

Reciprocal of square root operator

Description:

Computes element-wise reverse square root of input

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.svdf (TFL::SVDFOp)

Single value decomposition filter operator

Description:

The SVDF op is a decomposition of a densely connected op into low rank filters. For details: https://research.google.com/pubs/pub43813.html https://arxiv.org/abs/1812.02802

Operands:

  1. input : tensor of any type values
  2. feature_weights : tensor of any type values
  3. time_weights : tensor of any type values
  4. input_gate_bias : tensor of any type values or none type
  5. activation_state : stateful tensor

Attributes:

Attribute MLIR Type Description
rank IntegerAttr 32-bit integer attribute attribute
fused_activation_function StringAttr fused activation enum attribute

Results:

  1. output : tensor of any type values

tfl.segment_sum (TFL::SegmentSumOp)

SegmentSum operator

Description:

Computes the sum along segments of a tensor.

Operands:

  1. data : tensor of any type values
  2. segment_ids : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.select (TFL::SelectOp)

Select operator

Description:

Select values of 'x' if the corresponding value of 'condition' is true or the value of 'y' if false. There are valid condition input sizes:

  1. Either the same shape (in which case the select is elementwise), or
  2. condition must be Rank 1 and match over the first dimension.

Operands:

  1. condition : tensor of any type values
  2. x : tensor of any type values
  3. y : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.select_v2 (TFL::SelectV2Op)

SelectV2 operator

Description:

Select values of 'x' if the corresponding value of 'condition' is true or the value of 'y' if false. There are valid condition input sizes:

  1. Either the same shape (in which case the select is elementwise), or
  2. Broadcastable shapes between 'condition', 'x' and 'y'.

Operands:

  1. condition : tensor of any type values
  2. x : tensor of any type values
  3. y : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.shape (TFL::ShapeOp)

Shape operator

Description:

Returns the shape of a tensor.

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
out_type Attribute derived attribute attribute

Results:

  1. output : tensor of any type values

tfl.sin (TFL::SinOp)

Sine operator

Description:

Computes element-wise Sine of input

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.slice (TFL::SliceOp)

Return a slice from 'input'.

Description:

The output tensor is a tensor with dimensions described by 'size' whose values are extracted from 'input' starting at the offsets in 'begin'.

begin is zero-based; size is one-based. If size[i] is -1, all remaining elements in dimension i are included in the slice. In other words, this is equivalent to setting: size[i] = input.dim_size(i) - begin[i]

Requirements : 0 <= begin[i] <= begin[i] + size[i] <= Di for i in [0, n)

Operands:

  1. input : tensor of any type values
  2. begin : tensor of any type values
  3. size : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.softmax (TFL::SoftmaxOp)

Softmax operator

Description:

Computes element-wise softmax activations with the following formula

exp(input) / tf.reduce_sum(exp(input * beta), dim)

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
beta FloatAttr 32-bit float attribute attribute

Results:

  1. output : tensor of any type values

tfl.space_to_batch_nd (TFL::SpaceToBatchNdOp)

SpaceToBatchNd operator

Description:

This operation reshapes space dimensions into the "batch" dimension 0

Operands:

  1. input : tensor of any type values
  2. block_shape : tensor of any type values
  3. paddings : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.space_to_depth (TFL::SpaceToDepthOp)

SpaceToDepth operator

Description:

Rearranges blocks of spatial data, into depth. More specifically, this op outputs a copy of the input tensor where values from the height and width dimensions are moved to the depth dimension. block_size indicates the input block size.

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
block_size IntegerAttr 32-bit integer attribute attribute

Results:

  1. output : tensor of any type values

tfl.pseudo_sparse_const (TFL::SparseConstOp)

Sparse constant pseudo op.

Description:

Represents a sparse constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead.

Operands:

Attributes:

Attribute MLIR Type Description
value ElementsAttr constant vector/tensor attribute attribute
s_param TFL::SparsityParameterAttr Sparsity parameter. attribute

Results:

  1. output : tensor of any type values

tfl.pseudo_sparse_qconst (TFL::SparseQConstOp)

Sparse quantized constant pseudo op

Description:

Represents a sparse quantized constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead. The quantization parameters are stored as a type attribute in this constant.

Operands:

Attributes:

Attribute MLIR Type Description
qtype TypeAttr Tensor type attribute attribute
value ElementsAttr constant vector/tensor attribute attribute
s_param TFL::SparsityParameterAttr Sparsity parameter. attribute

Results:

  1. output : tensor of any type values

tfl.sparse_to_dense (TFL::SparseToDenseOp)

Converts a sparse representation into a dense tensor.

Description:

Builds an array dense with shape output_shape such that

 # If sparse_indices is scalar
dense[i] = (i == sparse_indices ? sparse_values : default_value)

# If sparse_indices is a vector, then for each i
dense[sparse_indices[i]] = sparse_values[i]

# If sparse_indices is an n by d matrix, then for each i in [0, n)
dense[sparse_indices[i][0], ..., sparse_indices[i][d-1]] = sparse_values[i]
 

All other values in dense are set to default_value . If sparse_values is a scalar, all sparse indices are set to this single value.

Indices should be sorted in lexicographic order, and indices must not contain any repeats. If validate_indices is true, these properties are checked during execution.

Operands:

  1. sparse_indices : tensor of any type values
  2. output_shape : tensor of any type values
  3. sparse_values : tensor of any type values
  4. default_value : tensor of any type values

Attributes:

Results:

  1. dense : tensor of any type values

tfl.split (TFL::SplitOp)

Splits a tensor into num_split tensors along one dimension.

Description:

Splits the value tensor along split_dim into a number of sub-tensors with same shape as the original one, except for split_dim . Same as tf.Split.

Operands:

  1. split_dim : tensor of any type values
  2. value : tensor of any type values

Attributes:

Attribute MLIR Type Description
num_splits IntegerAttr positive 32-bit integer attribute attribute

Results:

  1. outputs : tensor of any type values

tfl.split_v (TFL::SplitVOp)

Splits a tensor into num_split tensors along one dimension.

Description:

Splits the value tensor along split_dim into a number of sub-tensors with same shape as the original one, except for split_dim . The grouping of the resultant sub-tensors is decided by size-splits . Same as tf.SplitV.

Operands:

  1. value : tensor of any type values
  2. size_splits : 1D tensor of 32-bit integer values
  3. split_dim : 0D tensor of 32-bit integer values

Attributes:

Attribute MLIR Type Description
num_splits IntegerAttr positive 32-bit integer attribute attribute

Results:

  1. outputs : tensor of any type values

tfl.sqrt (TFL::SqrtOp)

Square root operator

Description:

Computes element-wise Square root of input

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.square (TFL::SquareOp)

Square operator

Description:

Computes element-wise Square of input

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.squared_difference (TFL::SquaredDifferenceOp)

Squared difference operator

Description:

Element-wise squared difference operation.

Operands:

  1. lhs : tensor of any type values
  2. rhs : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.squeeze (TFL::SqueezeOp)

Removes dimensions of size 1 from the shape of a tensor.

Description:

Given a tensor input , this operation returns a tensor of the same type with all dimensions of size 1 removed. If you don't want to remove all size 1 dimensions, you can remove specific size 1 dimensions by specifying axis .

For example:

 # 't' is a tensor of shape [1, 2, 1, 3, 1, 1]
shape(squeeze(t)) ==> [2, 3]
 

Or, to remove specific size 1 dimensions:

 # 't' is a tensor of shape [1, 2, 1, 3, 1, 1]
shape(squeeze(t, [2, 4])) ==> [1, 2, 3, 1]
 

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
squeeze_dims ArrayAttr 64-bit integer array attribute attribute

Results:

  1. output : tensor of any type values

tfl.strided_slice (TFL::StridedSliceOp)

StridedSlice Op

Description:

Return a strided slice from input .

Operands:

  1. input : tensor of any type values
  2. begin : tensor of any type values
  3. end : tensor of any type values
  4. strides : tensor of any type values

Attributes:

Attribute MLIR Type Description
begin_mask IntegerAttr 32-bit integer attribute attribute
end_mask IntegerAttr 32-bit integer attribute attribute
ellipsis_mask IntegerAttr 32-bit integer attribute attribute
new_axis_mask IntegerAttr 32-bit integer attribute attribute
shrink_axis_mask IntegerAttr 32-bit integer attribute attribute

Results:

  1. output : tensor of any type values

tfl.sub (TFL::SubOp)

Subtraction operator

Description:

Element-wise subtraction operation.

Operands:

  1. lhs : tensor of any type values
  2. rhs : tensor of any type values

Attributes:

Attribute MLIR Type Description
fused_activation_function StringAttr fused activation enum attribute

Results:

  1. output : tensor of any type values

tfl.sum (TFL::SumOp)

Sum operator

Description:

Computes the sum reduction along the specified axes

Operands:

  1. input : tensor of any type values
  2. axes : tensor of any type values

Attributes:

Attribute MLIR Type Description
keep_dims BoolAttr bool attribute attribute

Results:

  1. «unnamed»: tensor of any type values

tfl.tanh (TFL::TanhOp)

Hyperbolic tangent operator

Description:

Computes element-wise Hyperbolic tangent of input

Operands:

  1. x : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.tile (TFL::TileOp)

Tile operator.

Description:

Constructs a tensor by tiling a given tensor.

This operation creates a new tensor by replicating input multiples times. The output tensor's i'th dimension has input.dims(i) * multiples[i] elements, and the values of input are replicated multiples[i] times along the 'i'th dimension. For example, tiling [abcd] by [2] produces [abcdabcd].

Operands:

  1. input : tensor of any type values
  2. multiples : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values

tfl.topk_v2 (TFL::TopKV2Op)

TopK operator

Description:

Returns the top k largest element along each last dimensional slice of input and the indices of values within the last dimension of the input tensor.

Operands:

  1. input : tensor of any type values
  2. k : tensor of any type values

Attributes:

Results:

  1. values : tensor of any type values
  2. indices : tensor of any type values

tfl.transpose_conv (TFL::TransposeConvOp)

Transpose convolution operator

Description:

Performs transpose convolution operation on input.

Operands:

  1. output_shape : 1D tensor of any type values
  2. weights : tensor of any type values
  3. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
padding StringAttr padding enum attribute
stride_h IntegerAttr 32-bit integer attribute attribute
stride_w IntegerAttr 32-bit integer attribute attribute

Results:

  1. output : tensor of any type values

tfl.transpose (TFL::TransposeOp)

Transpose operator

Description:

Returns the Transpose of x

Operands:

  1. x : tensor of any type values
  2. perm : tensor of any type values

Attributes:

Results:

  1. y : tensor of any type values

tfl.unidirectional_sequence_lstm (TFL::UnidirectionalSequenceLSTMOp)

Unidirectional sequence lstm operator

Description:

A recurrent neural network specified by an LSTM cell. This Op supports unrolling the input along the time or batch dimensions, and implements the following operation for each element in the sequence s = 1...sequence_length: outputs[s] = state = activation(LSTMOp(inputs[s]))

where LSTMOp is LSTM TF Lite Op and the “activation” is the function passed as the “fused_activation_function” argument (if not “NONE”).

Operands:

  1. input : tensor of any type values
  2. input_to_input_weights : tensor of any type values or none type
  3. input_to_forget_weights : tensor of any type values
  4. input_to_cell_weights : tensor of any type values
  5. input_to_output_weights : tensor of any type values
  6. recurrent_to_input_weights : tensor of any type values or none type
  7. recurrent_to_forget_weights : tensor of any type values
  8. recurrent_to_cell_weights : tensor of any type values
  9. recurrent_to_output_weights : tensor of any type values
  10. cell_to_input_weights : tensor of any type values or none type
  11. cell_to_forget_weights : tensor of any type values or none type
  12. cell_to_output_weights : tensor of any type values or none type
  13. input_gate_bias : tensor of any type values or none type
  14. forget_gate_bias : tensor of any type values
  15. cell_bias : tensor of any type values
  16. output_gate_bias : tensor of any type values
  17. projection_weights : tensor of any type values or none type
  18. projection_bias : tensor of any type values or none type
  19. input_activation_state : stateful tensor
  20. input_cell_state : stateful tensor
  21. input_layer_norm_coefficients : tensor of any type values or none type
  22. forget_layer_norm_coefficients : tensor of any type values or none type
  23. cell_layer_norm_coefficients : tensor of any type values or none type
  24. output_layer_norm_coefficients : tensor of any type values or none type

Attributes:

Attribute MLIR Type Description
fused_activation_function StringAttr fused activation enum attribute
cell_clip FloatAttr 32-bit float attribute attribute
proj_clip FloatAttr 32-bit float attribute attribute
time_major BoolAttr bool attribute attribute

Results:

  1. output : tensor of any type values

tfl.unidirectional_sequence_rnn (TFL::UnidirectionalSequenceRNNOp)

Unidirectional sequence rnn operator

Description:

A recurrent neural network specified by an RNN cell. This Op takes in input in a format {batch_size, seq_len, input_size} or {seq_len, batch_size, input_size} if it's time-majored.

It implements the following operation for each element in the sequence s = 1...sequence_length: outputs[s] = state = activation(RNNOp(inputs[s]))

where RNNOp is RNNOp TF Lite Op and the “activation” is the function passed as the “fused_activation_function” argument (if not “NONE”).

Operands:

  1. input : tensor of any type values
  2. input_to_input_weights : tensor of any type values
  3. recurrent_to_input_weights : tensor of any type values
  4. input_gate_bias : tensor of any type values
  5. hidden_state : stateful tensor

Attributes:

Attribute MLIR Type Description
time_major BoolAttr bool attribute attribute
fused_activation_function StringAttr fused activation enum attribute

Results:

  1. output : tensor of any type values

tfl.unique (TFL::UniqueOp)

Unique Op.

Description:

This operation returns a tensor y containing all of the unique elements of x sorted in the same order that they occur in x . This operation also returns a tensor idx the same size as x that contains the index of each value of x in the unique output y . In other words:

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
idx_out_type Attribute derived attribute attribute

Results:

  1. output : tensor of any type values
  2. idx : tensor of any type values

tfl.unpack (TFL::UnpackOp)

Unpacks a tensor along a dimension into multiple tensors

Description:

Unpacks a given dimension of a rank- R tensor into num rank- (R-1) tensors.

Unpacks num tensors from value by chipping it along the axis dimension. For example, given a tensor of shape (A, B, C, D) ;

If axis == 0 then the i'th tensor in output is the slice value[i, :, :, :] and each tensor in output will have shape (B, C, D) . (Note that the dimension unpacked along is gone, unlike split ).

If axis == 1 then the i'th tensor in output is the slice value[:, i, :, :] and each tensor in output will have shape (A, C, D) . Etc.

This is the opposite of pack .

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
num IntegerAttr 32-bit integer attribute attribute
axis IntegerAttr 32-bit integer attribute attribute

Results:

  1. outputs : tensor of any type values

tfl.where (TFL::WhereOp)

Returns locations of nonzero / true values in a tensor.

Description:

This operation returns the coordinates of true elements in condition . The coordinates are returned in a 2-D tensor where the first dimension (rows) represents the number of true elements, and the second dimension (columns) represents the coordinates of the true elements. Keep in mind, the shape of the output tensor can vary depending on how many true values there are in condition . Indices are output in row-major order.

Operands:

  1. input : tensor of any type values

Attributes:

Results:

  1. index : tensor of any type values

tfl.while (TFL::WhileOp)

While loop

Description:

output = input; while (cond(output)) { output = body(output) }

While loop where all values are passes through arguments with implicit capture.

input: A list of input tensors whose types are T. output: A list of output tensors whose types are T. cond: A region takes 'input' and returns a boolean scalar tensor. body: A region that takes a list of tensors and returns another list of tensors. Both lists have the same types.

Operands:

  1. input : tensor of any type values

Attributes:

Attribute MLIR Type Description
is_stateless BoolAttr bool attribute attribute

Results:

  1. output : tensor of any type values

tfl.yield (TFL::YieldOp)

Yield operation

Description:

The "yield" operation represents a return operation within the conditional and body of structured control flow (eg, while). The operation takes variable number of operands and produces no results. The operand number and types must match the signature of the region that contains the operation.

Operands:

  1. operands : any type

Attributes:

Results:

tfl.zeros_like (TFL::ZerosLikeOp)

ZerosLike operator

Description:

Returns a tensor of zeros with the same shape and type as the input tensor.

Operands:

  1. input : tensor of any type values

Attributes:

Results:

  1. output : tensor of any type values