Punya pertanyaan? Terhubung dengan komunitas di Forum Kunjungan TensorFlow Forum

Encoder Kalimat Universal

Lihat di TensorFlow.org Jalankan di Google Colab Lihat di GitHub Unduh buku catatan Lihat model TF Hub

Notebook ini mengilustrasikan cara mengakses Universal Sentence Encoder dan menggunakannya untuk kesamaan kalimat dan tugas klasifikasi kalimat.

Universal Sentence Encoder membuat mendapatkan embeddings level kalimat semudah sebelumnya untuk mencari embeddings untuk kata-kata individual. Penyematan kalimat kemudian dapat digunakan dengan mudah untuk menghitung tingkat kalimat yang berarti kesamaan serta untuk memungkinkan kinerja yang lebih baik pada tugas klasifikasi hilir menggunakan data pelatihan yang kurang diawasi.

Mendirikan

Bagian ini mengatur lingkungan untuk akses ke Universal Sentence Encoder di TF Hub dan memberikan contoh penerapan encoder ke kata, kalimat, dan paragraf.

%%capture
!pip3 install seaborn

Informasi lebih rinci tentang penginstalan Tensorflow dapat ditemukan di https://www.tensorflow.org/install/ .

Muat modul Hub TF Encoder Kalimat Universal

module https://tfhub.dev/google/universal-sentence-encoder/4 loaded

Hitung representasi untuk setiap pesan, yang menunjukkan berbagai panjang yang didukung.

Message: Elephant
Embedding size: 512
Embedding: [0.008344488218426704, 0.00048081763088703156, 0.06595246493816376, ...]

Message: I am a sentence for which I would like to get its embedding.
Embedding size: 512
Embedding: [0.0508086122572422, -0.01652432046830654, 0.015737777575850487, ...]

Message: Universal Sentence Encoder embeddings also support short paragraphs. There is no hard limit on how long the paragraph is. Roughly, the longer the more 'diluted' the embedding will be.
Embedding size: 512
Embedding: [-0.0283326655626297, -0.05586216226220131, -0.012941461056470871, ...]

Contoh Tugas Kemiripan Tekstual Semantik

Embeddings yang dihasilkan oleh Universal Sentence Encoder kira-kira dinormalisasi. Kesamaan semantik dari dua kalimat dapat dihitung dengan mudah sebagai produk dalam dari pengkodean.

def plot_similarity(labels, features, rotation):
  corr = np.inner(features, features)
  sns.set(font_scale=1.2)
  g = sns.heatmap(
      corr,
      xticklabels=labels,
      yticklabels=labels,
      vmin=0,
      vmax=1,
      cmap="YlOrRd")
  g.set_xticklabels(labels, rotation=rotation)
  g.set_title("Semantic Textual Similarity")

def run_and_plot(messages_):
  message_embeddings_ = embed(messages_)
  plot_similarity(messages_, message_embeddings_, 90)

Kemiripan Divisualisasikan

Di sini kami menunjukkan kesamaan dalam peta panas. Grafik terakhir adalah matriks 9x9 di mana setiap entri [i, j] diberi warna berdasarkan hasil kali bagian dalam penyandiaksaraan kalimat i dan j .

messages = [
    # Smartphones
    "I like my phone",
    "My phone is not good.",
    "Your cellphone looks great.",

    # Weather
    "Will it snow tomorrow?",
    "Recently a lot of hurricanes have hit the US",
    "Global warming is real",

    # Food and health
    "An apple a day, keeps the doctors away",
    "Eating strawberries is healthy",
    "Is paleo better than keto?",

    # Asking about age
    "How old are you?",
    "what is your age?",
]

run_and_plot(messages)

png

Evaluasi: Tolok Ukur STS (Semantic Textual Similarity)

Tolok Ukur STS memberikan evaluasi intristik sejauh mana skor kesamaan dihitung menggunakan embeddings kalimat yang selaras dengan penilaian manusia. Tolok ukur membutuhkan sistem untuk mengembalikan skor kesamaan untuk beragam pilihan pasangan kalimat. Korelasi Pearson kemudian digunakan untuk mengevaluasi kualitas skor kesamaan mesin terhadap penilaian manusia.

Unduh data

import pandas
import scipy
import math
import csv

sts_dataset = tf.keras.utils.get_file(
    fname="Stsbenchmark.tar.gz",
    origin="http://ixa2.si.ehu.es/stswiki/images/4/48/Stsbenchmark.tar.gz",
    extract=True)
sts_dev = pandas.read_table(
    os.path.join(os.path.dirname(sts_dataset), "stsbenchmark", "sts-dev.csv"),
    error_bad_lines=False,
    skip_blank_lines=True,
    usecols=[4, 5, 6],
    names=["sim", "sent_1", "sent_2"])
sts_test = pandas.read_table(
    os.path.join(
        os.path.dirname(sts_dataset), "stsbenchmark", "sts-test.csv"),
    error_bad_lines=False,
    quoting=csv.QUOTE_NONE,
    skip_blank_lines=True,
    usecols=[4, 5, 6],
    names=["sim", "sent_1", "sent_2"])
# cleanup some NaN values in sts_dev
sts_dev = sts_dev[[isinstance(s, str) for s in sts_dev['sent_2']]]
Downloading data from http://ixa2.si.ehu.es/stswiki/images/4/48/Stsbenchmark.tar.gz
417792/409630 [==============================] - 0s 1us/step

Evaluasi Kalimat Embeddings

sts_data = sts_dev

def run_sts_benchmark(batch):
  sts_encode1 = tf.nn.l2_normalize(embed(tf.constant(batch['sent_1'].tolist())), axis=1)
  sts_encode2 = tf.nn.l2_normalize(embed(tf.constant(batch['sent_2'].tolist())), axis=1)
  cosine_similarities = tf.reduce_sum(tf.multiply(sts_encode1, sts_encode2), axis=1)
  clip_cosine_similarities = tf.clip_by_value(cosine_similarities, -1.0, 1.0)
  scores = 1.0 - tf.acos(clip_cosine_similarities) / math.pi
  """Returns the similarity scores"""
  return scores

dev_scores = sts_data['sim'].tolist()
scores = []
for batch in np.array_split(sts_data, 10):
  scores.extend(run_sts_benchmark(batch))

pearson_correlation = scipy.stats.pearsonr(scores, dev_scores)
print('Pearson correlation coefficient = {0}\np-value = {1}'.format(
    pearson_correlation[0], pearson_correlation[1]))
Pearson correlation coefficient = 0.8036396950530414
p-value = 0.0