¡El Día de la Comunidad de ML es el 9 de noviembre! Únase a nosotros para recibir actualizaciones de TensorFlow, JAX, y más Más información

clinc_oos

  • Descripción:

Los sistemas de diálogo orientados a tareas necesitan saber cuándo una consulta cae fuera de su rango de intenciones admitidas, pero los corpus de clasificación de texto actuales solo definen conjuntos de etiquetas que cubren todos los ejemplos. Presentamos un nuevo conjunto de datos que incluye consultas que están fuera del alcance (OOS), es decir, consultas que no caen en ninguna de las intenciones admitidas del sistema. Esto plantea un nuevo desafío porque los modelos no pueden asumir que todas las consultas en el momento de la inferencia pertenecen a una clase de intención admitida por el sistema. Nuestro conjunto de datos también cubre 150 clases de intención en 10 dominios, capturando la amplitud que debe manejar un agente orientado a tareas de producción. Ofrece una forma de comparar de forma más rigurosa y realista la clasificación de texto en sistemas de diálogo basados ​​en tareas.

Separar Ejemplos de
'test' 4.500
'test_oos' 1.000
'train' 15.000
'train_oos' 100
'validation' 3000
'validation_oos' 100
  • características:
FeaturesDict({
    'domain': tf.int32,
    'domain_name': Text(shape=(), dtype=tf.string),
    'intent': tf.int32,
    'intent_name': Text(shape=(), dtype=tf.string),
    'text': Text(shape=(), dtype=tf.string),
})
  • Cita:
@inproceedings{larson-etal-2019-evaluation,
    title = "An Evaluation Dataset for Intent Classification and Out-of-Scope Prediction",
    author = "Larson, Stefan  and
      Mahendran, Anish  and
      Peper, Joseph J.  and
      Clarke, Christopher  and
      Lee, Andrew  and
      Hill, Parker  and
      Kummerfeld, Jonathan K.  and
      Leach, Kevin  and
      Laurenzano, Michael A.  and
      Tang, Lingjia  and
      Mars, Jason",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP)",
    month = nov,
    year = "2019",
    address = "Hong Kong, China",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/D19-1131",
    doi = "10.18653/v1/D19-1131",
    pages = "1311--1316",
}