gigasłowo

  • opis :

Generowanie nagłówków na korpusie par artykułów z Gigaword składającym się z około 4 milionów artykułów. Użyj „org_data” dostarczonego przez https://github.com/microsoft/unilm/ , który jest identyczny z https://github.com/harvardnlp/sent-summary , ale ma lepszy format.

Istnieją dwie funkcje: - dokument: artykuł. - podsumowanie: nagłówek.

Rozdzielać Przykłady
'test' 1951
'train' 3 803 957
'validation' 189651
  • Struktura funkcji :
FeaturesDict({
    'document': Text(shape=(), dtype=string),
    'summary': Text(shape=(), dtype=string),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDict
dokument Tekst strunowy
streszczenie Tekst strunowy
  • Cytat :
@article{graff2003english,
  title={English gigaword},
  author={Graff, David and Kong, Junbo and Chen, Ke and Maeda, Kazuaki},
  journal={Linguistic Data Consortium, Philadelphia},
  volume={4},
  number={1},
  pages={34},
  year={2003}
}

@article{Rush_2015,
   title={A Neural Attention Model for Abstractive Sentence Summarization},
   url={http://dx.doi.org/10.18653/v1/D15-1044},
   DOI={10.18653/v1/d15-1044},
   journal={Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing},
   publisher={Association for Computational Linguistics},
   author={Rush, Alexander M. and Chopra, Sumit and Weston, Jason},
   year={2015}
}