laion400m,laion400m

  • Descrizione :

Il set di dati LAION-400M è completamente aperto e liberamente accessibile.

Controllare https://laion.ai/laion-400-open-dataset/ per la descrizione completa di questo set di dati.

Tutte le immagini e i testi nel set di dati LAION-400M sono stati filtrati con il CLIP di OpenAI calcolando la somiglianza del coseno tra il testo e l'incorporamento dell'immagine e eliminando quelli con una somiglianza inferiore a 0,3. La soglia di 0,3 era stata determinata attraverso valutazioni umane e sembrava essere una buona euristica per stimare la corrispondenza semantica immagine-testo-contenuto.

Le coppie immagine-testo sono state estratte dal dump di dati Web Common Crawl e provengono da pagine Web casuali sottoposte a scansione tra il 2014 e il 2021.

Diviso Esempi
@article{DBLP:journals/corr/abs-2111-02114,
  author    = {Christoph Schuhmann and
               Richard Vencu and
               Romain Beaumont and
               Robert Kaczmarczyk and
               Clayton Mullis and
               Aarush Katta and
               Theo Coombes and
               Jenia Jitsev and
               Aran Komatsuzaki},
  title     = { {LAION-400M:} Open Dataset of CLIP-Filtered 400 Million Image-Text
               Pairs},
  journal   = {CoRR},
  volume    = {abs/2111.02114},
  year      = {2021},
  url       = {https://arxiv.org/abs/2111.02114},
  eprinttype = {arXiv},
  eprint    = {2111.02114},
  timestamp = {Fri, 05 Nov 2021 15:25:54 +0100},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2111-02114.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}

laion400m/images (configurazione predefinita)

  • Struttura delle caratteristiche :
FeaturesDict({
    'caption': Text(shape=(), dtype=string),
    'image': Image(shape=(None, None, 3), dtype=uint8),
    'license': Text(shape=(), dtype=string),
    'nsfw': ClassLabel(shape=(), dtype=int64, num_classes=4),
    'original_height': Scalar(shape=(), dtype=int32),
    'original_width': Scalar(shape=(), dtype=int32),
    'similarity': Scalar(shape=(), dtype=float64),
    'url': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione Intervallo di valori
CaratteristicheDict
didascalia Testo corda Attributo testo alternativo HTML
Immagine Immagine (Nessuno, Nessuno, 3) uint8 Immagine
licenza Testo corda tipo di licenza Creative Commons (se applicabile)
nsfw ClassLabel int64 Tag NSFW (rilevato con CLIP). I tag incoerenti e mancanti vengono sostituiti con UNTAGGED
altezza_originale Scalare int32 altezza originale dell'immagine
original_width Scalare int32 larghezza originale dell'immagine
somiglianza Scalare galleggiante64 punteggio di somiglianza del coseno tra il testo e l'incorporamento dell'immagine. I valori mancanti sono predefiniti su -1.0 [0.0, 1.0]
URL Testo corda URL dell'immagine

laion400m/incasso

  • Struttura delle caratteristiche :
FeaturesDict({
    'caption': Text(shape=(), dtype=string),
    'image_embedding': Tensor(shape=(512,), dtype=float16),
    'license': Text(shape=(), dtype=string),
    'nsfw': ClassLabel(shape=(), dtype=int64, num_classes=4),
    'original_height': Scalar(shape=(), dtype=int32),
    'original_width': Scalar(shape=(), dtype=int32),
    'similarity': Scalar(shape=(), dtype=float64),
    'text_embedding': Tensor(shape=(512,), dtype=float16),
    'url': Text(shape=(), dtype=string),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione Intervallo di valori
CaratteristicheDict
didascalia Testo corda Attributo testo alternativo HTML
immagine_incorporamento Tensore (512,) galleggiante16 Incorporamento di immagini CLIP
licenza Testo corda tipo di licenza Creative Commons (se applicabile)
nsfw ClassLabel int64 Tag NSFW (rilevato con CLIP). I tag incoerenti e mancanti vengono sostituiti con UNTAGGED
altezza_originale Scalare int32 altezza originale dell'immagine
original_width Scalare int32 larghezza originale dell'immagine
somiglianza Scalare galleggiante64 punteggio di somiglianza del coseno tra il testo e l'incorporamento dell'immagine. I valori mancanti sono predefiniti su -1.0 [0.0, 1.0]
text_incorporamento Tensore (512,) galleggiante16 Incorporamento del testo CLIP
URL Testo corda URL dell'immagine