NLM

Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.

A képzés körülbelül elfogyasztott 2.8 × 10¹⁹ FLOP, hardveren rögzítve NVIDIA GeForce RTX 3090. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.

Paraméterszáma 247M. The core language model is semi-parametric. There is a non-parametric component which involves learning a datastore which maps the training data to context vectors. This paper improves on the kNN-LM model primarily by reducing the size of the datastore to improve throughput. They also add a small 512 parameter neural net to adaptively adjust the interpolation hyperparameter. They use the pre-trained model from https://arxiv.org/abs/1809.10853, which had 247M trainable parameters, so the model in this paper one has 247M + 512 parameters. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.

Kiadta Carnegie Mellon University (CMU),University of California San Diego, alapján United States of America, egy szervezet, amelyet kategorizáltak mint academia,Academia.

Kibocsátották a September 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.