Cross-lingual alignment

Otevřít váhy Tel Aviv University,Massachusetts Institute of Technology (MIT) April 2019

Žádný odhad

Žádné hardwareové požadavky na tento model

Hmotnosti tohoto modelu jsou otevřené, ale žádný počet parametrů nebyl pro něj zveřejněn. Každé číslo týkající se paměti a rychlosti začíná právě tímto číslem, a proto bychom raději nezobrazovali nic než vymyšlený odhad.

Záznam.

Plná specifikace

Všechno zaznamenané k tomuto modelu. Většina z toho popisuje, jak byl trénován, nikoli jak běží — užitečný kontext pro posouzení, kolik práce do něj bylo vloženo, a jak se srovnává s modely postavenými na jinou škálu.

Původ

Kdo vybudoval tento model, kde a kdy byl publikován.

Organizace
Tel Aviv University,Massachusetts Institute of Technology (MIT)
Typ organizace
Academia,Academia
Země
Israel, United States of America
Publikováno
4 April 2019
Autoři
Tal Schuster, Ori Ram, Regina Barzilay, and Amir Globerson.

Co to dělá

Problémové oblasti, pro které byl model vyvinut. Model může obsahovat několik z každého.

Doména
Language
Úkol
Translation
Základní model
ELMo

Velikost

Jak velký je model a na kolik dat byl vytrénován. Parametry jsou číslo, které rozhoduje o tom, zda se vejde na danou grafickou kartu.

Tréninková data
tokens

Výpočet trénování

Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál trénink, nikoli jak rychle hotový model na vás odpovídá.

Výpočet trénování
2.6 × 10¹⁸ FLOP

From author communication: Precision: float32 Hardware: 4 GPU NVIDIA 1080Ti NVIDIA 1080Ti: 1.06E+13 Compute: 7 GPU-days 0.4 * 1.06E+13 FLOP/s * 7 days * 24h/day * 3600s/h = 2.56E+18

Jak bylo založeno
Hardware

Tréninkový běh

Co fyzicky vyžadovalo trénování: které čipy, kolik, jak dlouho a co to bralo ze zásuvky.

Tréninkové hardwarové zařízení
NVIDIA GeForce GTX 1080 Ti

Dostupnost

Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se na tuto stránku vztahují jakákoliv čísla grafických karet.

Váhy
Open — downloadable
Přístup k modelu
Open weights (unrestricted)
Tréninkový kód
Open source

MIT license https://github.com/TalSchuster/CrossLingualContextualEmb

Jak je klasifikováno

Labely, které se na zdrojovém datovém souboru používají při sledování významných modelů, a jak moc si je jistý touto položkou.

Proč je to sledováno
SOTA improvement

"our method consistently outperforms the previous state-of-the-art on 6 tested languages" "Table 3 summarizes the results for our zero-shot, multi-source experiments on six languages from Google universal dependency treebank version 2.0." "Table 5 summarizes the results, showing that our algorithm outperforms the best model from the shared task by 5.05 LAS points and improves by over 10 points over a FASTTEXT baseline"

Záznam důvěry
Speculative
Citace
221

Zdroje

Odkud tento záznam pochází a kdy byl naposled zkontrolován.

Odkaz
Cross-lingual alignment of contextual word embeddings, with applications to zero- shot dependency parsing.
Naposledy aktualizováno
25 May 2026

Co čísla znamenají

O tomto modelu

Cross-lingual alignment was published by Tel Aviv University,Massachusetts Institute of Technology (MIT), in Israel, in April 2019. The organisation is categorised as academia,Academia.

It works in Language, and is recorded as doing translation.

Its starting point was ELMo — most models at this scale are adapted from an existing base rather than built from nothing.

Protože jeho váhy byly uvolněny, nic ohledně jeho spuštění nezávisí na tom, že by poskytovatel zůstal dostupný — je to vaše, jakmile je staženo.

Co bylo zapotřebí k jeho vybudování

Producing it required around 2.6 × 10¹⁸ FLOP of arithmetic, on NVIDIA GeForce GTX 1080 Ti, which is a statement about the training budget rather than about inference.

Its inclusion criterion is sOTA improvement.

Odpovědi

Cross-lingual alignment — Časté dotazy

01

How much compute was used to train Cross-lingual alignment?

Around 2.6 × 10¹⁸ FLOP, on NVIDIA GeForce GTX 1080 Ti. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

02

What GPU do I need to run Cross-lingual alignment?

We cannot say. Cross-lingual alignment has open weights, but no parameter count has been published for it, and every memory and speed calculation starts from that number. We would rather show nothing than a fabricated estimate.

03

Is Cross-lingual alignment open source?

Its weights are published, so Cross-lingual alignment can be downloaded and run on your own hardware. Note that open weights is not the same as open source in the full sense — it says nothing about the training data, the training code, or the commercial terms attached.

04

How many parameters does Cross-lingual alignment have?

No parameter count has been published for Cross-lingual alignment, which is why no memory or speed figure appears on this page.

05

Who created Cross-lingual alignment?

Cross-lingual alignment was published by Tel Aviv University,Massachusetts Institute of Technology (MIT), based in Israel, categorised as academia,Academia.

06

When was Cross-lingual alignment released?

Cross-lingual alignment was published in April 2019. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

07

What is Cross-lingual alignment used for?

Cross-lingual alignment works in Language, and is recorded as handling translation. These are the areas it was designed around; they describe intent rather than a hard boundary.

08

Where can I download Cross-lingual alignment?

The weights for Cross-lingual alignment are published, though we do not hold a repository link for it. This site calculates hardware requirements rather than hosting model files.

Zdroj

Původní publikace

Poslední aktualizace záznamu 25 May 2026

Druhý směr

Když se na to podíváte z druhé strany?

Tato stránka začíná modelem. Pokud již vlastníte kartu a chcete vědět, co vše bude schopna spustit, Začněte raději od hardwaru.