Phrase-based translation

Gesloten gewichten University of Southern California 9.2M parameters May 2003

Geen schatting

Geen hardware-eisen voor dit model

De gewichten voor dit model zijn niet gepubliceerd, dus het kan niet worden gedownload of uitgevoerd op je eigen hardware in welke grootte dan ook. Het is alleen bereikbaar via de aanbieder, en geen enkele grafische kaart verandert dat..

Op record

Volledige specificatie

Alles wat geregistreerd is voor dit model. Het merendeel beschrijft hoe het getraind werd in plaats van hoe het draait - nuttige context om te beoordelen hoeveel werk erin is gestoken, en hoe het zich verhoudt tot modellen die op een andere schaal zijn gebouwd..

Oorsprong

Wie heeft dit model gebouwd, waar, en wanneer het gepubliceerd werd.

Organisatie
University of Southern California
Organisatietype
Academia
Land
United States of America
Gepubliceerd
1 May 2003
Auteurs
Philipp Koehn, Franz Josef Och, Daniel Marcu

Wat het doet

De probleemgebieden waarvoor het model is gebouwd. Een model kan meerdere van elk bevatten.

Domein
Language
Taak
Translation

Grootte

Hoe groot het model is en hoeveel data het is getraind. Parameters zijn het cijfer dat bepaalt of het past op een gegeven grafische kaart.

parameters
9.2M

There are various components to the system: - Translation probability model phi - The distortion probability distribution d - A langage model p_LM - A length factor w Several translation probability models are considered. The most performant one is the AP word alignment model. The sentence length preferred by the authors is 3 words maximum. In the biggest corpus considered (320k phrase pairs) it produces a phrase translation probability table of 1996k entries. The distortion probability model…

Training gegevens
20,000,000 tokens

[WORDS] "We used the freely available Europarl corpus to carry out experiments. This corpus contains over 20 million words in each of the eleven official languages of the European Union, covering the proceedings of the European Parliament 1996-2001. 1755 sentences of length 5-15 were reserved for testing." "These results are consistent over training corpus sizes from 10,000 sentence pairs to 320,000 sentence pairs. " So 20 million words or 320k sentence pairs.

Hoe het is geclassificeerd

Labels van de brondataset die worden toegepast bij het volgen van opmerkelijke modellen, en hoe zeker het is van de invoer.

Citaties
4,270

Bronnen

Waar deze record vandaan kwam en wanneer deze voor het laatst is gecontroleerd.

Referentie
Statistical Phrase-Based Translation
Laatst bijgewerkt
28 November 2025

Wat de cijfers betekenen

Achtergrond

Phrase-based translation werd gepubliceerd door University of Southern California, in het land geregistreerd als United States of America, tijdens May 2003. De categorie waaronder de uitgever valt is academia.

Het werkt in het domein van Language, en wordt geregistreerd als het uitvoeren van de taak van translation.

Dit is een gesloten model: de getrainde waarden zijn bij degene gebleven die ze geproduceerd hebben, en er is geen lokale versie om te draaien.

Hoe het getraind werd

Training verbruikte een corpus van ongeveer 20,000,000 tekstokens

Antwoorden

Phrase-based translation — veelgestelde vragen

01

Phrase-based translation— wanneer is het uitgebracht?

Het werd gepubliceerd in May 2003. De capaciteit per parameter is aanzienlijk verbeterd sinds, zodat een nieuwere model van dezelfde grootte vaak een betere benutting van dezelfde hardware is.

02

Phrase-based translation— waarvoor wordt het gebruikt?

Het werkt in het domein van Language, en wordt geregistreerd als het afhandelen van translation. Modellen hebben vaak meer dan één van elk, en de tags beschrijven het doel in plaats van de capaciteitslimieten.

03

Phrase-based translation— Welke GPU heb ik nodig om het te draaien?

Dit is een gesloten model — de gewichten zijn nooit gepubliceerd, dus het kan niet gedownload of uitgevoerd worden op je eigen hardware voor eender welke prijs. Het is alleen bereikbaar via de aanbieder.

04

Phrase-based translation— is het open-source?

De licenties werden nooit vastgelegd in onze brondocumenten. We beschouwen niet-verklaarde licenties als gesloten, omdat een niet-vastgelegde licentie er geen is om op te vertrouwen.

05

Phrase-based translation— hoeveel parameters heeft het?

Het heeft een parameter telling van 9.2M. There are various components to the system: - Translation probability model phi - The distortion probability distribution d - A langage model p_LM - A length factor w Several translation probability models are considered. The most performant one is the AP word alignment model. The sentence length preferred by the authors is 3 words maximum. In the biggest corpus considered (320k phrase pairs) it produces a phrase translation probability table of 1996k entries. The distortion probability model d is taken from (Marcu and Wong, 2002). The distortion probability model must have ~10 parameters at most The language model p_LM is a back off trigram model from (Seymore and Rosenfeld,1997). AFAIK the cutoff used is not specified. Based on the example on section 4.3 of (Seymore and Rosefeld, 1997), a trigram probability model has about 3866964 + 2674322 + 641604 parameters. "For each possible phrase translation anywhere in the sentence (we call it a translation option), we multiply its phrase translation probability with the language model probability for the generated English phrase. As language model probability we use the unigram probability for the first word, the bigram probability for the second, and the trigram probability for all following words" The length factor w is an additional single parameter. "In order to calibrate the output length, we introduce a factor w for each generated English word in addition to the trigram language model " In summary, the parameter count seems to be dominated by the trigram language model and the word alignment phrase translation model. Dat cijfer is het totaal, en het bepaalt hoeveel MEMORY het MODEL nodig heeft - ongeveer een halve gigabyte per miljard bij de compressie die de meeste mensen gebruiken.

06

Phrase-based translation— wie heeft het gemaakt?

Het werd gepubliceerd door University of Southern California, gebaseerd op United States of America, een organisatie geclassificeerd als academia.

Bron

Originele publicatie

Laatste update geregistreerd 28 November 2025

De andere richting

Van de andere kant bekijken?

Deze pagina begint met het model. Als je al een kaart bezit en alles wilt weten wat het zal draaien, begin in plaats van de hardware.