ReALM
Žádný odhad
Žádné hardwareové požadavky na tento model
Hmotnosti tohoto modelu nebyly publikovány, takže jej nelze stáhnout ani spustit na vlastním hardwaru v jakékoli velikosti. Je dostupný pouze prostřednictvím svého poskytovatele a žádná grafická karta to nezmění..
Záznam.
Plná specifikace
Všechno zaznamenané k tomuto modelu. Většina z toho popisuje, jak byl trénován, nikoli jak běží — užitečný kontext pro posouzení, kolik práce do něj bylo vloženo, a jak se srovnává s modely postavenými na jinou škálu.
Původ
Kdo vybudoval tento model, kde a kdy byl publikován.
- Organizace
- Apple
- Typ organizace
- Industry
- Země
- United States of America
- Publikováno
- 29 March 2024
- Authors
- Joel Ruben Antony Moniz, Soundarya Krishnan, Melis Ozyildirim, Prathamesh Saraf, Halim Cagri Ates, Yuan Zhang, Hong Yu, Nidhi Rajshree
Co to dělá
Problémové oblasti, pro které byl model vyvinut. Model může obsahovat několik z každého.
- Doména
- Language
- Úkol
- Named entity recognition (NER), Language modeling, Part-of-speech tagging
- Approach
- Supervised
- Base model
- Flan-T5 11B
Velikost
Jak velký je model a na kolik dat byl vytrénován. Parametry jsou číslo, které rozhoduje o tom, zda se vejde na danou grafickou kartu.
- Parametry
- 3B
- Tréninková data
- 134,000,000,000 tokens
Fine-tuned FLAN-T5 models ranging from 80M to 3B
2300 training examples from conversation; 3900 synthetically generated training examples; 10100 training examples using context from a phone screen.
Dostupnost
Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se na tuto stránku vztahují jakákoliv čísla grafických karet.
- Váhy
- Closed — provider access only
- Přístup k modelu
- Unreleased
- Tréninkový kód
- Unreleased
Jak je klasifikováno
Labely, které se na zdrojovém datovém souboru používají při sledování významných modelů, a jak moc si je jistý touto položkou.
- Proč je to sledováno
- SOTA improvement
- Záznam důvěry
- Confident
"We show that ReaLM outperforms previous approaches, and performs roughly as well as the state-of-the-art LLM today, GPT-4, despite consisting of far fewer parameters." "We also benchmark against GPT-3.5 and GPT-4, with our smallest model achieving performance comparable to that of GPT-4, and our larger models substantially outperforming it." I don't see any standard benchmarks that they would claim SOTA on
Zdroje
Odkud tento záznam pochází a kdy byl naposled zkontrolován.
- Odkaz
- ReALM: Reference Resolution As Language Modeling
- Naposledy aktualizováno
- 28 November 2025
Co čísla znamenají
Where it came from
ReALM was published by Apple, in United States of America, in March 2024. It comes out of industry.
It works in Language, and is recorded as doing named entity recognition (NER), Language modeling, Part-of-speech tagging.
It builds on Flan-T5 11B, which is why it shares that model's general shape and size.
This is a closed model: the trained values stayed with whoever produced them, and there is no local version to run.
Co bylo zapotřebí k jeho vybudování
It was trained on about 134,000,000,000 tokens of text.
It is tracked in the underlying dataset for one reason in particular: sOTA improvement.
Odpovědi
ReALM — Časté dotazy
Who created ReALM?
ReALM was published by Apple, based in United States of America, categorised as industry.
When was ReALM released?
ReALM was published in March 2024. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is ReALM used for?
ReALM works in Language, and is recorded as handling named entity recognition (NER), Language modeling, Part-of-speech tagging. A model can carry several of each, so these are the areas it was built for rather than a limit on what it will attempt.
What GPU do I need to run ReALM?
None. ReALM is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is ReALM open source?
No. ReALM has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does ReALM have?
ReALM has 3B parameters. Fine-tuned FLAN-T5 models ranging from 80M to 3B. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Druhý směr
Když se na to podíváte z druhé strany?
Tato stránka začíná modelem. Pokud již vlastníte kartu a chcete vědět, co vše bude schopna spustit, Začněte raději od hardwaru.