Florence
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Microsoft
- Szervezet típusa
- Industry
- Ország
- United States of America
- Közölt
- 22 November 2021
- Szerzők
- Lu Yuan, Dongdong Chen, Yi-Ling Chen, Noel Codella, Xiyang Dai, Jianfeng Gao, Houdong Hu, Xuedong Huang, Boxin Li, Chunyuan Li, Ce Liu, Mengchen Liu, Zicheng Liu, Yumao Lu, Yu Shi, Lijuan Wang, JianFeng Wang, Bin Xiao, Zhen Xiao, Jianwei Yang, Michael Zeng, Luowei Zhou, Pengchuan Zhang
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Vision
- Feladat
- Image captioning, Visual question answering, Image classification, Object detection
- Megközelítés
- Supervised
- Numerikus formátum
- FP16
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 893M
- Képzési adatok
- 7,500,000,000 tokens
"Our Florence pretrained model has in total 893M parameters, including the language transformer with 256M parameters and the CoSwin-H transformer with 637M parameters."
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 4.8 × 10²² FLOP
- Hogyan jött létre
- Hardware
"The model takes 10 days to train on 512 NVIDIA A100 GPUs with 40GB memory per GPU." 512 * 312 teraFLOPS * 10 days * 35% utilization = 4.831e22 FLOP
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA A100 SXM4 40 GB
- Használt chipek
- 512
- Chip-óra
- 122,880
- Fali óra idő
- 240 hours (10 days)
- Teljesítményfogyasztás
- 412.8 kW
- Számítási költség
- $106,951
10 days on 512 A100 40GB
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Alapmodell
- Yes
- Miért követik nyomon
- Historical significance,SOTA improvement
- Nyilvántartási bizalom
- Confident
- Hivatkozások
- 1,122
"Florence achieves new state-of-the-art results in majority of 44 representative benchmarks, e.g., ImageNet-1K zero-shot classification with top-1 accuracy of 83.74 and the top-5 accuracy of 97.18, 62.4 mAP on COCO fine tuning, 80.36 on VQA, and 87.8 on Kinetics-600." "image retrieval zero-shot (90.9/76.7 R@1 on Flickr30K image-to-text / text-to-image, 64.7/47.2 R@1 on MSCOCO image-to-text / text-to-image) and fine-tuning (97.2/87.9 R@1 on Flickr30K image-to-text / text-to-image, 81.8/63.2 R@1 …
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Florence: A New Foundation Model for Computer Vision
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
Háttér
Florence ki lett adva által Microsoft, az országban rögzítve mint United States of America, alatt November 2021. Egy olyan szervezetből származik, amelyet kategorizálnak mint industry.
Működik a területen a Vision, és úgy van rögzítve, mint a feladat végrehajtása image captioning, Visual question answering, Image classification, Object detection.
Súlyait soha nem tették közzé, így csak a szolgáltatóján keresztül érhető el. Nincs grafikus kártya, ami ezt megváltoztatná.
Képzés és származás
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 4.8 × 10²² FLOP, hardveren rögzítve NVIDIA A100 SXM4 40 GB. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Körülbelül egy korpuszon lett betanítva 7,500,000,000 szöveg tokenjei
Az oka, hogy egyáltalán megjelenik ebben a katalógusban: historical significance,SOTA improvement.
Válaszok
Florence — gyakori kérdések
Florence— Ki készítette ezt?
Kiadta Microsoft, alapján United States of America, egy szervezet, amelyet kategorizáltak mint industry.
Florence— Mikor adták ki?
Kibocsátották a November 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
Florence— Mire használják?
Működik a területen a Vision, és rögzítve van, hogy kezeli a feladatot image captioning, Visual question answering, Image classification, Object detection. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.
Florence— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 4.8 × 10²² FLOP, hardveren rögzítve NVIDIA A100 SXM4 40 GB. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Florence— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Florence— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
Florence— Hány paramétere van?
Paraméterszáma 893M. "Our Florence pretrained model has in total 893M parameters, including the language transformer with 256M parameters and the CoSwin-H transformer with 637M parameters.". Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..