TransAct

Chiuso pesi Pinterest 92M Parametri May 2023

Nessuna stima

Nessun requisito hardware per questo modello

I pesi di questo modello non sono stati pubblicati, quindi non può essere scaricato o eseguito sul vostro hardware a qualsiasi dimensione. È accessibile solo attraverso il suo fornitore, e nessuna scheda grafica può cambiare questo.

In registrazione

Specifiche complete

Tutto ciò che riguarda questo modello. La maggior parte delle informazioni descrive come è stato addestrato piuttosto che come viene eseguito — un contesto utile per valutare la quantità di lavoro impiegata e come si confronta con modelli realizzati su scala diversa.

Origine

Chi ha costruito questo modello, dove e quando è stato pubblicato.

Organizzazione
Pinterest
Tipo di organizzazione
Industry
Paese
United States of America
Pubblicato
31 May 2023
Autori
Xue Xia, Pong Eksombatchai, Nikil Pancha, Dhruvil Deven Badani, Po-Wei Wang, Neng Gu, Saurabh Vishwas Joshi, Nazanin Farahpour, Zhiyuan Zhang, Andrew Zhai

Cosa fa

Le aree problematiche per cui è stato costruito il modello. Un modello può contenere diversi di ciascuno.

Dominio
Recommendation
Compito
Recommender system

Dimensione

Quanto è grande il modello e su quanti dati è stato addestrato. I parametri sono il valore che decide se si adatta a una determinata scheda grafica.

Parametri
92M

92M (Table 9)

Dati di addestramento
tokens

[tokens] "Our training dataset contains 3 billion training instances of 177 million users and 720 million pins." "sequence length is |𝑆 | = 100 " "we choose to include each user’s most recent 100 actions in the sequence. For users with less than 100 actions, we pad the feature to the length of 100 with 0s" "The batch size is 12000" 3B training instances * 100 = 3*10^11 training tokens

Addestramento computazionale

L'aritmetica eseguita per addestrare il modello, misurata in operazioni in virgola mobile. È una misura di quanto costato l'addestramento, non di quanto velocemente il modello finito ti risponde.

Addestramento computazionale
1.7 × 10²⁰ FLOP

6 FLOP / token / parameter * 92 * 10^6 parameters * 3 * 10^11 tokens [see dataset size notes] = 1.656e+20 FLOP

Come è stato stabilito
Operation counting

Disponibilità

Se puoi ottenere il modello e eseguirlo sul tuo hardware, il che decide se una delle cifre della scheda grafica su questa pagina si applica.

Pesi
Closed — provider access only
Accesso al modello
Unreleased
Codice di addestramento
Open source

Apache 2.0 https://github.com/pinterest/transformer_user_action

Come è classificato

Etichette che il dataset sorgente applica quando si monitorano modelli notevoli e quanto è fiducioso nell'entry.

Registrare fiducia
Likely

Fonti

Da dove proviene questo record e quando è stato controllato l'ultima volta.

Riferimento
TransAct: Transformer-based Realtime User Action Model for Recommendation at Pinterest
Ultimo aggiornamento
28 November 2025

Cosa significano i numeri

Cosa è questo modello

TransAct was published by Pinterest, in United States of America, in May 2023. It comes out of industry.

It works in Recommendation, and is recorded as doing recommender system.

Questo è un modello chiuso: i valori addestrati sono rimasti con chi li ha prodotti, e non c'è una versione locale da eseguire.

Cosa ci è voluto per costruirlo

Training it took roughly 1.7 × 10²⁰ FLOP of computation — a measure of what producing the model cost, not of how fast it answers.

Risposte

TransAct — Domande frequenti

01

Is TransAct open source?

No. TransAct has not had its weights published, so it exists only as a service controlled by its owner.

02

How many parameters does TransAct have?

TransAct has 92M parameters. 92M (Table 9). That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

03

Who created TransAct?

TransAct was published by Pinterest, based in United States of America, categorised as industry.

04

When was TransAct released?

TransAct was published in May 2023. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

05

What is TransAct used for?

TransAct works in Recommendation, and is recorded as handling recommender system. These are the areas it was designed around; they describe intent rather than a hard boundary.

06

How much compute was used to train TransAct?

Around 1.7 × 10²⁰ FLOP. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

07

What GPU do I need to run TransAct?

None. TransAct is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

Fonte

Pubblicazione originale

Ultimo aggiornamento del record 28 November 2025

L'altra direzione

Guardando la questione dall'altra parte?

Questa pagina inizia dal modello. Se possedete già una scheda e desiderate conoscere tutto ciò che può eseguire, inizia dall'hardware invece.