Vai al contenuto
SalvitelleCorporate Hub

CorporateAI

Visione di progetto

Infrastruttura AIcome utilitycondivisa.

Un'infrastruttura di calcolo locale, proposta per l'ecosistema Salvitelle: le aziende residenti attingono a capacità condivisa invece di costruirsi ognuna il proprio stack.

Esplora i dati di riferimentoVedi il masterplan
  1. 05Spazi di lavoro
  2. 04Piattaforma AI
  3. 03Archiviazione e rete
  4. 02Calcolo
  5. 01Energia
Diagramma astratto di un edificio su cinque livelli sovrapposti — energia, calcolo, archiviazione e rete, piattaforma AI, spazi di lavoro — attraversati da un flusso di dati che sale dal basso verso l'alto.

Il problema

L'AI costa cara quando ognuno se la costruisce da solo.

Ogni azienda che lavora con l'AI affronta lo stesso conto: acceleratori, archiviazione, rete, modelli. Moltiplicato per tre aziende diventa tre volte la stessa spesa, per una capacità che quasi sempre resta in gran parte inutilizzata.

Tre aziende, tre stack

Una sola infrastruttura, molte aziende

  • Acceleratori
  • Archiviazione
  • Rete
  • Modelli

Nel modello proposto la capacità sta in un punto solo e le aziende ne attingono secondo il proprio carico di lavoro. È la stessa logica che il progetto applica già a uffici, energia e servizi.

Seleziona un'azienda per vedere il suo carico di lavoro.

Direzioni dichiarate

Obiettivo

Nessun documento di progetto descrive oggi capacità di calcolo AI. Quelle che seguono sono direzioni dichiarate, non servizi disponibili.

  • Calcolo AI condiviso
  • Modelli open-weight
  • Inferenza
  • Fine-tuning
  • RAG e ricerca sui documenti
  • Prototipazione rapida

Hardware di riferimento

Che cosa può fare un nodo.

Per ragionare su numeri concreti serve una piattaforma di riferimento. Le cifre qui sotto descrivono un nodo di calcolo disponibile sul mercato: servono a dare un ordine di grandezza, non descrivono hardware di Salvitelle.

Specifica di riferimento. La configurazione finale di CorporateAI è da definire.

Calcolo per nodo

1PFLOP FP4

Riferimento

Memoria unificata

128GB

Riferimento

Banda di memoria

273GB/s

Riferimento

Rete per nodo

200Gbps

Riferimento
  • Valore teorico FP4, ottenuto sfruttando la sparsity.

Prestazioni misurate

Due misurazioni pubblicate sulla stessa piattaforma. Usano precisioni e backend diversi: sono due punti indipendenti, non una gara fra modelli.

Elaborazione del prompt

  • Qwen3 14B5928,95token/s

    NVFP4 · TRT-LLM

  • GPT-OSS-20B3670,42token/s

    MXFP4 · llama.cpp

Generazione dei token

  • Qwen3 14B22,71token/s

    NVFP4 · TRT-LLM

  • GPT-OSS-20B82,74token/s

    MXFP4 · llama.cpp

Condizioni: ISL|OSL = 2048|128 · BS=1
I risultati variano con modello, backend, precisione e carico di lavoro.

E con più nodi?

La capacità aggregata è una moltiplicazione — ed è proprio questo a renderla teorica.

PFLOP FP4 aggregati
1
GB di memoria aggregata
128

Capacità aggregata teorica. Le prestazioni reali dipendono da carico di lavoro, rete, software, utilizzo e modello, e non crescono in modo lineare.

Dai modelli piccoli alla scala di frontiera.

Quanto spazio occupa un modello, e a che cosa serve una taglia rispetto a un'altra.

7B

Sperimentazione locale

Peso dei parametri a 4 bit

4GB

sui 128 GB di memoria unificata di un nodo

Visualizzazione didattica. Il valore indica i soli pesi: la memoria realmente occupata aggiunge cache KV, attivazioni e runtime. Non implica che ogni modello di ogni taglia giri in modo efficiente sulla piattaforma di riferimento.

Lato Salvitelle

Quello che non è ancora deciso.

I numeri qui sopra descrivono una piattaforma di riferimento. Questi invece riguardano CorporateAI, e nessuno di essi è determinato: dimensionamento, capacità e modello economico dipendono dallo studio di fattibilità.

Numero di acceleratori

n.

Da determinare

Capacità di calcolo aggregata

Da determinare

Dimensione del cluster

Da determinare

Potenza elettrica dedicata

kW

Da determinare

Modello economico

Da determinare
Da determinare
Non ancora determinato: sarà definito dal modello economico.

Una infrastruttura.Molte imprese.

CorporateAI è pensata come uno strato di infrastruttura AI condivisa dentro Salvitelle Corporate Hub. Non un altro prodotto SaaS: un'infrastruttura fisica e digitale pensata perché le aziende costruiscano.

Allocazione

Da determinare

Il modello prevede che le startup residenti selezionate possano accedere a una quota definita dell'infrastruttura senza addebiti diretti di infrastruttura, subordinatamente al modello operativo finale e alla capacità disponibile.

Entità dell'allocazione e modello operativo non sono determinati.

Da dove si comincia

Sono una startupAccedi all'ecosistema
Sono un'impresaCostruisci con CorporateAI
Sono un partnerSostieni l'infrastruttura
Vedi il masterplan del campus