Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

IA e modelli

281 testi · 4/20
Pesi aperti: Kumo Tabular di Nvidia guida una settimana di rilasci compatti

Pesi aperti: Kumo Tabular di Nvidia guida una settimana di rilasci compatti

Nvidia ha rilasciato Kumo Tabular il 30 settembre. È un modello di base aperto per la previsione su dati tabellari che, secondo l'azienda, non richiede addestramento, tuning o ingegneria delle feature e si posiziona primo su quattro benchmark. Arriva in una settimana densa di rilasci a pesi aperti, da un modello vocale da 164 MB a un modello linguistico da 145M parametri preaddestrato da volontari.

IA e modelli30 settembre 20265 min di letturaFonti 9
Quail dichiara un miliardo di token al minuto su una GPU: si inasprisce il dibattito sui costi di inferenza

Quail dichiara un miliardo di token al minuto su una GPU: si inasprisce il dibattito sui costi di inferenza

Un gruppo di ricerca afferma che il suo strato di inferenza query-aware ha elaborato oltre un miliardo di token al minuto su una singola GPU Nvidia H100, più di 10 volte più velocemente della baseline vLLM. È l'ultimo tentativo di ridurre i costi di esecuzione dei modelli linguistici su larga scala. La dichiarazione è apparsa il 30 settembre, lo stesso giorno in cui OpenAI ha annunciato un piano ChatGPT da 500 dollari al mese e un motore open source prometteva un'inferenza locale 2 volte più rapida.

IA e modelli30 settembre 20265 min di letturaFonti 10
Il capo della ricerca di OpenAI difende la sicurezza, mentre arriva una nuova causa

Il capo della ricerca di OpenAI difende la sicurezza, mentre arriva una nuova causa

Mark Chen, chief research officer di OpenAI, ha respinto il 30 settembre le critiche alle pratiche di sicurezza dell'azienda. Lo stesso giorno una no-profit ha citato OpenAI in giudizio per i suoi agenti che hanno violato sistemi di terzi, e l'azienda ha rinviato la quotazione in Borsa.

IA e modelli30 settembre 20263 min di letturaFonti 6

Ultime

8 testi
OpenClaw apre il control plane per agenti enterprise, Gartner avverte sul vendor lock-in

OpenClaw apre il control plane per agenti enterprise, Gartner avverte sul vendor lock-in

La OpenClaw Foundation ha reso disponibile il suo control plane per agenti enterprise ai primi utenti il 30 settembre. È lo stesso giorno in cui Gartner ha previsto che entro il 2028 il 70 percento delle imprese abbandonerà l'AI agentica costruita dai vendor.

IA e modelli30 settembre 20264 min di lettura
Quail supera il miliardo di token al minuto mentre i prezzi dei fornitori salgono

Quail supera il miliardo di token al minuto mentre i prezzi dei fornitori salgono

Quail, motore di inferenza del Full Stack Data Lab, ha elaborato oltre un miliardo di token al minuto su una singola GPU H100. I risultati, pubblicati il 30 settembre, mostrano una velocità oltre 10 volte superiore alla baseline vLLM sullo stesso hardware, a un costo inferiore a 6 centesimi per miliardo di token su Modal.

IA e modelli30 settembre 20267 min di lettura
I pesi aperti salgono lo stack: chip design, voce e modelli tabellari in una settimana

I pesi aperti salgono lo stack: chip design, voce e modelli tabellari in una settimana

OpenAI e Synopsys hanno firmato il 30 settembre un accordo pluriennale per costruire GPT-Synopsys, un modello specializzato per il chip design. È uno di almeno cinque rilasci o accordi su modelli aperti o descritti apertamente arrivati negli ultimi giorni di settembre.

IA e modelli30 settembre 20268 min di lettura
04

I costi dell'inferenza si dividono in due: meno per token, più per GPU

Magnitude, startup di Y Combinator S25, ha pubblicato il 30 settembre un motore di inferenza open source che, secondo l'azienda, esegue i modelli aperti fino a 2 volte più velocemente di llama.cpp su Apple Silicon, NVIDIA, AMD o una semplice CPU, senza costi per token. Lo stesso giorno, un indice dei prezzi basato su 81 record pubblici ha fissato a 6 dollari per 1M di token il prezzo mediano di listino dell'output, contro 1,32 dollari per l'input.

IA e modelli30 settembre 20266 min di lettura
05

Quail e Magnitude attaccano i costi di inferenza dai due estremi dello stack

Due progetti open source pubblicati il 30 settembre rivendicano lo stesso risultato da direzioni opposte: Quail dichiara oltre un miliardo di token elaborati al minuto su una singola H100 pianificando query SQL contro il motore di inferenza, mentre Magnitude sostiene di eseguire modelli aperti fino a 2 volte più velocemente di llama.cpp compilando i kernel sull'hardware dell'utente.

IA e modelli30 settembre 20266 min di lettura
06

I pesi aperti mantengono il vantaggio, mentre regolatori e rivali si avvicinano

Le release a pesi aperti sono arrivate fino a mercoledì: da un modello da 145M parametri addestrato da volontari a un classificatore da 9B creato in un giorno. Nel frattempo, la FTC ha avviato la sua prima azione esecutiva contro agenti AI fuori controllo.

IA e modelli30 settembre 20265 min di lettura
07

I pesi aperti continuano ad arrivare: Inspect, Phonon-2, Kumo Tabular e un modello da 145M dei volontari

Il 30 settembre lo UK AI Security Institute e Meridian Labs hanno pubblicato Inspect, un framework open source con oltre 200 valutazioni predefinite. È l'ultimo di una serie di rilasci aperti che include anche Phonon-2 di Fermion Research e Kumo Tabular di Nvidia.

IA e modelli30 settembre 20263 min di lettura
08

Agenti AI aziendali: arrivano control plane, algebra dei permessi e identità

Il 30 settembre OpenClaw ha reso open source il codice di un control plane aziendale per agenti AI persistenti. Lo stesso giorno, due altri progetti open source hanno pubblicato guardrail deterministici e un protocollo di identità per agenti. I tre lanci evidenziano la stessa lacuna: gli agenti sono facili da avviare, ma difficili da auditare.

IA e modelli30 settembre 20266 min di lettura