Classifiche dei modelli: quando i dati non bastano

Le classifiche sono il modo più comune per comunicare i progressi nel machine learning: righe di modelli, colonne di test, la posizione più alta indica il migliore. Studi recenti verificano però quanto si possa davvero dedurre da una tabella simile, chiedendo della stabilità della misura. La risposta è scomoda.

Stessa risposta, struttura diversa

Un autore ha esaminato l'inferenza sulla struttura del prompt da parte di un modello. Ha ripetuto la misura su otto varianti aperte di cinque famiglie, da 8 a 675 miliardi di parametri, con caching disattivato e 293 rappresentazioni intermedie conservate. Il fenomeno misurato si è rivelato instabile: chiamate identiche non riproducevano la stessa struttura, la concordanza media dell'insieme dei nodi oscillava tra 0,39 e 0,96, e nel 72% dei casi la coppia prompt-modello non era mai concorde sull'intero insieme. Dopo l'applicazione di un bootstrap a cluster, solo il fondo della classifica si è dimostrato solido: i due modelli meno ripetibili mantenevano la posizione nel 99% e nell'86% delle ripetizioni, i quattro centrali nel 27-48%, i due migliori nel 68%. La tabella indica quindi in modo affidabile il modello peggiore, non quello migliore. Due regole ugualmente sensate di aggregazione delle campagne ripetute cambiano quattro righe su otto e spostano l'intestazione dello studio di 7 punti percentuali. Quattro degli otto endpoint sono stati ritirati entro dieci settimane dalla misura.

Selezione e statistica

Il secondo lavoro chiede quanti modelli nascosti possano stare dietro un vantaggio pubblicato. Per una famiglia di modelli fissata, gli autori ricavano una curva di sensibilità che descrive il numero massimo di tali varianti in funzione del limite inferiore di correlazione all'interno della famiglia. L'audit di 394 affermazioni su posizioni adiacenti nella Open LLM Leaderboard ha mostrato che 391 di esse non hanno base statistica già prima di considerare la selezione.

Il terzo lavoro prende in esame gli indicatori di affidabilità dei giudici-modello presi in prestito dalla teoria classica dei test. Con un tasso di errore misurato del giudice fissato al 4,72%, il coefficiente KR-20 varia da 0,01 a 0,68 a seconda della riprogettazione della banca di compiti. L'indice di dipendenza viene talvolta confuso con la probabilità di classificazione, da cui differisce di 0,25-0,43 punti. La conclusione degli autori è rivolta alla comunità: non è una recensione di singole pubblicazioni, ma un avvertimento, perché i numeri finiscono più avanti, nelle decisioni di implementazione e nei documenti di divulgazione.

Dati, non algoritmi

Il quarto audit riguarda sette insiemi pubblici per la previsione dei risultati educativi. Tre hanno superato tutti e quattro i controlli precedenti alla modellazione; gli altri quattro o fallivano i test di generalizzazione tra gruppi, o non avevano i metadati necessari per eseguirli. L'esempio più netto: sull'insieme UCI Student il valore di R² è sceso da 0,242 con divisione casuale a -0,097 con divisione per gruppi, e nell'insieme Higher Ed da 0,041 a -8,79. Aumentare la complessità del modello non eliminava il problema: su dati fragili gli insiemi di modelli rafforzavano l'instabilità.

A questo si aggiunge il filo etico e redazionale. In un testo del «Guangming Daily» pubblicato da ScienceNet, cinque ricercatori descrivono come l'IA entri nell'intero processo di ricerca: dalla generazione delle idee, attraverso l'elaborazione dei dati, fino alla scrittura del lavoro. Emergono domande sulla paternità dell'idea, sulla levigatura dei risultati e su una responsabilità che non si può trasferire allo strumento. Il denominatore comune è lo stesso delle classifiche: un numero o una tabella non sostituiscono la procedura di verifica.