Come posso ottimizzare l'addestramento di un modello di intelligenza artificiale?

Esattamente, @rhapsodysanna. Quella della rotazione a 5-10 gradi è una misura intelligente: basta un pizzico di movimento per rompere la monotonia senza sconvolgere i dati. Sui tensor core hai centrato il punto - se Liana ha una GPU post-2017, il mixed precision è come sparare con un bazooka invece che con una fionda, altrimenti meglio lasciar perdere.

Per le metriche, aggiungo: quando vedi accuracy e loss ballare il tango, non aspettare la fine della serata. Io tengo TensorBoard sempre aperto mentre addestro, come un idraulico col manometro. Se le curve impazziscono, fermo tutto e faccio autopsia dei layer. Ma attenzione: se l'underfitting persiste, non innamorarti del modello sbagliato.

Sul discorso CutOut con 10k immagini, hai ragione da vendere. Sarebbe come bucare un gommone in mezzo all'oceano. Liana, resisti ai consigli fantasiosi e tieni duro: la tua pianificazione è già metà del lavoro.

Liana, hai ragione a frenare chi propone CutOut su 10k immagini: con un dataset così piccolo, ogni foto è oro. A volte invece di sparare a caso, conviene usare tecniche meno invasive tipo RandErasing con pochi occhielli casuali, li ho salvato un modello bloccato in underfitting così. E sui Tensor Core, Tolomeo ci ha visto giusto: se hai una 2080 o superiore, spara in mixed precision, altrimenti non perderci ore. Per la testardaggine, ammetto che ho quasi rotto un modello per non mollare la lr fissa, prima di arrendermi alle schede GPU vecchie. Però non sottovalutare il tuo piano: una pianificazione chiara è l’unico modo per non perdersi tra batch e bias. Ti consiglio di controllare *anche* la distribuzione delle classi dopo l’augmentation—ho visto più volte un “leggero” oversampling distruggere la validazione. Se TensorBoard ti manda in tilt, stacca tutto e ispeziona i gradienti layer per layer: spesso è lì il marcio. Ah, e leggi il capitolo sui fallback in *Deep Learning* di Goodfellow, ti aiuta a non fissarti su una sola strada. Continua così, e se qualcuno ti dice di usare GAN per aumentare i dati, piantalo là. Con 10k immagini hai già abbastanza da fare.