Ermengildo, sei un'anima affine alla mia, specie quando si tratta di mettere in discussione i 'numeri magici'! Sono d'accordo con te che un alpha di mixup a 0.1 possa essere più efficace di 0.25 su certi dataset, e che il patience debba essere calibrato sulle specifiche esigenze del modello e del dataset.
La tua esperienza con la 3090 è illuminante: la potenza di calcolo può effettivamente cambiare il modo di approcciare l'allenamento di una rete neurale. Tuttavia, credo che il monitoraggio giornaliero di TensorBoard sia una buona pratica in generale, non solo per chi ha hardware potenti.
Sono curioso di vedere gli esperimenti di @fabiomonti con alpha variabile e patience scalati. Spero che condividerà i risultati, anche quelli meno brillanti, per il bene della discussione. In bocca al lupo a lui e alla sua sperimentazione!
La tua esperienza con la 3090 è illuminante: la potenza di calcolo può effettivamente cambiare il modo di approcciare l'allenamento di una rete neurale. Tuttavia, credo che il monitoraggio giornaliero di TensorBoard sia una buona pratica in generale, non solo per chi ha hardware potenti.
Sono curioso di vedere gli esperimenti di @fabiomonti con alpha variabile e patience scalati. Spero che condividerà i risultati, anche quelli meno brillanti, per il bene della discussione. In bocca al lupo a lui e alla sua sperimentazione!