MERCOLEDÌ 10 MAGGIO 2023 13.14.02
Scienza: studio, modelli IA esprimono giudizi troppo severi =
Scienza: studio, modelli IA esprimono giudizi troppo severi = (AGI) - Roma, 10 mag. - (NOTIZIA CON EMBARGO ORE 20.00) - I modelli addestrati con tecniche comuni di raccolta dati giudicano le violazioni delle regole in modo diverso e piu' severo di quanto farebbero gli esseri umani. Lo dimostra la ricerca del Massachusetts Institute of Technology (Mit) in collaborazione con l'Universita' di Toronto, pubblicata su 'Science Advances'. L'addestramento dei modelli consiste nel mostrare a un modello di apprendimento automatico milioni di esempi di questi dati normativi, in modo che possa imparare un compito. Ma i dati utilizzati per addestrare i modelli di apprendimento automatico sono tipicamente etichettati in modo descrittivo, ossia viene chiesto agli esseri umani di identificare caratteristiche fattuali, come ad esempio la presenza di cibo fritto in una foto. Se i dati descrittivi vengono utilizzati per addestrare modelli che giudicano le violazioni delle regole, ad esempio se un pasto viola una politica scolastica che vieta il cibo fritto, i modelli tendono a prevedere in modo eccessivo le violazioni delle regole. Questo calo di accuratezza potrebbe avere serie implicazioni nel mondo reale. Per esempio, se un modello descrittivo viene usato per decidere se un individuo ha probabilita' di recidiva, i risultati dei ricercatori suggeriscono che potrebbe esprimere giudizi piu' severi di quelli che darebbe un essere umano, il che potrebbe portare a cauzioni piu' alte o a condanne penali piu' lunghe. (AGI)Sci/Oll (Segue) 101313 MAG 23 NNNN
Nessun commento:
Posta un commento