L’AI può amplificare i bias presenti nei dati e portare a discriminazione — un rischio serio in HR, credito e ovunque l’AI incida sulle persone. Ecco come gestirlo. (dgm implementa osFoundry — dgm è un partner di integrazione indipendente, non è osFoundry, e non è uno studio legale.)

Perché l’AI può discriminare

L’AI può riprodurre o accentuare i bias presenti nei dati storici: se i dati riflettono pregiudizi passati, l’AI li amplifica. Rischio reale in HR (selezione), credito e usi che incidono sulle persone.

Un ambito regolato

L’EU AI Act classifica come ad alto rischio diversi usi in occupazione e selezione, con obblighi di trasparenza, controllo umano, attenzione ai bias e documentazione; la Legge 132/2025 sottolinea la responsabilità umana. Vedi AI ad alto rischio per le aziende e AI per le risorse umane.

Come si mitiga il rischio

  • Verifica dei dati di addestramento e degli output;
  • Test su gruppi diversi;
  • Trasparenza sull’uso dell’AI;
  • Supervisione umana sulle decisioni.

Le decisioni che incidono sulle persone non vanno automatizzate senza controllo. È un processo continuo.

Le decisioni restano umane

L’AI supporta (screening, analisi), ma le decisioni restano sotto responsabilità umana — scelta sia di conformità sia etica. osFoundry offre registri e accessi, self-hostabile in UE.

Come aiuta dgm

dgm imposta i controlli pratici (supervisione umana, registri, trasparenza), coordinando con i tuoi consulenti per le valutazioni di non discriminazione e conformità. Prezzo del servizio: 399 $ di assessment e 3.999 $/mese (IVA 22% per i clienti italiani). Esplora la piattaforma su osFoundry, oppure parla con dgm.

Informazioni generali, non consulenza legale. Le valutazioni di non discriminazione e conformità spettano ai consulenti.