giobi.com academy · corso di intelligenza artificiale · Emisfera · modulo 1.4

Riconoscere le emozioni
Cosa vieta davvero l'AI Act, e cosa no

Risposta alla domanda rimasta aperta il 14 ottobre, con i riferimenti. Da leggere prima della lezione del 28 ottobre sulla compliance.

La domanda fatta in aula, 14 ottobre

Il divieto di riconoscere le emozioni sul posto di lavoro vale anche se do all'IA una serie di mail e le chiedo come si muove l'umore di chi scrive, per poi decidere di conseguenza?

La risposta breve

No, quel caso non rientra nel divieto. Il divieto dell'AI Act riguarda i sistemi che leggono le emozioni dai dati biometrici: volto, voce, postura, modo di digitare. Un testo scritto non è un dato biometrico, e le linee guida della Commissione lo dicono in modo esplicito.

Questo però non lo rende un uso libero. Se l'analisi serve a decidere qualcosa su una persona che lavora con noi, entrano in gioco altre regole, alcune già in vigore da anni: lo Statuto dei lavoratori, il GDPR, l'obbligo di informare i lavoratori. E dal dicembre 2027 l'AI Act lo classifica come sistema ad alto rischio.

È la lettura di un tecnico che ha letto le norme e le linee guida, non un parere legale. Per un progetto vero che tocca i dati dei lavoratori il passaggio obbligato sono le Risorse Umane e il responsabile della protezione dei dati.

Da dove viene il divieto

Due righe del regolamento europeo, in vigore dal 2 febbraio 2025.

L'AI Act (regolamento UE 2024/1689) elenca all'articolo 5 le pratiche vietate. La lettera f) riguarda il nostro caso:

«l'immissione sul mercato, la messa in servizio per tale finalità specifica o l'uso di sistemi di IA per inferire le emozioni di una persona fisica nell'ambito del luogo di lavoro e degli istituti di istruzione, tranne laddove l'uso del sistema di IA sia destinato a essere messo in funzione o immesso sul mercato per motivi medici o di sicurezza»AI Act, articolo 5, paragrafo 1, lettera f)

La frase non dice «biometrici». Lo dice la definizione di sistema di riconoscimento delle emozioni, che è quella che conta:

«sistema di riconoscimento delle emozioni»: un sistema di IA finalizzato all'identificazione o all'inferenza di emozioni o intenzioni di persone fisiche sulla base dei loro dati biometriciAI Act, articolo 3, punto 39
«dati biometrici»: i dati personali ottenuti da un trattamento tecnico specifico relativi alle caratteristiche fisiche, fisiologiche o comportamentali di una persona fisica, quali le immagini facciali o i dati dattiloscopiciAI Act, articolo 3, punto 34

Il motivo del divieto è scritto nel considerando 44: la base scientifica di questi sistemi è debole, l'espressione delle emozioni cambia con la cultura, la situazione e perfino la stessa persona in momenti diversi, e nel lavoro e nella scuola c'è uno squilibrio di potere che rende il danno più probabile.

Il testo scritto resta fuori: lo dice la Commissione

Linee guida sulle pratiche vietate, versione del 29 luglio 2025.

Le linee guida della Commissione europea sulle pratiche vietate (documento C(2025) 5052) dedicano un capitolo al riconoscimento delle emozioni. Il passaggio che risponde alla domanda dell'aula è al paragrafo 251, con due esempi messi uno accanto all'altro. In traduzione:

Il paragrafo 265 ripete il confine in forma di elenco: sono fuori dal divieto i sistemi che deducono emozioni e sentimenti non a partire da dati biometrici, e quelli che rilevano stati fisici come dolore e stanchezza.

Un secondo confine, al paragrafo 266: il divieto protegge chi lavora e chi studia, non i clienti. Leggere l'umore di un cliente, anche dalla voce in un call center, non è vietato da questa lettera (resta alto rischio, e restano GDPR e le altre norme). Leggere l'umore dell'operatore dalla stessa voce lo è.

Le linee guida non sono vincolanti: l'interpretazione finale spetta alla Corte di giustizia. Sono però il documento con cui la Commissione dice come intende applicare la norma, e nessuna autorità ha finora detto il contrario.

Tre livelli, non uno

La domanda giusta non è solo «è vietato?», ma «quali regole si applicano?».

Vietato · dal 2 febbraio 2025

Dedurre le emozioni di lavoratori o studenti da dati biometrici: webcam durante le call, analisi della voce, della postura, del modo di digitare. Unica eccezione: motivi medici o di sicurezza, per esempio rilevare la stanchezza di chi guida.

Alto rischio · dal 2 dicembre 2027

L'allegato III dell'AI Act, al punto 4, lettera b), elenca i sistemi usati «per adottare decisioni riguardanti le condizioni dei rapporti di lavoro», «per assegnare compiti sulla base del comportamento individuale» o «per monitorare e valutare le prestazioni e il comportamento delle persone». Un sistema che legge il tono delle mail dei colleghi per decidere su di loro sta qui: non è vietato, ma chi lo fornisce e chi lo usa ha obblighi precisi, fra cui la sorveglianza umana e l'informazione ai lavoratori e ai loro rappresentanti prima di metterlo in uso (articolo 26, paragrafo 7).

La data è quella fissata dal Digital Omnibus (regolamento UE 2026/1744, in vigore dal 27 luglio 2026), che ha spostato gli obblighi per l'alto rischio dal 2026 al dicembre 2027. I divieti dell'articolo 5 non sono stati toccati.

Regole italiane · già in vigore, a prescindere dall'AI Act

Statuto dei lavoratori, articolo 4. Gli strumenti da cui deriva la possibilità di controllare a distanza chi lavora si usano solo per esigenze organizzative, di sicurezza o di tutela del patrimonio, e con accordo sindacale o autorizzazione dell'Ispettorato. La posta elettronica è uno strumento di lavoro, ma analizzarne il contenuto per valutare le persone va oltre l'uso dello strumento.

GDPR. Il contenuto delle mail sono dati personali di chi scrive e di chi riceve. Serve una base giuridica, una valutazione d'impatto quando il trattamento è sistematico, e l'articolo 22 limita le decisioni prese solo in modo automatizzato. Il Garante, con il provvedimento del 6 giugno 2024 sui metadati di posta, ha indicato che già i soli metadati (mittente, destinatario, orari) non si conservano oltre 21 giorni senza le garanzie dell'articolo 4.

Obbligo di informazione. Il decreto Trasparenza (articolo 1-bis del decreto legislativo 152/1997) impone di informare per iscritto i lavoratori quando si usano sistemi decisionali o di monitoraggio automatizzati. La legge 132/2025 sull'IA, dal 10 ottobre 2025, lo richiama espressamente per l'uso dell'IA nel lavoro e aggiunge che l'uso deve essere sicuro, affidabile, trasparente e rispettoso della dignità e della riservatezza.

I casi, uno per uno

Gli esempi che sono usciti in aula e quelli che è facile incontrare.

Cosa si faAI ActCosa conta davvero
Leggere il tono di una mail di un cliente per rispondere meglioConsentitoNessuna biometria, nessun lavoratore. Restano le regole del vademecum: i dati del cliente sono dati personali, non vanno in uno strumento non autorizzato.
Chiedere all'IA come sta andando uno scambio di mail con un collega, per impostare la propria rispostaConsentitoUso personale, nessuna decisione su quella persona. Stessa cautela di sopra sullo strumento.
Analizzare nel tempo le mail dei collaboratori per capire chi è demotivato e decidere promozioni, richiami, assegnazioniAlto rischio dal 2027Non è vietato dall'articolo 5, ma oggi si scontra con Statuto articolo 4, GDPR e obbligo di informazione. Non è una cosa che si fa da soli: è un progetto con RU, DPO e rappresentanze.
Webcam o microfono in riunione per capire l'umore dei colleghiVietatoVolto e voce sono dati biometrici. In vigore dal febbraio 2025.
Analizzare il ritmo di digitazione per capire lo stressVietatoIl modo di digitare è biometria comportamentale: l'esempio è proprio nelle linee guida.
Rilevare la stanchezza di chi guida un mezzo aziendaleEccezioneMotivo di sicurezza, e la stanchezza è uno stato fisico, non un'emozione.
Call center: leggere le emozioni del cliente dalla voceAlto rischioNon vietato perché è un cliente, ma è riconoscimento biometrico delle emozioni: allegato III, punto 1, lettera c). E va detto al cliente (articolo 50, paragrafo 3).
Call center: leggere le emozioni dell'operatore dalla voceVietatoStessa tecnologia, persona diversa. È l'esempio usato dalla Commissione.

Cosa ci portiamo nel corso

Dove si collega con quello che abbiamo già detto.

Fonti

Tutte aperte e verificate il 16 ottobre 2026. Le citazioni in italiano vengono dal testo ufficiale del regolamento; i paragrafi delle linee guida sono citati dalla versione inglese, l'unica pubblicata.