Dall’interazione alla relazione con l’IA.
Dall’interazione alla relazione con l’IA. È arrivata la nuova generazione di assistenti vocali.
Questa volta, a guidare le novità non sono tanto gli effetti WOW a cui ci stanno abituando, quanto la necessità di un cambio di paradigma in termini di consapevolezza e responsabilità.
L’interazione con l’IA non si limita più al semplice input-output, come “accendi le luci” o “dammi le previsioni del tempo”.
Stiamo entrati in una nuova fase di continuum relazionale, che include una memoria a lungo termine, come nuova forma di profilazione dei dati personali, e una capacità linguistica straordinaria che riguarda i rischi intrinsechi dell’Art. 5 dell’AI Act sulle pratiche proibite e vietate, con attenzione al crescente potenziale “dual use” che potrebbe annidarsi dentro le scatole nere.
A partire dal 2 febbraio 2025 entreranno in vigore le restrizioni sui sistemi di intelligenza artificiale (IA) considerati più pericolosi previste dal nuovo regolamento, come ad esempio:
- Sistemi che utilizzano tecniche subliminali, manipolative o ingannevoli per influenzare il comportamento delle persone.
- Sistemi che approfittano di persone vulnerabili, come anziani o disabili.
- Sistemi che attribuiscono punteggi sociali basati su condotte o personalità, creando schedature delle persone.
- Sistemi che prevedono la probabilità che una persona commetta un crimine.
- Sistemi che alimentano database di riconoscimento facciale con immagini raccolte indiscriminatamente da Internet.
- Sistemi che leggono le emozioni delle persone sul luogo di lavoro o a scuola.
- Sistemi che classificano e profilano le persone utilizzando dati biometrici.
- Sistemi che identificano a distanza e in tempo reale persone in luoghi pubblici, salvo motivi di giustizia o sicurezza.
Alcune mie riflessioni sul tema per il TG di Teleticino, condotto da Alessandro Cocca.
» Hai domande? Scrivimi