Quando è stata l’ultima volta che hai fatto una ricerca sul web senza che qualcuno avesse già deciso per te cosa dovevi trovare?
Il 19 settembre Arianna Ciracò, avvocata esperta in legal tech, ha smontato la narrazione della tecnologia come “servizio gratuito per l’utente”. La verità è che non siamo di fronte a un’offerta o un dono, ma a un contratto di servitù volontaria
per cui cediamo dati e pensiero in cambio del privilegio di non fare fatica. Ciracò ha esplorato in particolare la dimensione dell’Onlife, la condizione in cui la sfera analogica e quella digitale si fondono in un’unica infosfera, ossia l’ambiente di informazioni e relazioni in cui siamo costantemente connessi. Ciracò evidenzia come la nostra autonomia sul web non sia un diritto garantito, ma un’illusione che gli algoritmi alimentano ogni giorno.
Quando effettuiamo una qualsiasi attività online, le piattaforme attivano un processo articolato in tre fasi: l’indicizzazione (indexing) per catalogare e organizzare i contenuti, decidendo a monte cosa esiste e cosa no, la classificazione (ranking) per stabilire un ordine di visibilità il più appealing possibile per l’utente, e la profilazione (profiling), ossia l’attività di monitoraggio finalizzata a dedurre i nostri interessi e prevedere le nostre azioni future. Si originano così, da un lato, le filter bubble, un ambiente informativo e personalizzato che mostra solo i contenuti che si allineano con le preferenze dell’utente, isolandolo da punti di vista diversi, e, dall’altro, le echo chamber, una “stanza” virtuale in cui persone con le stesse idee si incontrano, rinforzando le proprie opinioni fino a farle sembrare l’unica verità possibile. Il rischio combinato di queste due strutture digitali è l’isolamento degli individui in spazi informativi opachi che manipolano le loro decisioni, amplificano la disinformazione e frammentano il dibattito democratico attraverso la polarizzazione aggressiva delle opinioni.
A queste distorsioni informative si sommano anche rischi giuridici e cognitivi. Sul piano legale, la profilazione e l’uso non autorizzato di dati, immagini e voci (come nei deepfake, falsificati tramite l’AI in modo da essere estremamente realistici) minacciano la privacy e la reputazione individuale. Per contenere discriminazioni e abusi, l’AI Act europeo (Regolamento UE 2024/1689) ha introdotto una classificazione del rischio, proibendo pratiche inaccettabili come il social scoring o le tecniche subliminali e offrendo maggiore garanzia agli utenti.
Invece sul piano cognitivo, i rischi principali sono l’epistemia, ossia l’illusione di conoscenza che si ha quando si interagisce con l’AI, e la sycophancy, vale a dire la tendenza del modello ad assecondare l’utente. A questo si aggiunge il fenomeno delle allucinazioni. L’AI non garantisce risposte sempre esatte né un’effettiva aderenza alla realtà, poiché i modelli generativi lavorano su basi probabilistiche (calcolando la sequenza di parole più probabile) e non su una reale comprensione dei fatti. Fare affidamento su questi strumenti alimenta così il cognitive offloading, ovvero la delega sistematica del pensiero critico alla macchina, con conseguente depotenziamento delle competenze professionali e analitiche (deskilling).
La riflessione che emerge, dunque, non riguarda il rifiuto della tecnologia, ma la necessità di riconoscerne il vero costo. Tra la profilazione invisibile del web e la delega cognitiva all’AI, il rischio reale è scambiare la comodità di questi strumenti con la perdita della nostra indipendenza. Ciracò sottolinea come la sfida del futuro si gioca sulla nostra capacità di continuare a dubitare, verificare le fonti e esercitare il nostro pensiero critico per rimanere soggetti realmente attivi e consapevoli all’interno dell’infosfera.
Articolo scritto da Ylenia Salomone
