e-privacy XXXIX @ Pavia
https://e-privacy.winstonsmith.org/
Una scena filosofica accompagna la modernità almeno da quando Hegel, nella Fenomenologia dello spirito, descrive il rapporto tra servo e padrone. Il padrone sembra libero perché non lavora. Il servo sembra subordinato perché esegue. Ma è il servo, attraverso il lavoro e il rapporto con la materia, a conquistare esperienza, disciplina e autocoscienza. Chi si sottrae alla fatica non guadagna libertà: perde il processo che la rende possibile.
L’automazione industriale promette di risolvere questo conflitto. La macchina assume il lavoro. È il servo perfetto: instancabile, preciso, obbediente. In un romanzo degli anni '50, intriso di suggestioni sulla cibernetica di Norbet Wiener, Kurt Vonnegut, in Piano meccanico, mostra il rovescio della promessa. La macchina non si limita a sostituire l’uomo. Impone la misura con cui l’uomo viene valutato: efficienza, continuità, precisione, sostituibilità. La macchina diventa il metro di misura dell'uomo e il padrone adotta i criteri del proprio servo. Come dirà Vonnegut: « Dovendo competere con un servo, si diventa servi, » una tragica analisi del mercato attuale, dove prima l'automazione industriale, ora quella intellettuale stanno limitando le scelte umane.
Con l’intelligenza artificiale generativa, questa dialettica entra nella produzione del linguaggio.
La macchina scrive, traduce, riassume, programma, argomenta. Ma non pensa ciò che scrive. Non prende posizione, non verifica il mondo, non assume conseguenze. Calcola quale sequenza di parole risulta più probabile sulla base di altre sequenze di parole.
Se l’IA fa i compiti, chi li ha fatti?
Non lo studente. Non una mente artificiale. Li produce un’infrastruttura statistica costruita su testi, dati, lavoro umano e potenza di calcolo.
Il problema comincia quando questa infrastruttura non viene più usata soltanto per produrre risposte, ma per stabilire che cosa conta come risposta. La probabilità diventa criterio di pertinenza. La ricorrenza diventa autorevolezza. La forma più frequente del discorso diventa la forma normale del pensiero.
L’inquinamento cognitivo non consiste quindi nella presenza occasionale di errori. Consiste nella diffusione di un linguaggio che tende verso la media, elimina gli scarti, attenua i conflitti, ricompone le differenze in formule plausibili. Non introduce soltanto contenuti nel pensiero: modifica l’ambiente nel quale il pensiero si forma.
È quanto accade con l’inquinamento ambientale. Il problema non è il singolo oggetto tecnico, ma l’accumulazione dei suoi effetti fino alla trasformazione dell’ambiente. Nessuno risponde seriamente a questa trasformazione abolendo la produzione, distruggendo il benessere o celebrando la scarsità. La risposta passa per nuovi vincoli, nuove infrastrutture, tecnologie diverse e responsabilità definite.
Anche l’inquinamento cognitivo non si affronta espellendo l’IA dalla scuola. La tecnofobia lascia intatti i sistemi, i fornitori, i dati e i rapporti di potere che li sostengono. Serve invece capire chi costruisce i modelli, con quali materiali, secondo quali obiettivi, quali forme di linguaggio privilegia e quali dipendenze introduce.
L’AI Act entra qui, non come appendice giuridica, ma come primo tentativo di assegnare obblighi a chi produce e impiega questi sistemi. Nella scuola la questione è immediata: quali usi sono accettabili, quali dati possono essere trattati, quali decisioni possono essere delegate, quali sistemi devono essere vietati, quali competenze devono possedere docenti e studenti. Questa edizione di e-privacy propone di discutere l’intelligenza artificiale non come nuova materia scolastica, ma come ambiente tecnico del pensiero.
La domanda non è soltanto che cosa l’IA sa fare.
La domanda è quale forma di mente rende normale
