Un Boeing 737 MAX 8, precipitò il 10 marzo 2019 e tutti i presenti a bordo, 157 tra passeggeri e membri dell’equipaggio, morirono. Abbiamo scelto questo incidente tra i tanti, perché è ben documentato e analizzato. Come una doccia gelata sui troppi tecnoillusi, la tragedia del volo Ethiopian rievoca gli spettri della fantascienza: i rischi della tecnologia ma progettata e mal realizzata e inaffidabile contro il mito dei miracoli della tecnologia.
Senza entrare troppo nei dettagli tecnici, che richiederebbero un piccolo volume anche solo in forma discorsiva, una delle cause dell’incidente riguarda il software che assiste i piloti durante il volo: avrebbe ricevuto dati anomali (stimando una errata posizione del velivolo) che l’equipaggio cercava di correggere manualmente ma proprio i tentavi di «intromissione» manuale negli automatismi avrebbero però indotto il computer a escludere l’intervento umano, come per evitare un dirottamento. Nel tempo ci sono state diatribe per scaricare la responsabilità sull’equipaggio ma se i sistemi avessero funzionato bene non ci sarebbero stati problemi. E questo non è stato né il primo né l’ultimo dei problemi causati dal malfunzionamento di sistemi informatici. In un incidente precedente il pilota aveva cercato per decine di volte di tirare su il muso dell’aereo, ma il software lo respingeva giù per un sensore guasto, e non era possibile escludere il computer.
Troppi non vogliono accettare che i problemi, causati da malfunzionamenti, e malprogettazioni, nei sistemi di guida autonoma di un velivolo possono verificarsi ovunque, tanto più quanto è complesso il dispositivo. Realismo inevitabile soprattutto oggi che uno dei più grandi settori economici, quello automobilistico, ha come obiettivo la guida autonoma dei veicoli. Qui per autonoma si intende il significato letterale in italiano: un veicolo che si muove da solo su ogni strada e in ogni condizione, ed è questo significato che seduce gli acquirenti, inducendoli in errore.
L’incidente fu il secondo in cinque mesi che coinvolgeva un esemplare del Being 737 Max, modello di punta dell’azienda di Seattle. Il crollo delle azioni Boeing a Wall Street non è stato un sollecito a procedere con maggior prudenza sulla strada dell’innovazione, perché le aziende private per definizione mettono il profitto prima di ogni cosa, e il crollo delle azioni fu solo una conseguenza del crollo previsto dei profitti futuri. Ma avrebbe dovuto essere uno dei tanti consigli alle aziende a non confidare in ritorni a breve sugli investimenti nella guida “cosiddetta” autonoma.
Sistemi tecnologici simili a quelli usati per gli aerei sono usati (potremmo scrivere riprogettati) per i veicoli, con alcune differenze essenziali. L’ambiente dove si muovono i veicoli è molto più complesso di quello dove si muovono gli aerei. Le interazioni con altri attori sulla strada sono migliaia di volte di più che in aria. I tempi di reazione per una vettura sono estremamente più ridotti rispetto a quelli che in media deve avere un aereo. L’ambiente dove si muove una vettura è molto più permeato da fattori casuali di un volo di linea. La manutenzione dei sistemi di guida di una vettura non potrà mai essere ai livelli di quella a cui è obbligato un aereo, e le cattive manutenzioni nelle vetture sono scontate. Fino a che non ci saranno riduzioni di costo di migliaia di volte, i sistemi di guida veramente autonoma veramente efficaci costeranno troppo per i normali veicoli; costi così alti possono essere accettati, forse, per veicoli da guerra ma non certo per veicoli di massa. Il crollo delle vendite di auto seguente all’imposizione dei veicoli a batteria da parte della Commissioen Europee è una delle tente prove.
Se, nonostante tutti i controlli a cui è sottoposto un aereo di linea, possono verificarsi incidenti dovuti ai sistemi informatici, magari tripli, cosa accadrebbe alle normali vetture, i cui proprietari nel 10% dei casi (in Italia) addirittura posticipano o omettono la revisione periodica, che in realtà controlla una minima parte del veicolo?
Se l’incidente può accadere a un aereo, che si muove in un contesto controllatissimo, cosa può accadere a un veicolo che si muove in un contesto sostanzialmente privo di controlli? Il Codice della Strada e la sua applicazione sono già drammaticamente inadeguati a garantire la sicurezza, e questo costa all’Italia decine di migliaia di invalidi a vita ogni anno, come si può pensare che vi siano la volontà e la capacità di adeguarlo “effettivamente” alle vetture a guida autonoma? Quando già per i monopattini a batteria, semplicissimi, gli interventi normativi sono stati tardivi?
Certo , mezzi di trasporto a guida autonoma esistono già. Si chiamano ascensori, si muovono in un contesto controllatissimo, eppure gran parte degli ascensori italiani andrebbero sostituiti e nessun condominio vuole farlo finché non è costretto; e si tratta di sistemi tutto sommato semplici. Già oggi le vetture hanno problemi di manutenzione tremendi per la presenza di software e sensori, tutti sistemi progettati con insufficiente (nei fatti le specifiche sono ancora troppo lasche) attenzione alla affidabilità, e si da per scontata una qualificazione dei manutentori costosissima e quindi economicamente irrealizzabile per tutti. Cosa accadrebbe se la guida fosse ancora più automatizzata? L’attuale caos del settore web origina da una mancanza dall’origine di normative e controlli adeguati, su un settore che nasce pubblico e diventa privato, per le vetture a guida autonoma il processo si sta ripetendo.
E’ inutile chiedere che sia istituito un ulteriore Organismo di Controllo: esiste già, e si chiama Ministero delle Infrastrutture e dei Trasporti. Non ha organico adeguato in qualità e quantità. Non ha i fondi né i laboratori necessari per i controlli. Non ha realizzato tutti gli accordi che sarebbero necessarii per mancanza di fondi e personale. Non esiste un quadro legislativo adeguato alle esigenze dell’automazione che lo coinvolga. In Italia un settore dei controlli normativi sulla automazione e digitalizzazione dei veicoli che sia adeguato alle necessità è da costruire. Non si riesce neanche ad attuare una strategia efficace di repressione per impedire “effettivamente” l’uso dei gadget digitali alla guida: costerebbe troppo!
Aggiungo che in Italia la guida autonoma non funzionerebbe nemmeno sulle autostrade visto la situazione del manto stradale e la guida scellerata di troppi automobilisti. Attualmente circolano delle vetture con singoli sistemi di controllo. Un mio amico, volendo evitare un pericolo sulla sua corsia di marcia, sterzò a sx per andare su quella di dx, ma il sistema di mantenimento in carreggiata lo riportava a dx. A me capitò che il sistema di velocità automatica si bloccò e non riuscivo né a rallentare, né a reinserirlo. Scalando le marce, riuscii a fermarmi, ma da allora non lo ho più usato.