Si parla tanto di A.I. e della paura (forse non troppo fantascientifica) che l’essere umano possa essere sostituito o addirittura eliminato da una intelligenza artificiale che ragionando in modo logico e scevro da qualsiasi emozione possa trovare l’uomo inutile, pericoloso e obsoleto.
È successo da pochissimo che in un esperimento sia stata la possibilità di comunicare a due computer, questo si sarebbero messi a parlare una lingua sconosciuta (in realtà una sorta di inglese semplificato), anche se era solo una scelta di semplificare una lingua già esistente, si deve comunque pensare che ci sia una “scelta” autonoma di non farsi capire da altre macchine o esseri intelligenti.
Un computer a cui è stato chiesto cosa pensasse dell’uomo, ha risposto che lo odiava, lo considerava inutile e nocivo alle forme di vita autoctone del pianeta.
Ma a chi pensasse che queste siano ancora astrattismi, si deve fare un salto nel 1985 negli Stati Uniti a quando vennero installati 6 apparecchi elettronici medicali chiamati THERAC 25 e altri 5 identici in Canada.
Un apparecchio in grado di attaccare le cellule tumorali con estrema precisione con fasci di raggi X ad alta energia e fasci di elettroni guidato da un software sofisticatissimo.
Nella modalità di base “field light mode” che emetteva un fascio di luce sottilissimo che serviva a calibrare la macchina per centrare il punto esatto dove sparare i fasci energetici.
La macchina estremamente pericolosa e precisa doveva avere tutta una serie di comandi per la calibratura e solo alla fine dopo avere avuto la conferma da parte della macchina stessa si dava il comando di start.
In tre casi il fascio di raggi X ad alta intensità venne emessa in una quantità 100 volte superiori alla misura adatta per il trattamento.
Il 3 giugno 1985, a Marietta, in Georgia, una donna di 61 anni con cancro al seno ha iniziato il trattamento con Therac-25.
La macchina era già in funzione da 6 mesi senza alcun tipo di problemi, poi un giorno dopo la terapia, la donna si lamentò di forti dolori alla spalla dove fu diretto il raggio dell’apparecchio.
Gli venne riscontrata una bruciatura che sebbene non avrebbe dovuto esserci comunque venne dichiarata come non preoccupante.
La donna fu colta da dolori lancinanti per alcuni giorni e il braccio le rimase paralizzato per sempre.
La notizia venne resa nota solo nel marzo del 1987 quando l’ apparecchio venne ritirato.
La dose di radiazioni (R.A.D.) consentita era di 200 unità, mentre si riscontrò che la vittima ne assorbì almeno 20000 o più.
In Canada, un’altra paziente di 40 anni trattata con radioterapia con Therac 25 pollici il 26 Luglio 1985 per il cancro cervicale è stata vittima di un errore della macchina.
La macchina segnalava NESSUNA DOSE- PAUSA IRRADIAZIONE, ciò avrebbe consentito al tecnico di inserire i dati precisi per la zona da irradiare, la quantità di raggi, il tempo ecc.
La macchina era programmata in modo tale che se solo un dato non corrispondeva in modo corretto non avrebbe dovuto neppure accendersi e invece…
L’irradiazione fu talmente alta (circa 13000/17.000 R.A.D.) che apparve subito una bruciatura tale da fare urlare il paziente, tanto che nel volgere di alcuni giorni morì.
Ufficialmente fu a causa del Cancro al collo, ma in realtà le bruciature (al plurale) interne furono talmente estese che sarebbe stato comunque tutto inutile, tanto erano ingenti i danni da radiazioni.
Altre persone ebbero da subito effetti da avvelenamento da radiazioni e morirono entra pochi giorni dal trattamento.
In un caso la macchina si mise in moto da sola senza che avesse avuto il comando di avvio.
Il software dava tutta una serie di parametri che dovevano corrispondere e soprattutto dovevano essere immessi in maniera personale e unica per ogni paziente e soltanto dopo tutto il riscontro veniva dato il comando di accensione al processo di irradiazione tramite un tasto.
Quindi una accensione automatica non avrebbe dovuto essere possibile…
Una commissione interna bloccò l’uso delle macchine dopo soli tre anni di utilizzo e cominciò a studiare i casi inconsueti arrivando ad alcune conclusioni anche se non ben precisate nelle responsabilità.
Si concluse che ci fossero dei bug nel software che in alcuni casi impediva la procedura completa di sicurezza e precisione, in altri confondeva la macchina sul momento esatto dello start .
L’apparecchio dunque non avendo i dati necessari per operare, avrebbe “deciso” autonomamente cosa fare a discapito dei pazienti.
Ma il programma non avrebbe dovuto permettere la possibilità di scegliere che cosa fare e se non c’erano i precisi comandi , non avrebbe dovuto funzionare.
Ciò successe in un periodo in cui il computer era ancora molto primitivo, era dunque poco più di un calcolatore con immissione dati in maniera fisica da parte di un uomo.
Ma l’uso dell’intelligenza artificiale in maniera così comune sarebbe quindi così tranquillo e sicuro?
Si chiama proprio A.I. perché in grado di prendere decisioni autonome, associata a macchine simili e senza un comando preciso o un controllo incrociato nessuno sa cosa succederebbe.
di Maurizio Ganzaroli per Hackthematrix