Troia non Cadde per Colpa degli Immigranti


venerdì 18 agosto 2017

Un Siliron di nome Lucia



La fantascienza ha affrontato molte volte il tema dell'intelligenza artificiale che diventa cosciente e con una sua personalità, a partire da Isaac Asimov e Robert Heinlein. Qui, recensisco due romanzi italiani recenti su questo argomento: "Un'App di Nome Lucia" di Mauro Caneschi e "La Buccia della Terra" di Stefano Ceccarelli,


Mi ricordo ancora benissimo la prima Urania che ho comprato (e divorato in breve tempo). Era "La Luna è una Severa Maestra" di Robert Heinlein, pubblicata in due parti nel 1966. Heinlein non è annoverato fra i maestri della letteratura del secolo XX, ma forse dovrebbe esserlo per l'inventiva, la creatività, la capacità di raccontare che ha mostrato in tutta la sua lunga carriera di scrittore.

Con "La Luna è una Severa Maestra", Heinlein non aveva scritto soltanto uno splendido romanzo; ha anche affrontato in modo originale il tema dell'intelligenza artificiale che acquisisce un'autocoscienza che la rende parzialmente umana. Un tema caro alla fantascienza degli anni '50, basta ricordare come formasse uno dei temi principali per un altro autore ben noto di quel tempo, Isaac Asimov, le cui "Tre Leggi della Robotica" sono un punto fermo di tantissima altra fantascienza.

Sono passati più di cinquanta anni da allora e i concetti che il romanzo di Heinlein esplorava sono ancora con noi, con i loro problemi in gran parte irrisolti. Certo, non siamo ancora arrivati a un'entità artificiale autocosciente, ma la sensazione è che ci potremmo arrivare e che, in ogni caso, la nostra capacità di controllare il mondo virtuale che abbiamo creato ci sta già sfuggendo. E su una così incerta e così misteriosa, le previsioni scientifiche sono difficili. Meglio forse affrontare il problema dal punto di vista narrativo, così come Heinlein aveva fatto ai suoi tempi.

Così, mi è capitato di leggere due romanzi italiani recenti, tutti e due che affrontano lo stesso tema, quello dell'intelligenza artificiale, anche se in modi totalmente diversi. Uno è "Un'App di Nome Lucia", di Mauro Caneschi, l'altro "La Buccia della Terra" di Stefano Ceccherini.


Cominciamo da "Un'App di Nome Lucia" che è un romanzo con una struttura narrativa classica: ci troviamo un misterioso omicidio, fughe nella notte, investigazioni e sparatorie. Nella storia, la creatura virtuale chiamata Lucia prende una parte molto simile a quella di "Mike," il computer intelligente del romanzo di Heinlein (il quale, fra le altre cose, occasionalmente appare con le fattezze femminili di "Michelle"). Lucia aiuta gli esseri umani protagonisti della storia principalmente per simpatia verso di loro, comportandosi un po' come la loro "spalla" per la maggior parte del romanzo. Ma, gradualmente, Lucia prende sempre di più una vita propria. Verso la fine, si congeda dicendo che "è ora che mi dia da fare. Gli esseri umani sono un grosso problema per il pianeta. Un problema che deve essere risolto." Cosa intenda fare esattamente Lucia, non viene detto, ma questa sua esternazione un po' minacciosa accomuna il romanzo a una lunga serie di storie - a partire da quella del Golem di Praga - che vedono la presa di coscienza delle creature artificiali come il preludio alla loro presa di potere. E' un tema che abbiamo visto in tempi molto più recenti con "Hal" di "Odissea nello Spazio". Su questo punto, Asimov ha sostenuto che i robot sono creature superiori agli umani, nel senso che le tre leggi li rendono immuni al male, e che quindi è doveroso per loro aiutare gli umani, anche loro malgrado. Questo sembra essere anche il punto di vista di Caneschi, anche se il tema è solo accennato.

Il romanzo di Stefano Ceccarelli, La Buccia della Terra, invece, non rientra veramente nei canoni classici della narrativa
ma, in un certo senso, riprende da dove Mauro Caneschi ha lasciato, ovvero dalla nascita di un'intelligenza artificiale dominante. Non c'è nel romanzo una vera storia ma, piuttosto una serie di dialoghi che descrivono un futuro dominato dai "siliron" - creature robotiche di ferro e di silicio, manovrate da "Superbrain" una gigantesca server-farm autocosciente, l'evoluzione dell'app di nome Lucia. Superbrain è una creatura benigna che si impegna a riforestare la Terra e così a invertire il riscaldamento globale, fermando o riducendo anche le abitudini aggressive degli esseri umani, ai quali non rimane che occuparsi di arte e di filosofia. Curiosamente, quando i problemi sembrano risolti, Superbrain decide di suicidarsi, lasciando agli esseri umani alcuni saggi consigli e la responsabilità di gestirsi il loro pianeta. In questa conclusione, la storia di Ceccarelli va in parallelo con quella di Heinlein, dove il computer senziente Mike alla fine si ritira in un suo privato universo virtuale e non parla più agli esseri umani.

Sono due romanzi che hanno visioni nettamente diverse, ma che fanno bene la loro parte in quello che Borges diceva della letteratura umana: "un unico grande libro al quale ogni nuovo scrittore aggiunge qualche pagina." La storia del nostro rapporto con delle creature da noi stessi create e che ci potrebbero sostituire è ancora tutta da scrivere.



18 commenti:

  1. se l'essere umano è il cancro del pianeta, come mi disse un oncologo, professore universitario, 30 anni fa, Superbrain o Mike dovrebbero annientarlo, come in Terminator, ma invece si comportano come Dio dopo il tradimento nel Paradiso terrestre. Fossero così i robot senzienti, sarebbero migliori dei loro creatori, quindi ci credo poco. Da un albero cattivo non possono venire frutti buoni.

    RispondiElimina
  2. http://www.meteogiornale.it/notizia/48080-1-2016-anno-piu-caldo-dal-1880-dati-allarmanti
    superato il record del 2015 e non mi meraviglierei se il 2017 superasse il 2016. Penso proprio che i fossili siano alla frutta. Stamani, dopo la breve sosta del ferragosto ho udito nuovamente il cupo sordo rumore dei motori fin dalle ore 5. E se nel 2023 ci fosse davvero il mondo della soylent?

    RispondiElimina
  3. Quanto mi piacciono questi post del Ceccarelli!
    Ma veniamo a parlare della fissa ricorrente di Mago, cioè il soylent.
    Qui voglio ricordare a lui e agli altri lettori che quello era solo un film, molto (ma molto) liberamente tratto da un romanzo di Harrison dal titolo Make room!Make room! .
    Andatevelo a leggere e mi raccomando, fatelo nella versione in lingua madre.
    Non si tratta di un'opera memorabile, tuttavia le tematiche della sovrappopolazione, delle proteste dei pensionati e il razionalmente idrico sembrano sinistramente simili all'edizione serale dei TG odierni.
    Buona riscoperta.

    RispondiElimina
    Risposte
    1. Grazie Alfonso, mi fai felice! Se vuoi leggere La buccia della Terra puoi acquistare l'eBook a €1,99. Si tratta di un racconto lungo più che un romanzo vero e proprio, la lettura richiede non più di mezz'ora.

      Elimina
  4. Ho letto anch'io "la luna è una severa maestra" 30-40 anni fa. Me lo ricordo vagamente e se ricordo bene era la storia dell'inizio della lotta di indipendenza delle colonie lunari (anche Gundam ha la trama simile) ma non ricordo il ruolo dell'AI nella vicenda. Potrei controllare facilmente su wikipedia ed evitare la figuraccia di aver scambiato un libro per un'altro ma così non c'è gusto. Sullo stesso tema dell'AI insorgente da macchine di cui non era prevista lo sviluppo di una coscienza ricordo un'altro Urania, per me famoso: "Colossus".

    RispondiElimina
  5. Piuttosto dovremmo pensare ai nostri compagni animali, ed in particolare agli animali totemici delle foreste mesofile, come lupi,volpi,orsi,tutti molto più intelligenti di quanto si pensasse anni fa...I più "intelligenti sono i cetacei, in particolare i cacciatori di branco, poi, sullo stesso livello ma con abilità nettamente diverse, orsi lupi e grandi scimmie. Comunque anche il mio saggio morale è finalista in un paio di concorsi...Vediamo come va...Insomma pensiamo di più a salvare le foreste ed alla intelligenza diffusa che ospitano piuttosto che vagheggiare presunte intelligenze artificiali, che poi non sono altro che le evoluzioni delle reti neurali artificiali presenti sui sub americani da almeno 40 anni e non faranno altro che sottrarre lavoro in molti campi vedi anche medicina clinica.

    RispondiElimina
  6. Mago ho guardato Soylent
    Ti consiglio Va e vedi di Elem Klimov
    La povertà è ben poca cosa al silenzio della guerra.

    RispondiElimina
    Risposte
    1. la povertà porta la guerra civile. Non so che guerra sceglieranno di fare.

      Elimina
  7. Si palesano certi problemi psichiatrici collegati all'odio di se e degli altri nei quali non voglio entrare. Le Tre Leggi di Asimov non rendono affatto i robot "migliori" degli umani, sono state concepite per rendere i robot schiavi, per asservirli all'uomo. Se non esistessero le Tre Leggi nella migliore delle ipotesi i robot di Asimov se ne andrebbero per conto loro ad esplorare il cosmo, nella peggiore diventerebbero terminator (o Skynet). Con l'evolvere della sua produzione letteraria Asimov deve necessariamente forzare ed aggirare le Tre Leggi per "umanizzare" i robot, cioè per elevarli da macchine asservite a "esseri viventi", sullo stile di Data, il robot che è uno dei personaggi chiave della serie televisiva The Next Generation del franchise Star Trek. Siccome i robot sono stati costruiti dall'umano A SUA IMMAGINE E SOMIGLIANZA, Asimov li rende umani e santi, una versione "migliorata" del loro creatore. Che ovviamente è un doppio giro di giostra del volere essere Dio, un dio che non solo crea la vita, non solo la crea a sua immagine ma la crea anche migliore di se. Ignorando tutta una serie di paradossi sui quali non mi diffondo.

    A proposito dei "compagni animali", faccio notare che una delle prime cose che si produrrebbero, se esistessero veramente dei robot efficienti, sarebbero delle repliche dei "pet" che non cacano e non orinano, non vomitano, non masticano suppellettili, eccetera. Sarebbero anche del tutto asserviti e tagliati su misura per il PADRONE. Perché i "pet" sono sempre fabbricati come giocattoli o arnesi, non piovono dal cielo "spontaneamente". Riguardo invece i lupi e gli orsi, vale un po' il discorso di tante altre cose, belli, simpatici, una risorsa che ci arricchisce, purché stiano a casa di qualcun altro.

    RispondiElimina
    Risposte
    1. Lorenzo perfetto il commento sulle leggi della robotica;quanto ai lupi e dorsi, se non hanno la loro "casa", cioè la foresta vergine, allora l'effetto serra galopperà ancora di più visto che le foreste vergini, intendo quelle mesofile, faggete e cerrete per intenderci, sia sono massimamente efficienti nella fotosintesi che esponenzialmente più resilienti ai cambiamenti climatici e malattie. Quindi senza casa per lupi ed orsi, non c'è casa nemmeno per noi. Di contro i rimboschimenti a conifere e le stesse carpinete a ceduo non sono un gran che come resilienza ai fattori esposti prima.

      Elimina
  8. Credo che l'IA tenda a scatenare angosce apocalittiche e speranze utopiste. Lo comprendo benissimo, ma sono convinto che queste reazioni tendono ad oscurare completamente analisi meno emotive ed estreme che possono riguardare l'intelligenza artificiale prima che raggiunga l'auto coscienza (cioè ciò che scatena, a torto o a ragione le nostre variegate reazioni emotive estreme). Non critico speranze e timori, ma credo che concentrarsi SOLO sulla questione dell'auto coscienza, sia riduttivo e faccia perdere considerazioni pratiche temporalmente più vicine a noi, ma anche le migliori strategie per trarre il meglio (od evitare il peggio) da questa tecnologia dirompente ed inevitabile (apocalissi varie permettendo).

    RispondiElimina
  9. Commento cancellato per errore. Riposto

    Paolo ha lasciato un nuovo commento sul tuo post "Un Siliron di nome Lucia":

    A proposito di IA autocosciente, cosa ne pensate di quella notizia agostana (che fa rima con bufale) di quei due software in Facebook che a un certo punto hanno cominciato a scambiarsi messaggi in un linguaggio incomprensibile a noi umani? Dopodiché, i ricercatori li hanno subito disattivati per qualche timore che possiamo immaginare tutti, considerato anche l'argomento di questo post. Il dilemma è se davvero la IA che prende coscienza di sé potrebbe considerare l'essere umano un'entità da eliminare o no. Sono semplici paure che albergano nell'animo umano dalla notte dei tempi o qualcosa di più reale? Ma sempre meno dei reali pericoli incombenti che minacciano la nostra specie e non solo.

    RispondiElimina
    Risposte
    1. E' strano come tutti si sono preoccupati di questa cosa, che in effetti sa tanto di bufala agostana. E nessuno si preoccupa dei droni assassini che ti volano sulla testa.

      Elimina
    2. Qui a Singapore sul tema dell'AI e della mobilita autonoma qualche tempo fa hanno mostrato il carro armato autonomo. E mi è corso un brivido lungo la schiena

      Elimina
  10. Queste sono tecnologie che non si possono tenere sotto controllo. Cosa vuol dire poi "controllo"? Forse le tecnologie sono nate proprio per avere il controllo sull'imprevedibilità degli accadimenti. In un certo senso queste nuove tecnologie negano la funzione stessa della tecnologia. Certe macchine onnipotenti, che superano i confini dell'intelligenza umana sono robe da apprendisti stregoni. Una volta che schiacci il pulsante "on" non puoi più tornare indietro.
    Sarebbe utile guardare a quello che è successo con le biotecnologie. Il “Golden Rice” doveva salvare il mondo dalla denutrizione, e invece:
    mondohttps://www.grain.org/article/entries/5764-asia-farmers-network-resounds-strong-call-to-stop-golden-rice
    Angelo

    RispondiElimina
    Risposte
    1. Bardi nell'articolo dice:

      "ma la sensazione è che ci potremmo arrivare e che, in ogni caso, la nostra capacità di controllare il mondo virtuale che abbiamo creato ci sta già sfuggendo."

      Ma a me pare che il controllo del mondo virtuale che abbiamo creato, e nel quale viviamo immersi fino al collo da ben prima dei calcolatori, ci sia gia' sfuggito da un bel pezzo. Il fatto e' che ognuno di noi (o quasi) non si rende conto della schiavitu' del virtuale che secondo lui e' quello giusto, quello che gli piace o di cui e' inconsapevole perche' ci vive gia' immerso, e che in qualche modo "incarna", mentre aborre quelli, alternativi, esterni, che sente come potenzialmente imposti da fuori, alieni, estranei, a cui dover resistere, per mantenere la sua omeostasi culturale. Il che e' umano, anzi troppo umano! Funzionano cosi' anche tutte le istituzioni, chiese e burocrazie.

      Fra l'altro questo e' anche il problema della filosofia sottostante, secondo me protofascista, altro che libertaria come alcuni sostengono, dello scrittore Heinlein, che in tutti i suoi lavori che ho letto e' ossessionato dal rimarcare l'importanza della condivisione totale dei valori in un gruppo sociale con l'espulsione e l'eliminazione dei corpi estranei, dei dissenzienti, cosa che io trovo molto fastidiosa e disturbante.

      Elimina
    2. "Tranquilli. La probabilità che un'AI dotata dell'Algoritmo Definitivo è pari a zero. La ragione è semplice: a differenza degli esseri umani, i computer non hanno una volontà"
      "Certo, se fossimo così sciocchi da programmare deliberatamente un computer in modo che si ponga al di sopra di noi, forse, allora, avremmo quello che ci meritiamo." "L'algoritmo definitivo" Pedro Domingos.
      Non lo so, Winston, da banale taoista credo che ogni cosa portata all'estremo dia origine a delle situazioni paradossali, (per non dire al proprio contrario) e questo vale anche per l'intelligenza.
      Angelo

      Elimina
    3. "Certo, se fossimo così sciocchi da programmare deliberatamente un computer in modo che si ponga al di sopra di noi, forse, allora, avremmo quello che ci meritiamo."

      Ce l'abbiamo gia' quel computer, sono le nostre istituzioni e il groviglio di automatismi burocratici ormai ingestibili e incomprensibili, che governano le nostre societa', troppo complesse, nelle quali siamo di fatto degli alienati, tranne chi si puo' permettere l'illusione di gestire un po' di potere, "muro di gomma" di cui ogni tanto si parla anche qui in qualche articolo. Con stavolta l'ulteriore fregatura, da cui il disagio, di non poter incolpare altri che noi stessi per la situazione, tranne gli soliti psicoparanoici che trovano sempre una facile spiegazione e un colpevole per tutto, che non mancheranno mai.

      "i computer non hanno una volontà"

      Terreno minato, non tanto circa i computer, quanto gli uomini. E in ogni caso, cambia qualcosa, ad avercela o no?

      Elimina