Costruttori di Mondi

@Silverwillow Secondo me, riguardo a ciò che preferiremmo avere da un'intelligenza artificiale, si tratta di scegliere tra due opzioni: un (in)utile idiota - inutile nella valutazione di fatti, parole o situazioni, utile in campi strettamente diagnostici, matematici e comunque esecutivi - o una vera intelligenza in grado di muoversi autonomamente, che però potrebbe rappresentare un pericolo. Di sicuro preferisco la prima. 

ivalibri ha scritto: Si chiede alle macchine di pensare al nostro posto, perché chi usa senso critico rallenta il processo e non è funzionale."

Considerazione inquietante: andando avanti su questo percorso c'è l'eliminazione dei dissidenti, caratteristica primaria di ogni dittatura.

Uanema ha scritto: Ti ringrazio @Cheguevara, ma non mi piace parlare di politica, non perché non ne riconosca l'importanza, anzi, ma a me interessa sviluppare un certo pensiero critico, che ci può portare, dopo aver analizzato bene i fatti, a formulare una nostra opinione. Quando in un discorso, invece, si tenta di inquadrarne una certa corrente politica, si rischia di strumentalizzare il proprio pensiero (questo accade anche con le canzoni, usate come slogan all'insaputa degli stessi autori) o peggio ancora senza ascoltarne i contenuti, perché appartenente a un partito a noi poco gradito. La stessa Oriana Fallaci si è sentita tirata per la giacchetta prima dalla sinistra e ora dalla destra. Riguardo alle tracce di quest'anno per la prova d'italiano, la critica che è stata rivolta alla tesi della scrittrice è stata: "Si vede che c'è un governo di destra", "Questa è la deriva della destra" oppure "l'impronta ideologica è evidente" ed ecc. Come puoi notare, dove sono i contenuti? Ma qualcuno, prima di scrivere queste idiozie, ha davvero letto la traccia e riesce a commentarla? 
Personalmente, quindi, toglierei la politica dai nostri discorsi per prestare maggiore attenzione agli argomenti. 

Significa che la tua politica, in questa discussione, è quella di focalizzarti sugli argomenti. Ma ogni argomento non è una monade, fa parte di un percorso in cui ogni punto ha un prima e avrà un dopo: chi ha deciso di impiegare ingenti risorse finanziarie per lo sviluppo delle AI e perché? I benefici che se ne traggono sono veramente tali? La previsione statistica che nei prossimi 7 anni, grazie all'uso massiccio delle AI, si perderanno (si stanno già perdendo, vedasi Vodafone) 300 milioni di posti di lavoro, ci preoccupa? Porsi questi, e altri, interrogativi, è fare politica, come anche non porseli. La sicura perdita di posti di lavoro significa maggior ricorso al welfare, quindi taglio di altre spese o aumento delle tasse: problemi eminentemente politici. Fare politica non significa necessariamente schierarsi a destra o a sinistra, anche perché si tratta ormai di due mondi liquidi che spesso si mescolano, pur senza fondersi (come l'acqua e l'olio), a seconda delle convenienze: significa porsi domande e cercare  risposte, avere ed esprimere opinioni sui percorsi passati e cercare di influenzare quelli futuri. Tornando all'argomento della discussione, secondo me il rapporto costi/benefici dell'uso delle AI è sbilanciato verso i costi. Se ho ragione o torto lo stabiliranno i fatti nei prossimi, diciamo, cento anni. La mia generazione è ormai prossima all'esaurimento: saranno quelle successive e quelle future a sperimentarlo.

@Uanema L'unica cosa su cui non sono d'accordo, è quando dici che non ti piace parlare di politica. Tutto è politica, buona o cattiva che sia. Bisogna scegliere se subirne passivamente gli effetti (la metà degli italiani lo fanno, rinunciando al voto) o cercare di influenzarla, con i pochi o tanti mezzi a disposizione. E chi può manovrare le intelligenze artificiali ha più mezzi degli altri. Il mondo è ormai diviso tra poveri (tanti) e ricchissimi (pochi) che decidono i destini dell'umanità, fottendosene tranquillamente di qualsiasi codice morale: gli esempi sono sotto gli occhi di chiunque voglia vederli. Vorrei essere cieco.

@Uanema In questa discussione ho già ripetutamente espresso il mio parere, quindi non mi dilungo oltre in merito. Volevo solo richiamare l'attenzione sullo sciopero odierno degli addetti alle telecomunicazioni, che denunciano imminenti, preannunciati licenziamenti di migliaia di dipendenti, la cui opera non è più necessaria perché sostituibili dalle intelligenze artificiali. Secondo me, siamo appena agli inizi: tra breve, saranno milioni, poi decine, centinaia di milioni. Le AI non necessitano di stipendio, né di welfare. Meditare si impone. 

@Silverwillow Hai ragione, siamo andati fuori tema, ma penso che circoscrivere il problema al futuro della scrittura e dei servizi connessi sia quasi impossibile, visto che le AI dilagheranno sempre più in tutti i campi e renderanno superflua l'attività degli esseri umani, esclusi i pochi adibiti  alla programmazione e al controllo. Il dibattito tra favorevoli e contrari è quanto mai attuale, ci sono schiere di scienziati e specialisti nel settore che paventano addirittura la nostra estinzione, mentre altri sono favorevoli allo sviluppo delle AI specialmente in campo medico, in cui pare che recentemente l'algoritmo sia stato in grado di sviluppare diagnosi precoci su future malattie che colpiranno l'individuo, come il cancro. Come si fa ad ignorare tutto il resto e focalizzarsi solo sul futuro di scrittori, editor e correttori di bozze? In definitiva, si tratta del solito confronto tra ottimisti e pessimisti: tu appartieni alla prima categoria (e ti invidio), io alla seconda: preferisco la morte per malattia, che prima o poi interviene per chiunque non rimanga vittima di incidente o violenza, alla vita inutile, anche se coccolata e protetta (ammesso che possa avvenire) da un sistema informatico.

massimopud ha scritto: Ad esempio, tutti i libri di storia di questo mondo asseriscono che è esistito un certo Napoleone Bonaparte, sul quale magari divergono nel giudizio storico, ma su alcuni punti sono tutti concordi: questo tizio ha (avrebbe?) vinto ad Austerlitz, perso a Waterloo, sarebbe stato mandato in esilio a Sant'Elena. Di questi punti unanimemente condivisi possiamo fidarci o dobbiamo dubitare? 

Interessanti obiezioni, le tue. Penso di poter rispondere che bisogna distinguere i fatti dalle loro interpretazioni e dalle opinioni che, in base a tali interpretazioni, si vengono a formare nella testa dei singoli. Tutti gli storici concordano su Waterloo e Sant'Elena, ma magari sulle motivazioni della sconfitta o sulle cause della morte di Napoleone esistono pareri discordi. Lo stesso accade, per esempio, sul conto di Giuseppe Garibaldi: gli avvenimenti che hanno portato alla formazione del Regno d'Italia sono quelli accertati, mentre c'è poi chi considera Garibaldi un eroe e chi, invece, un avventuriero di pochi scrupoli. Che dopo la caduta dei Borboni ci siano stati episodi di brigantaggio è storicamente certo, poi c'è chi li considera atti criminali e chi, invece, eroici tentativi di resistenza all'invasione piemontese. Eccetera: si potrebbe andare avanti all'infinito. Il socratico sapere di non sapere significa, per me: sono cosciente di non sapere, quindi, prima di formarmi un'opinione, cerco d'informarmi nella maniera più approfondita possibile. Ma nessuno potrà mai garantirmi la correttezza e completezza delle informazioni. L'unica cosa perfetta, in natura, è la natura stessa, che ha fatto le cose in maniera tale che si incastrino alla perfezione l'una nelle altre. La scienza è volta a conoscere i meccanismi insiti nelle singole cose, ma sulle cause e sul fine di tutto poi subentrano le religioni: c'è chi ci vede l'opera di un Dio che viene costruito con tutta una serie di postulati in cui credere senza chiedersi perché, e chi non pretende di codificare un mistero destinato a rimanere tale. Anche in questo secondo caso esiste una sub-divisione: gli agnostici, che appunto sanno di non sapere, e gli atei, che invece pretendono di sapere che non esiste alcun Dio e alcuna vita aldilà della vita stessa. L'unica certezza, secondo me, è che non ci sono certezze e ognuno di noi deve trovare il coraggio di credere nelle proprie opinioni e la forza di cambiarle se, alla prova dei fatti, risultano sbagliate. E scusate se è poco.

@zio rubone Infatti. Non credo che il comune cittadino, parlando di chi dispone di una cultura generica, senza specializzazione scientifica, per formarsi un'opinione possa contare a occhi chiusi sui pareri degli esperti. Questi pareri sono spesso contrastanti tra loro: è successo per i vaccini anti-covid, succede tuttora per il cambiamento climatico o per la guerra in Ucraina, succede e succederà per ciò che riguarda l'impatto futuro delle IA nelle società di tutto il mondo. Troppi di questi studiosi e specialisti esprimono pareri sospettabili di essere pilotati dalle lobby che, grazie agli enormi capitali di cui dispongono, non hanno problemi a distribuire sostanziose mazzette. A influenzare l'opinione delle masse contribuiscono i social, con guru e influencer, nei cui confronti viene spesso da chiedersi come si possa dare credito alle affermazioni più strampalate di chi, spesso e volentieri, chiede anche donazioni in danaro per poter continuare a fornire un'opinabile "libera informazione".  C'è gente - non poca, milioni di persone - disposta a giurare che la terra è piatta e che, dai tempi di Copernico, governi e scienziati di tutto il mondo complottano per farci credere il contrario.
Che dire? Chi ce l'ha, usi il buonsenso, senza sperare di convincere chi ne è privo.

@zio rubone Credo di aver letto, all'epoca della mia adolescenza, quasi tutti i romanzi di Isaac Asimov. Detto questo, vero è che quod non vetitur permittitur, ed è anche vero che tutti i divieti imposti dalla legge possono essere aggirati o direttamente violati. Se i proclami e le grida avessero valenza risolutiva, questo Paese avrebbe pochi problemi, e invece ce n'è per tutti fin sopra i capelli. Non vorrei che a ciò che fino ad oggi ci ha afflitto e ci affligge si aggiungessero, a breve, altri problemi causati da mala gestio delle intelligenze artificiali. Nel paese delle tre mafie non è assurdo ipotizzare che, in certi ambienti, l'evoluzione passi dai pizzini all'uso illegale delle AI nei campi che interessano la criminalità organizzata, cioè tutti. Mi pare qualcosa su cui sarebbe necessario meditare. 

Silverwillow ha scritto: Oggi ci possono essere IA a cui vengono affidate decisioni, ma non di questo calibro. In ogni caso la loro programmazione prevede la tutela della vita umana, quindi nessuna IA attuale avrebbe mai avviato una guerra nucleare senza dati certi (forse nemmeno allora), tutta'al più avrebbe allertato gli addetti alla sorveglianza

Siamo nel campo delle ipotesi e delle opinioni. Tutte quelle fin qui espresse hanno un fondamento di validità e io trovo inutile ripetermi. Buona giornata a tutti.

Mi è tornato in mente (la memoria, causa età, ogni tanto si prende una vacanza) un fatto ultrapertinente a questa discussione: in data 26 settembre 1983, il sistema computerizzato dell'Unione Sovietica segnala un totale di sei missili USA in arrivo. Stanislav Petrov, ufficiale di turno di guardia, dovrebbe premere il pulsante che, avvisando il Cremlino, darebbe il via alla prevista reazione, con conseguente scatenamento della guerra atomica. Ha quindici minuti di tempo, e li impiega a ragionare: pur essendo in piena guerra fredda, matura la convinzione che nessuno possa essere tanto pazzo da scatenare consapevolmente un sicuro olocausto. Forse sarà un errore di sistema, pensa (non era uno che si fidava ciecamente della tecnologia). Decide per la non segnalazione, in attesa degli eventi. Gli eventi gli danno ragione: non erano missili, ma riflessi del sole sulle nubi, che il più sofisticato sistema informatico dell'epoca aveva scambiato per missili. Se al posto di Stanislav Petrov  (morto nel 2017 a settantasette anni) fosse capitato un ufficiale più ligio ai regolamenti, oggi non staremmo qui a discutere di intelligenze artificiali. Forse qualche riflessione sull'argomento sarebbe opportuna e utile. 

E' una discussione che potrebbe durare all'infinito. Sintetizzando, c'è chi, come me, non si fida delle AI, perché potrebbero guastarsi o arrivare al punto di autoprogrammarsi nel proprio stesso interesse, o essere comunque mal programmate da uno o più esseri umani poco affidabili, e chi (la maggioranza, mi pare) è portato a fidarsi almeno quanto si fidi degli umani, se non di più. Chi abbia ragione, lo vedremo solo vivendo. Chi vivrà; io, anagraficamente parlando, rispetto alle attese medie di vita calcolate di sicuro da un'AI, dovrei abbandonare questa valle di lacrime fra tre anni, ma proverò a fregare le statistiche.

@Silverwillow La domanda nasce spontanea: è possibile affidare la propria e altrui vita alle decisioni di un'intelligenza artificiale, confidando che chi l'ha programmata abbia una mente esente da psicosi, fobie e ubbie varie? Lasciamo da parte gli eventuali guasti, che possono sempre verificarsi. Ford disse che su un'auto tutto ciò che non c'è non può rompersi: come corollario, ne discende che tutto ciò che c'è può rompersi. Personalmente non monterò mai su un mezzo a guida autonoma.

Brutus ha scritto: io non sarei così pessimista. Pur non conoscendo la parte informatica ho anch'io esperienza diretta con l'automazione, che è ben lontana, nel lavoro quotidiano in fabbrica, dalla perfezione. Mi basta pensare un attimo alla differenza tra robot di marca tedesca e le pessime imitazioni cinesi. Tutto questo per dire che, come sempre, l'uomo avrà interesse a sviluppare AI soprattutto nei campi dove è più forte l'incentivo al profitto. Questo significa che nessuno ha interesse che una AI elimini l'uomo dalla faccia della terra, l'unica cosa che conta è che arricchisca economicamente, altrimenti verrà abbandonata dove questo non succede.

D'accordo sulla constatazione che l'incentivo al profitto governa il mondo, anche se, da quanto è dato osservare, sono decenni che il capitale cerca e ottiene i maggiori profitti non dalla produzione di beni e servizi, ma dalle speculazioni finanziarie, rese ormai agevoli da realizzarsi sui mercati internazionali proprio dai livelli raggiunti dall'informatica nel campo delle AI: impostati determinati algoritmi, acquisti e vendite sulle borse mondiali avvengono in automatico a seconda dell'andamento dei vari indici. E' proprio questo che preoccupa: questo genere di profitti, che ormai dilaga, non tiene in alcun conto il benessere della larghissima parte degli umani, che lavora per vivere, ma quello dei pochissimi detentori del cosiddetto venture capital, che è enorme. Procedendo di questo passo, anche il peggiore degli scenari diventa possibile.

queffe ha scritto: Credo non manchi molto al momento in cui l'IA dirà, di sua iniziativa, all'uomo: la soluzione a questo problema è questa (già lo fa, o tenta di farlo, su richiesta, naturalmente).
Quindi sì, sono perfettamente d'accordo sul fatto che dobbiamo mantenere il controllo (su qualcosa che per sua stessa natura sarà portata a sfuggire, se non proprio ai controlli, ad eccezioni e limitazioni). 
Un altro problema che dobbiamo affrontare, quindi, è certamente come limitare l'iniziativa dell'IA nel procedere con la messa in atto delle soluzioni. Perché, ad esempio, la soluzione più ovvia (e in un certo senso anche praticabile) al problema della carbonizzazione del pianeta Terra è rimuovere l'elemento che attualmente ne è causa, cioè l'uomo.

Le tue valutazioni del problema e il conseguente ventaglio di previsioni compatibili - data la tua competenza tecnica che, se pure mancante degli aggiornamenti, reputo infinitamente superiore a quella di noialtri partecipanti a questa discussione - mi confermano nel mio pessimismo. Da quello che ho capito, le AI stanno progredendo alla velocità della luce e mi chiedo quanto tempo passerà prima che il maxi-cervellone che controlla tutto si renda conto che, per salvare il pianeta, sarebbe necessario, anzi, indispensabile eliminare l'uomo, il peggiore dei parassiti, che tutto prende e nulla dà in cambio.
Fantascienza distopica? Forse. E forse no. 

Silverwillow ha scritto: Gli studi di questo tipo per ora sono solo previsioni, spesso allarmistiche. Alcuni sostengono che quei posti di lavoro non verranno persi, ma si sposteranno sempre di più in ambito tecnologico e informatico (un po' come è successo per il passaggio dall'agricoltura all'industria). Al momento le IA hanno bisogno di esseri umani che le programmino e le controllino. Non è neppure in vista una IA indipendente, che pensi o agisca per conto suo.

Mi riesce difficile immaginare che tutti i posti di lavoro, ad esempio di manovalanza, che si perderanno con la robottizzazione in continua crescita, possano essere sostituiti da altrettanti realizzati in campo tecnologico e informatico. Dove per la raccolta dei pomodori oggi sono necessarie cento persone (al 99% immigrati malpagati), domani basterà una, ammesso che sia necessario, a sorvegliare le macchine-robot che svolgeranno lo stesso compito. Non è una cosa di domani, ma già avviene che macchine-robot costruiscano autonomamente altre macchine-robot, anche se a programmarle è stato un umano, ma sono certo che il passo successivo, cioè programmare un robot in grado di programmare a sua volta, non sia molto lontano, ammesso che non sia già stato fatto. Mi rendo conto che discutiamo da posizioni diverse: la tua è fondamentalmente ottimistica, al contrario della mia, e per il futuro dei miei figli e nipoti, spero ardentemente che tu abbia ragione. Ma non posso fare a meno di tirare le somme e, per quanto faccia e rifaccia tutti i calcoli possibili, il risultato che viene fuori è sempre negativo.

@massimopud In linea di massima sono d'accordo sull'impossibilità di prevedere il futuro in termini di tempo, anche perché viviamo in un periodo in cui cambiamenti climatici e venti di guerra potrebbero bloccare, se non azzerare, il progresso. Ma la direzione in cui il progresso sta andando è abbastanza chiara, ed è quella dettata da enormi capitali che, grazie anche alle capacità raggiunte dall'informatizzazione, vengono mossi alla velocità della luce in giro per il mondo, con l'unico obiettivo di realizzare profitti. Le strategie che governano l'alta finanza se ne fregano della morale, dell'ambiente e anche dello stesso genere umano: l'importante è che il capitale venga accresciuto e, a tal fine, ogni tipo di manovra è ritenuta lecita. Se lo sviluppo delle intelligenze artificiali sarà, come attualmente è, visto come funzionale ad accelerare il processo di arricchimento, nessuno che conti porrà limiti e freni e l'obiettivo finale, quello di arrivare a un sistema in grado di produrre ricchezza senza il fallibile intervento dell'uomo, sarà raggiunto, più prima che poi. Bisognerebbe chiedersi a che pro e con quale risultato per il genere umano, ma da quello che si vede in giro i signori del capitale, questo capitale che finisce per governare i governi, sembrano lungi dal porsi interrogativi del genere.

Silverwillow ha scritto: L'unico rischio che vedo al momento è un'eccessivo entusiasmo per sistemi tecnologici che sono ancora molto primitivi e spesso deludenti.

Sinceramente, io vorrei che restassero primitivi: il timore è che diventino presto troppo evoluti. Da uno studio, non ricordo di chi, riportato in tv, pare che le AI si sostituiranno, in qualche decennio, a 300 milioni di posti di lavoro. Quando saremo (saranno, io fortunatamente non farò più parte del consesso) arrivati al punto che i robot manovrati da un cervellone megagalattico si occuperanno di tutto, saremo (saranno) diventati delle pappemolli mantenute in vita da un welfare perfetto, come perfetto sarà ogni programma sviluppato non più dall'inutile parassita umano, ma dalla AI stessa. E non mi si dica che a rubare lavoro siano state tutte le invenzioni passate, dalla ruota, all'automobile, eccetera: con ognuna di esse il lavoro perso dagli uni è stato sostituito dal nuovo lavoro degli altri. Nel caso delle AI saranno i robot a costruire robot: non saremo (saranno) che inutili parassiti, di cui il pianeta (e l'AI) potrebbe tranquillamente fare a meno.

Ho appena finito di leggere "L'indice della paura" di Robert Harris, un'edizione Mondadori che avevo nello scaffale dal 2011 che, per motivi sconosciuti, mi era sfuggita. Dodici anni fa le AI, anche se già operanti, non erano di moda e, di sicuro, la stesura del libro, abbastanza corposo, è iniziata ancora prima. Non è fantascienza, anche se potrebbe sembrare, ma solo l'estremizzazione, tecnicamente ineccepibile, di cosa potrebbe accadere se qualche genio dell'informatica programmasse un cervellone in grado di incrementare autonomamente i propri livelli di apprendimento. Da leggere e su cui meditare.

@Silverwillow Io, per capire che certi algoritmi sono idioti programmati da imbecilli, non ho avuto bisogno di discutere con uno di essi, anche perché, viste le mie limitatissime doti informatiche, non ne sono capace. Tempo fa, nella pagina FB di una mia "amica", ho postato un commento a proposito di alcuni moti Palestinesi. In merito alla situazione creata in origine dalle forze alleate a seguito della conclusione della seconda guerra mondiale, avevo postato la seguente battutaccia: "gli inglesi, propugnando la costituzione dello stato di Israele sulle terre dei palestinesi, hanno pensato di risolvere il problema degli ebrei facendo - come si dice a Roma - il frocio col culo degli altri". D'accordo sul non politically correct, ma il post è stato cancellato, e io solennemente redarguito, perché contenente incitamento all'odio. Un idiota programmato da imbecilli, appunto.

Silverwillow ha scritto: Ma in questo caso mi sembra troppo tardi per pensarci prima,

Infatti. Il punto è che le regole, soprattutto se riguardano un prodotto (perché tale è la macchina di cui stiamo parlando) largamente diffuso in tutto l'orbe terracqueo (per usare un termine caro alla presidenta), sono fatte per essere aggirate da chi ha interesse a farlo.
Il mio pessimismo non fa che aumentare. 

Silverwillow ha scritto: Se succedesse, sarò la prima ad andare a cercare il server principale e dargli fuoco. Ma al momento non vedo motivo per questo pessimismo.

Io sono dell'idea che è meglio pensarci prima, per non pentirsi dopo. Come recita la famosa legge di Murphy, il peggio prima o poi accadrà.

Uanema ha scritto: L'AI può avere degli scopi criminali? Tutto lascia pensare che questo possa essere possibile, quindi, occorrono delle leggi che ne regolamentino l'uso

Problema: fatta la legge, trovato l'inganno. L'esperienza di vita, abbastanza lunga, mi suggerisce di non fidarmi. Non sempre il progresso è positivo in assoluto, c'è spesso un rovescio della medaglia: ad esempio, con l'avvento del cellulare si è smesso di memorizzare i numeri di telefono, avevo a mente centinaia di numeri dei miei clienti, ma dopo l'acquisto del primo telefonino la mia memoria li ha mollati in blocco, e non è bene. Lo smartphone è utile, con tutte le sue app. Rovescio: si finisce per starci incollati a tempo pieno, guardando la vita scorrere attraverso il suo obiettivo, mollare il reale per il virtuale. Ho scelto di non possedere uno smartphone e non sarei tranquillo a bordo di un'auto guidata da un cervellone che, come qualsiasi macchinario, può guastarsi.
E un sistema criminale che si impadronisse delle intelligenze artificiali che governano il mondo (non in un ipotetico futuro, ma già oggi) potrebbe scatenare l'apocalisse. E non credo che siano vaneggiamenti da pessimista.

@Uanema Brrr!?!

@ivalibri Mio di sicuro. Ma me ne farò una ragione.