Costruttori di Mondi

zio rubone ha scritto: gio giu 01, 2023 11:02 pmNon rimarrei sorpreso se, così, facendo, producessero il miracoloso "parere dei 900".  

E va bene, e quindi l'unica alternativa è rifugiarsi in un scetticismo totale? Non credere a niente che non sia controllabile personalmente da noi? 
Ma anche quello potrebbe essere falso: magari un inganno dei nostri sensi o della nostra mente (succede spesso, in realtà), oppure una mistificazione ordita da altri a nostro uso e consumo (magari siamo vittime/protagonisti di una sorta di Truman Show). 
Perciò non ci resta che l'agnosticismo totale, fare i socratici che sanno soltanto di non sapere? E dobbiamo estendere questo modo di ragionare a tutto quanto? 
Ad esempio, tutti i libri di storia di questo mondo asseriscono che è esistito un certo Napoleone Bonaparte, sul quale magari divergono nel giudizio storico, ma su alcuni punti sono tutti concordi: questo tizio ha (avrebbe?) vinto ad Austerlitz, perso a Waterloo, sarebbe stato mandato in esilio a Sant'Elena. Di questi punti unanimemente condivisi possiamo fidarci o dobbiamo dubitare? 
Mancandoci certezze assolute, dobbiamo rifiutare anche quelle verosimili? A me pare che quando un certo numero di fonti indipendenti tra di loro ci forniscono una versione concorde di qualcosa, quel qualcosa lo dobbiamo ritenere se non certo almeno molto probabile, altrimenti vale tutto e tutto ha uguale dignità: il terrapiattismo, i negazionismi di ogni tipo, i rettiliani sono ugualmente verosimili o ugualmente contestabili della relatività, della meccanica quantistica o semplicemente della formula chimica dell'acqua, giacché io (ma ho il sospetto di non essere il solo) non mi sono mai preso la briga di verificare se è davvero composta da due atomi di idrogeno e uno di ossigeno.

zio rubone ha scritto: Come dicevano Dewey e Don Milani l'ignoranza rende servi mentre l'istruzione ci rende uguali. 

Sì, ma qui l'istruzione non basta: l'istruzione tutt'al più ti dà le basi minime, ma poi per poter padroneggiare una materia complessa ognuno di noi dovrebbe averle dedicato molti anni di studi, cosa evidentemente impossibile, non si può immaginare una nazione di 60 milioni di programmatori, di ingegneri informatici o di altre figure professionali del genere. 
Una società come la nostra, ma questo vale anche per quelle del passato, si fonda sulla specializzazione: ognuno conosce in maniera davvero approfondita solo il pezzetto di sapere che rientra nell'ambito del suo settore di studio/lavoro, di tutto il resto può avere conoscenze più o meno corrette ed estese, ma non al punto da potersi definire un profondo conoscitore di tante discipline, magari molto lontane tra di loro (salvo rarissimi ingegni multiformi).
E dunque chi dovrebbe pronunciarsi su materie complesse di carattere tecnico-scientifico se non la cosiddetta comunità scientifica? Ci sono scienziati e ricercatori disonesti? Certo che sì, però se non vogliamo scadere nel complottismo, quando la quasi totalità della comunità scientifica è concorde su qualcosa, quel qualcosa dobbiamo ritenerlo attendibile, non penso che ci siano alternative. 
Se trenta commissioni di studio istituite dai governi di trenta Paesi diversi dessero lo stesso parere su una data questione, quel parere dovrebbe ritenersi "vero", altrimenti non so quali altri criteri si possano seguire.

L'aspetto più drammatico di tutta la questione è che la stragrande maggioranza dell'opinione pubblica (me compreso) è sostanzialmente analfabeta su questa materia e dunque non può che formarsi opinioni di seconda mano, affidandosi a chi sa o si presume che sappia.
Se uno legge un appello allarmante che parla di rischio di estinzione del genere umano e che chiede di fermarsi un attimo a riflettere sul da farsi, firmato da gente che lavora o che ha lavorato (o che in parte ha addirittura creato) l'IA, è inevitabile che tenda ad essere un tantino preoccupato. 
Poi però il giorno dopo arrivano altri super esperti che rassicurano, parlando di esagerazioni, sensazionalismo, e che non c'è nessuno scenario tragico.
Ne risulta uno spaesamento totale del povero cittadino semianalfabeta informatico, a cui come regola dovrebbe supplire chi guida il motocarro, cioè la politica. Ora io non sono un qualunquista, di quelli del tipo "i politici sono tutti ladri, corrotti e incompetenti", però in questo caso appare davvero siderale la distanza tra un problema epocale come questo e le piccole beghe del potere nostrano, tutto assorbito dalla preoccupazione di mettere in atto un piccolo, miserabile e vendicativo spoil system per sistemare passacarte e galoppini, anziché cercare di formare con urgenza un gruppo di esperti reclutato tra scienziati e ricercatori del settore per tentare di capire com'è davvero la situazione ed eventualmente cominciare a predisporre una legislazione che possa in qualche misura regolamentare la materia (ammesso che sia possibile).
In sostanza il vero potere che ha in mano il futuro dell'umanità sembra ormai in mano a una ristrettissima oligarchia di tecnocrati, alla cui buona volontà dobbiamo affidarci, e nei confronti di cui la politica, soprattutto quella di un paese come il nostro, sembra non avere la minima voce in capitolo.

Per quanto ne so, già negli anni '50-60 del secolo scorso, con la prima fase di sviluppo dell'informatica e dei calcolatori, scienziati e scrittori di fantascienza cominciarono a porsi questi problemi che, ridotti all'osso, si possono riassumere in un unico problema: può una macchina programmata per eseguire dei passaggi logici, cioè per "pensare", raggiungere col tempo l'autocoscienza e prendere decisioni autonome, anche contrastanti con quelle dei suoi creatori? 
Io non ho cognizioni di logica e di programmazione tali da poter tentare di rispondere a questa domanda, per certi versi analoga a quella su cui i filosofi dibattono da secoli riguardo al libero arbitrio degli esseri umani: gli uomini sono davvero liberi, oppure tutte le nostre azioni sono il risultato di rapporti causa-effetto indotti dal mondo esterno che le rendono di fatto necessarie e quindi solo illusoriamente libere? 
Difficile rispondere anche per chi è del ramo, anche perché è un ramo che si biforca sempre più col crescere della complessità delle macchine logiche; nell'inventarsi l'informatica, gli uomini si ispirarono alla miglior macchina pensante che conoscevano, il cervello umano, e dopo quasi un secolo di perfezionamenti le macchine si stanno avvicinando a quel modello; resta da vedere se quello scarto che ancora le separa è colmabile o no.
La sensazione è che forse possa esserlo, perché una complessità e una capacità di ragionamento sempre più elevate sembrano potersi accompagnare allo sviluppo di qualcosa di molto simile allo spirito critico e alla libertà di pensiero. 
Viene da chiedersi quale potrebbe essere il comportamento di macchine che riescono a pensare con la stessa libertà degli esseri umani, ma con una potenza di calcolo infinitamente superiore, svilupperanno nevrosi autodistruttive o saranno creature angeliche? Diventeranno come Hal 9000 o pacificheranno la Terra?
La nostra specie sembra davvero arrivata alla vigilia di un salto evolutivo: la possibilità di modificare la vita alla radice mediante la genetica e l'interazione (e forse una forma di simbiosi) con macchine di pensiero molto più potenti del nostro cervello sembrano prefigurare una nuova specie umana diversa da quella che abbiamo conosciuto negli ultimi millenni.
Per noi però è ancora presto, non faremo in tempo a vederla; a me un po' dispiace, d'ora in poi cercherò di comportarmi bene per ottenere una reincarnazione di fascia medio-alta e andare a vedere come andranno le cose nel XXII secolo.

queffe ha scritto: se oggi qualcosa va storto nei sistemi di sicurezza (parlo ad esempio, e qui per competenza professionale attuale, dei sistemi a sicurezza intrinseca per la protezione delle persone o per la prevenzione degli infortuni sul lavoro) è proprio quando si toglie o si limita il controllo della macchina, e si tenta di sostituirlo con l'intelligenza umana (e con la sua mancanza di etica) che nascono tutti i problemi.

Be', questo in prospettiva è confortante.

queffe ha scritto: perché l'IA non la freghi. Non c'è verso, se non "giocando sporco"

Questo un po' meno.

queffe ha scritto: Altro esempio, e poi la finisco, è quello dell'IA negli autoveicoli a guida autonoma: "investo due nonnini che attraversano sulle strisce, o il bambino che, dall'altra parte della strada, è sfuggito al controllo della mamma?"

Questo invece è un problema interessante, ma forse di non difficile risoluzione. Se io fossi una IA, cosa che non escludo, però pensandoci meglio tendo a escluderlo perché non è difficilissimo fregarmi, il che farebbe pensare che sono un essere umano, ma comunque non ci giurerei del tutto... cos'è che volevo dire? Ah, sì, s'io fossi una IA, com'io sono e fui, penso che ragionerei così: i due nonnini (80 anni a testa) hanno un'aspettativa di vita di 5-10 anni a testa, quindi a essere ottimisti una aspettativa cumulata di 20 anni; il bambino (5 anni) ha un'aspettativa di vita di 80-85 anni; da come mi hanno programmato 80-85 è maggiore di 20, per cui in ossequio al Principio Universale della Maggior Quantità di Vita Possibile faccio fuori i nonnini e buonanotte. 
Potrebbe sembrare una decisione cinica, ma non è così: anziché un formale rispetto di regole convenzionali (corretto attraversamento sulle strisce vs. bambino in palese violazione delle norme) privilegia la sostanza della maggior quantità di vita salvata.   

Silverwillow ha scritto: mer mag 24, 2023 12:36 amSpesso è così, ma non sempre. L'invenzione della lampadina, della radio o del computer sono cose serie. Sono d'accordo che non sempre il modo in cui vengono usate è serio, dipende dalle intenzioni delle singole persone. Si è usata la radio per trasmettere informazioni vitali in tempo di guerra così come per fare gli auguri alla nonna. Lo stesso vale per tutto il resto.
Thoreau era molto radicale e aveva un'idea precisa di ciò che è essenziale, che condivido ma che è diversa da quella comune, La situazione è molto cambiata, sono aumentati i diritti e il benessere, e anche se non sono perfetti o diffusi ovunque, il miglioramento c'è stato, in parte anche grazie a quelle invenzioni che sembravano giocattoli

In effetti Thoreau a volte è un po' troppo tranciante nelle sue affermazioni, è chiaro che quella frase non può essere estesa a tutte le invenzioni: nessuno, salvo qualche fanatico, sostiene che i vaccini o il bypass coronarico siano giochetti futili. 
Però è anche vero che l'uso che facciamo di alcune invenzioni è molto spesso ridicolo rispetto alle loro potenzialità. Noi usiamo strumenti straordinari, che fino a meno di due secoli fa sarebbero stati considerati magici (possiamo vedere e parlare a distanza di migliaia di chilometri, possiamo rivedere e riascoltare persone morte da decenni), in maniera piuttosto limitata e superficiale: di solito dedichiamo ad attività non proprio elevatissime una discreta parte del tempo che trascorriamo su questi dispositivi; se ci aggiungiamo che il 99% di noi non ha idea di come e perché funzioni un pc o un televisore o un cellulare, quindi in effetti lo adopera all'incirca come un oggetto magico, l'affermazione di Thoreau diventa almeno in parte vera: passiamo sui giocattoli magici molto tempo prezioso che potremmo dedicare ad altro (anche se poi magari lo sprecheremmo in altre sciocchezze non tecnologiche, chissà, quasi tutti noi siamo dei grandi sperperatori di tempo).

Sempre difficile fare previsioni a lungo termine, lo è già per il futuro prossimo, diventa quasi impossibile per quello remoto. Al riguardo basta leggere un po' di fantascienza scritta tra gli anni '50 e gli anni '70 per constatare che il futuro che si aveva in mente era quasi sempre molto diverso da quello che poi si è realizzato. 
Ad esempio, gran parte di quella fantascienza preconizzava viaggi spaziali e colonizzazioni di pianeti a breve termine, nel giro di pochi decenni (lo si vede già dai titoli:  "2001 Odissea nello spazio", "Spazio 1999", etc.); la realtà è che l'uomo non è neanche tornato sulla Luna, negli ultimi cinquanta anni si è limitato a inviare sonde senza equipaggi, salvo gli Shuttle e la stazione spaziale, ma lì parliamo di poche centinaia di chilometri dalla Terra, praticamente il cortile di casa.

Secondo un altro grande filone di science fiction a quest'ora ognuno di noi avrebbe dovuto avere uno o più robot umanoidi a sbrigare tutte le nostre faccende domestiche, una macchina volante per andare al lavoro, pillole di vari colori per sostituire il cibo (questa forse è la previsione sbagliata in maniera più clamorosa, mai vista un'epoca che dà tanta importanza alla cucina e in cui gli chef sono delle star) e via dicendo di questo passo.
In realtà le due invenzioni che più hanno cambiato il modo di vivere negli ultimi decenni, Internet e gli smartphone, erano state quantomeno sottovalutate da futurologi e scrittori di fantascienza, pur esistendo allo stato embrionale da almeno una cinquantina d'anni.

In sostanza il mondo di oggi credo che l'avessero previsto ben poche persone, e analogamente mi sembra estremamente difficile fare previsioni su come sarà quello del 2050-2100.
La difficoltà di fare previsioni deriva dal fatto che non è sufficiente prevedere le principali scoperte e invenzioni, ma bisognerebbe capire anche verso dove va la società, se si muove verso modelli di stato più autoritari, più democratici, più tecnocratici o altro.
In generale io credo che nei confronti dei cambiamenti ci sia un'inerzia più grande di quanto si pensi: l'uso che facciamo delle invenzioni di cui già disponiamo è largamente inferiore alle loro potenzialità; in questo senso sembra ancora valida questa riflessione di Thoreau, scritta a metà '800, cioè a momenti due secoli fa: "Le nostre invenzioni tendono a essere graziosi giocattoli che distraggono la nostra attenzione dalle cose serie. Sono mezzi progrediti diretti a un fine non ancora progredito" (Walden o Vita nei boschi).

Insomma visto che come si suol dire i pronostici non li sbaglia solo chi non li fa, mi sbilancio: sono abbastanza convinto che almeno per i prossimi venti-trent'anni non ci saranno grandi sconvolgimenti delle nostre vite causate da nuove tecnologie, sembrano molto più temibili i cambiamenti climatici e le pandemie di cui abbiamo già fatto esperienza in questi anni, che non dipendono certo dalle nostre invenzioni ma semmai dal modo disastroso in cui le usiamo.

Uanema ha scritto: un'umanità che tende sempre di più verso la digitalizzazione, saremo costretti a chiedere in un prossimo futuro a un nostro assistente virtuale cosa possiamo fare o no

Speravo de morì prima (scusate la citazione incolta).