Uanema ha scritto: Davvero qui si ignora gli infiniti sviluppi di questa realtàVeramente a me sembra che qui la discussione si sia enormemente estesa rispetto al tema proposto inizialmente, proprio perché nessuno (nemmeno coloro che si dichiarano totalmente "disarmati") ignora (o crede di poter trascurarare) i possibili sviluppi di questa realtà.
Poi, che ci si sia un po' divisi fra ottimisti e "pessimisti", è fisiologico (lo si è già detto), ma a me pare che qui tutto si possa dire, tranne che (lo dico male) "si sottovaluta" (da entrambe le parti).
Uanema ha scritto: In questo articolo ci viene spiegato come sia possibile clonare la propria voce e con il supporto di immagini video sia possibile ingannare anche dei familiari. Lascio a voi le possibili conseguenze...Beh, riguardo questo punto siamo proprio in una fase "storica" nella quale la totale impreparazione della maggioranza rende semplice non solo immaginare, ma anche mettere in atto propositi non leciti, anche con il solo scopo di sperimentare. Ma ricordo (esempio banale - lo ammetto - tuttavia concreto) che con la diffusione delle prime fotocopiatrici a colori, fare una copia di una banconota da cinquantamila Lire in grado di ingannare un non trascurabile numero di persone, era un gioco da ragazzi. "Ragazzi" con la vocazione a delinquere, ma pur sempre da ragazzi. Tant'è che i produttori di fotocopiatrici e scanner hanno presto introdotto sicurezze opportune che impediscono la corretta scansione di banconote. Infatti, anche di "contromisure" si parla (qui tra noi, che facciamo poco più che chiacchiere da bar, e sopra di noi, a ben più alti livelli): come introdurre regole adeguate in un ambito che per propria natura evolve velocemente e cambia i nostri paradigmi sui dibattiti che preludono a decisioni tecniche e politiche di grandissima rilevanza.
Sull'esempio specifico dell'articolo aggiungerei che le banche dell'UE con la sola voce (a meno che qualcuno, dall'interno, non ci aiuti a "violare" i sistemi di sicurezza di base) non ci fanno nemmeno conoscere il saldo del nostro conto... Ma allora si torna a uno dei problemi (tecnici e morali) dei quali abbiamo già parlato: la possibile violazione delle regole e la facoltà in questo senso che potrebbe essere lasciata a un'IA o che questa, una volta autocosciente, potrebbe pretendere per sé.
Un esempio sul quale ancora non si discute molto pubblicamente, ma che i tecnici stanno già affrontando (e che in qualche modo potrebbe essere legato anche all'IA, nel senso che anche l'IA potrebbe esserne "agevolata" nel corso della propria evoluzione) è quello dei (cosiddetti) calcolatori quantistici, che un giorno potrebbero rendere inefficace qualsiasi tipo di crittografia "tradizionale", quindi consentire di violare in pochi istanti ogni tipo di sicurezza oggi implementata in sistemi finanziari, di sicurezza, di automazione.
Alzandosi le potenzialità di chi (o cosa) potrebbe scardinare la sicurezza (o la "legalità"), si saranno già alzate progressivamente le difese, perché agli stessi sistemi queste verranno affidate. Sul fatto che sapremo usare l'immensa potenza dell'IA anche e soprattutto a nostro favore, io mi sentirei ottimista.
Un po' meno lo sono su uno dei risvolti che immagino possibili e che potrebbe vedere l'uomo, un giorno, tagliato fuori da ogni possibile controllo, se non pone la dovuta attenzione a ciò che fa oggi. (Anche su questo, purtroppo, mi sono già dichiarato pessimista, perché vedo cosa stiamo facendo per il clima... ).
Sulla voce di Mercury (da semplice suo fan), mi limito a chiedere: ma davvero qualcuno può scambiare quest'obbrobrio per Freddy che canta Yesterday? A me questo tam tam sembra solo una favolosa campagna acchiappaclick. Se avessero chiesto a Marc Martel di cantarla (anzi: quasi quasi ci provo, sul suo canale Youtube ), lui avrebbe fatto molto meglio...
Uanema ha scritto: Ho chiesto a ChatGPT come diventare un trafficante di drogaRiguardo questo, non c'era nemmeno bisogno di scomodare ChatGPT, dato che basta cercare su Wikipedia e su pochi altri siti (senza nemmeno spingersi troppo in profondità nel web), per mettere insieme in pochi minuti le stesse informazioni...
Inoltre, proprio in questa discussione, si è visto come il proporsi come autori di narrativa possa far "cadere" alcune restrizioni alle risposte. Ma si tratta di limiti di "programmazione" attuali, che mettono in evidenza l'odierna complessiva "inesperienza" (mi verrebbe da dire "stuipidità, ma vabbé ) di alcune IA.
Ora, @Uanema , per stemperare ogni apparenza di intento polemico (che non ho), ti dirò che sono completamente d'accordo con te quando dici che i problemi (e non solo quello morale) incombono e sono di una portata incredibile. Tale che solo qualche anno fa era assolutamente inimmaginabile per tutti noi (salvo dare credito ai più visionari autori di sci-fi, che comunque hanno quasi tutti sbagliato "previsioni" sui tempi).
Il fatto è che problema vero, a mio parere, non è il possibile uso umano scorretto (hackeraggio, truffa, eccetera), bensì la possibile autoconsapevolezza dell'IA, e quando questa la metterà in competizione con noi.