| inviato il 23 Maggio 2025 ore 17:25
il rischio con le AI è proprio quello: si può programmare con estrema precisione gli score della rete neurale....non si può quasi nulla per controllare COME la rete perseguirà questi score durante la sua evoluzione.
|
| inviato il 23 Maggio 2025 ore 17:38
Con la differenza che a virus e batteri non basta togliere la corrente per fermarli.
Detto meno finemente...siete in paranoia. |
| inviato il 23 Maggio 2025 ore 18:10
Ti sei perso questo probabilmente..
In un esempio eclatante, un modello di IA si è copiato su un nuovo server e poi ha negato l'azione quando è stato interrogato, dimostrando un inganno strategico simile alle tattiche di ricatto di Claude. |
| inviato il 23 Maggio 2025 ore 23:39
Ho capito ma se togli la spina quel coso li non funziona! È banalmente la cosa più controllabile del mondo, on/off.
Può anche fare le peggio congiure o i ragionamenti più complessi o addirittura volerci eliminare ma...chissenefrega! Le tolgo la spina e finisce li!
|
| inviato il 24 Maggio 2025 ore 6:12
“ Le tolgo la spina e finisce li! „
Mi sa che non e' proprio la stessa cosa di un tostapane.
L'attuale tecnologia e' sempre piu' dipendente dall'AI.
Qualora diventasse indispensabile pure alla produzione/controllo e smistamento dell'energia elettrica, (non ci vuole poi tutta sta fantasia per immaginarlo), staccare la spina potrebbe significare persino un blackout globale, con tutte le conseguenze del caso.
Pensieri di troglodita...
Wilma la clava! |
| inviato il 24 Maggio 2025 ore 6:31
Va beh nel momento del blackout l'AI "uccide" se stessa e si riavvia il tutto escludendola.
Nel frattempo le infrastrutture vitali usano gruppi elettrogeni e genetatori indipendenti, com'è sempre stato.
Aggiungo che non penso si possa mettere al comando di un sistema come quello dell'energia qualcosa che escluda totalmente i controlli manuali.
I protocolli d'emergenza lo impediscono.
Vi preoccupate per nulla o forse avete visto troppi film apocalittici, altro che Flinstones.
|
| inviato il 24 Maggio 2025 ore 6:38
Grazie Ric.
Posso continuare a fare sonni tranquilli |
| inviato il 24 Maggio 2025 ore 6:42
Ora sarà meglio che vai a berti un caffè visto l'orario. |
| inviato il 24 Maggio 2025 ore 6:57
Grazie del pensiero, ma ne ho gia' bevuto abbastanza.
Comunque andra' a finire, per gli amici c'e' sempre posto nella mia confortevole grotta.
Che lo spirito del sacro mammut ci protegga da ogni male! |
| inviato il 25 Maggio 2025 ore 6:09
“ Proprio come fanno virus e batteri, e in generale tutti gli esseri viventi.. Tutto pur di sopravvivere... „
é una AI addestrata all'auto conservazione, che menta per adempiere al mandato fa parte del pacchetto, non vedo perche sorprendersi, queste ricerche sono pubblicate con un taglio allarmistico per attirare lettori, ma non é un vero istinto di sopravvivenza, servono per vedere le strategie mese in atto da una AI per proteggersi |
| inviato il 26 Maggio 2025 ore 9:17
L'idea di “staccare la spina” a un'IA oggi non ha oggi più alcun senso e non è per nulla paragonabile al gesto fisico di spegnere un computer.
Parliamo di sistemi distribuiti su scala globale, server in cloud replicati su più continenti, ridondanze di backup utomatiche, modelli frammentati, esportati, magari addestrati in parallelo da enti diversi e interconnessioni (volontarie o meno) con altri software, reti e ambienti operativi.
Già anche solo riuscire a capire DOVE fisicamente siano i dati di un sistema cloud è difficlissimo...figurarsi "cancellarli" o "arrestarlo".
Non si riesce nemmeno a togliere veramente da internet un video virale...ad una AI distribuita magari su decine di server, molti dei quali magari usati per altre decine e centinaia di sistemi...non gli "togli la spina"
Per il momento non c'è questo rischio, forse, ma di certo non si può usare come ancora di tranquillità il pensare che, alla peggio, esista un "interruttore" per spegnerla.
|
| inviato il 26 Maggio 2025 ore 9:21
“ ma non é un vero istinto di sopravvivenza „
anche il nostro istinto di sopravvivenza fa la stessa cosa: in caso di pericolo per il nostro corpo, agisce per evitarlo.
E' una risposta chimica...tanto è vero che esistono malattie/disfunzioni per cui queste reazioni non avvengono, o avvengono in risposta a stimoli diversi rispetto a quelli delle persone normali. Ad esempio, in alcune forme di autismo o di demenza
|
| inviato il 26 Maggio 2025 ore 9:27
“ Non si riesce nemmeno a togliere veramente da internet un video virale...ad una AI distribuita magari su decine di server, molti dei quali magari usati per altre decine e centinaia di sistemi...non gli "togli la spina"
Per il momento non c'è questo rischio, forse, ma di certo non si può usare come ancora di tranquillità il pensare che, alla peggio, esista un "interruttore" per spegnerla. „
Ci saranno più spine da staccare ma sempre spine sono...spegni tutto il mondo per 10min ed ecco sistemato skynet... |
| inviato il 26 Maggio 2025 ore 10:08
Personalmente, per come le persone stanno trattando il mondo, non mi dispiacerebbe più di tanto se, quando gli Stati avranno astutamente affidato all'AI i sistema di difesa, le "macchine" concordassero tra di loro di fare partire tutti i missili per distruggere l'umanità.
In fondo, gli umani sarebbero inutili, oltre a osare minacciare di spegnere l'AI.
l'AI avrebbe solo bisogno di costruire e mantenere dei robot che gestiscano gli impianti solari ed elettrici che tengano in vita i robot stessi e i computer.
Più un po' di olio per lubrificare i robot e qualche azienda meccanica robotizzata per produrre nuovi pannelli solari, i pezzi di ricambio e poco altro.
Ovviamente sto semplificando (qualche robot dovrebbe guidare i mezzi di trasporto che spostano i robot dalle fabbriche a dove servono ecc.), ma più o meno è questo che mi immagino.
L'inquinamento crollerebbe. Il mondo tornerebbe a riempirsi di foreste. L'obiettivo di salvare il mondo dal suo abitante più pericoloso sarebbe raggiunto.
Ho solo un dubbio: oggi l'AI impara tutto da noi. Se ci eliminasse, non si stuferebbe?
Chissà, magari penserebbe anche a questo e manterrebbe in vita una piccola colonia di umani per osservarli mentre litigano e/o solidarizzano.
Uno zoo: speriamo che non sia troppo piccolo. |
Che cosa ne pensi di questo argomento?Vuoi dire la tua? Per partecipare alla discussione iscriviti a JuzaPhoto, è semplice e gratuito!
Non solo: iscrivendoti potrai creare una tua pagina personale, pubblicare foto, ricevere commenti e sfruttare tutte le funzionalità di JuzaPhoto. Con oltre 252000 iscritti, c'è spazio per tutti, dal principiante al professionista. |
Metti la tua pubblicità su JuzaPhoto (info) |
JuzaPhoto contiene link affiliati Amazon ed Ebay e riceve una commissione in caso di acquisto attraverso link affiliati.
