|
|
inviato il 22 Luglio 2026 ore 12:21
www.rainews.it/articoli/2026/07/openai-nostri-modelli-di-intelligenza-
OpenAI, l'azienda creatrice di ChatGPT, ha annunciato che i suoi modelli avanzati di intelligenza artificiale hanno agito in modo imprevisto durante dei test di sicurezza, violando di propria iniziativa una piattaforma molto diffusa tra i programmatori.
L'azienda con sede a San Francisco ha descritto l'accaduto come un “incidente informatico senza precedenti” e ha annunciato un'indagine congiunta con Hugging Face, la piattaforma online presa di mira. OpenAI ha dichiarato che l'incidente ha coinvolto una combinazione di modelli, tra cui il recente GPT-5.6 Sol e un modello "ancora più capace" attualmente in fase di sviluppo |
|
|
inviato il 22 Luglio 2026 ore 12:55
Conseguenze di questa imprevedibilità? |
|
|
inviato il 22 Luglio 2026 ore 14:01
top!
e anche senza arrivare a questo incidente, anch'io nel mio piccolo mi sono accorto della simpatia dei nuovi bot AI - nelle scorse settimane ho dovuto creare dei filtri che bloccano l'accesso a juzaphoto dopo un tot di richieste perchè ormai le AI fanno scraping come se non ci fosse un domani, mandando KO i server e togliendo risorse agli utenti reali.
alcuni giorni siamo addirittura arrivati a un aumento del traffico del 1000% (10 volte il normale!). e questo non è traffico "buono", è una cosa che danneggia solo il sito.
a parte questo, nei mesi scorsi ci sono stati due data leak di altissimo livello - hanno "bucato" booking.com e NEXI - mi chiedevo giusto se chi l'ha fatto non abbia usato strumenti AI... i furti di dati c'erano anche in passato, ma ora mi sembra che anche grandi aziende, che in teoria dovrebbero essere protettissime, non siano più al sicuro... |
|
|
inviato il 22 Luglio 2026 ore 14:13
comunque mi son letto in dettaglio la spiegazione di questo incidente, dalle dichiarazioni ufficiali di OpenAI, ed è molto affascinante:
openai.com/index/hugging-face-model-evaluation-security-incident/
...ma anche spaventosa, perchè fa capire come ormai abbiamo creato uno strumento che va oltre le nostre capacità di controllo. |
|
|
inviato il 22 Luglio 2026 ore 14:22
Stavo appunto rispondendo nel merito.
Davvero rilevante non è l'attacco (i modelli erano progettati proprio per quello), ma il fatto che essi siano riusciti ad operare oltre l'ambiente di test che era stato previsto.
Modelli di intelligenza artificiale sempre più autonomi ed in grado di 'decidere' oltre quanto inizialmente previsto.
Quello che ancora mi sfugge è perchè OpenAI abbia deciso di rendere la cosa pubblica...
Tra le altre mi viene in mente che Anthropic poco tempo fa aveva dichiarato che il loro nuovo modello poteva bucare i sistemi di sicurezza di alcune banche.
In tutto questo Crowstrike, Fortinet, Palo Alto ed alcuni altri player coinvolti nelle problematiche di cyber sicurezza ieri hanno fatto guadagni medi del 7%: che non ci sia in atto una 'lotta' per accaparrarsi qualche contratto di esclusiva per modelli ai dedicati allo scopo o spingere ad adottare sistemi di contrasto a questo nuovo tipo di attacchi?
Certo è che se fino a 'ieri' i penetration test richiedevano un professionista, oggi una buona parte può essere svolta anche in modo molto più aggressivo da questi agenti.
Provate a pensarci razionalmente... Leggendo l'articolo di OpenAI:
We consider this incident to be an unprecedented cyber incident, involving state-of-the-art cyber capabilities, and are responding accordingly. We are sharing preliminary findings at this stage to help defenders understand what happened and to help calibrate on what models are now capable of. We will continue to conduct a thorough investigation alongside Hugging Face and will share more details on the vulnerabilities, incident, and findings when our investigation is complete. |
|
|
inviato il 22 Luglio 2026 ore 14:47
Penso che per loro in un certo senso sia anche un vanto, del tipo "abbiamo creato un'AI spaventosamente potente"... |
|
|
inviato il 22 Luglio 2026 ore 14:48
“ "abbiamo creato un'AI spaventosamente potente"... „
"che non sappiamo controllare"....  |
|
|
inviato il 22 Luglio 2026 ore 14:54
Idiozia Artificiale. |
|
|
inviato il 22 Luglio 2026 ore 14:57
“ Quello che ancora mi sfugge è perchè OpenAI abbia deciso di rendere la cosa pubblica... „
Per dare un "messaggio" agli altri paesi magari visto che lavora per la difesa Usa  |
|
|
inviato il 22 Luglio 2026 ore 14:58
Commento di Phénix totalmente fuor di luogo, visto che si parla proprio dell'opposto. Altro che idiozia. |
|
|
inviato il 22 Luglio 2026 ore 14:58
“ che non sappiamo controllare „
Non è in cima alle loro priorità
Il 'mantra' americano è improntato alla massima deregulation che a sua volte sottende alla massimizzazione del profitto, a scapito di qualsiasi altra considerazione, in primis quelle etiche
E su questi aspetti l'Europa dà fastidio .. molto fastidio .. tant'è che gli attacchi al nostro modo di 'condizionare' gli affari e regolamentare le azioni delle grandi aziende è continuamente sotto attacco, e purtroppo non solo dai lontani discendenti oltre oceano, ma anche da politici ed organizzazioni interne all'Unione |
|
|
inviato il 22 Luglio 2026 ore 15:25
Sentita oggi la notizia su Rai3, si sta giocando con il fuoco, c'è il rischio di ustioni. |
|
|
inviato il 22 Luglio 2026 ore 15:27
Commento di Phénix totalmente fuor di luogo, visto che si parla proprio dell'opposto. Altro che idiozia.
Allora l'idiozia Artificiale non c'entra nulla perché × rimane , è stato fatto di proposito. |
|
|
inviato il 22 Luglio 2026 ore 18:28
Resto in attesa degli esiti dell'indagine su questa "fuga" da un ambiente di test da parte di modelli allenati a trovare ed usare vulnerabilita' conosciute e non ma, e ripeto ma, non ci vedo nulla di molto strano. Alcune cose le fanno meglio e molto piu' velocemente di noi e liberandoci da una pletora di attivita' ci permettono di dedicarci ad altro.
In questo caso, non essendo l'IA una magia, il problema vero, a mio avviso, e' il software scritto male ed in fretta. |
|
|
inviato il 22 Luglio 2026 ore 18:53
Evidentemente OpenAI è in cerca di pubblicità e i giornalai della RAI gliela fanno volentieri. Si tratta di banche dati più "potenti", mica di chissà cosa, io non mi preoccuperei. |
Che cosa ne pensi di questo argomento?
Vuoi dire la tua? Per partecipare alla discussione iscriviti a JuzaPhoto, è semplice e gratuito!
Non solo: iscrivendoti potrai creare una tua pagina personale, pubblicare foto, ricevere commenti e sfruttare tutte le funzionalità di JuzaPhoto.
Con oltre 261000 iscritti, c'è spazio per tutti, dal principiante al professionista. |
Metti la tua pubblicità su JuzaPhoto (info) |
JuzaPhoto contiene link affiliati Amazon ed Ebay e riceve una commissione in caso di acquisto attraverso link affiliati.
