Chattare con IA

“ Tra l'altro, c'è un'altra frontiera più avanti, che aggiungerà un rischio ancora più alto, ossia quando alla AI verrà data la possibilità di modificare il codice della propria rete neurale, con l'intento di aumentare la velocità e le possibilità di progresso. A quel punto ci sarà veramente da preoccuparsi. „

“ While the AI Scientist's behavior did not pose immediate risks in the controlled research environment, these instances show the importance of not letting an AI system run autonomously in a system that isn't isolated from the world. AI models do not need to be "AGI" or "self-aware" (both hypothetical concepts at the present) to be dangerous if allowed to write and execute code unsupervised. Such systems could break existing critical infrastructure or potentially create malware, even if unintentionally. „