|
|
inviato il 16 Aprile 2023 ore 18:43
Leggo che l'uso dei linguaggi naturali (lingue umane) pare venga implementato nei programmi di IA attraverso algoritmi basati sull'analisi di moli impressionanti di testi reperibili per una data lingua.
In altre parole non ci si basa tanto sull'idea di una grammatica generativa in grado di produrre enunciati ben formulati in una data lingua, se agganciata a un lessico sufficientemente ricco e ben assimilato anche nelle sue sfumature connotative (che credo fosse il modello di Noam Chomsky) quanto sull'analisi massiccia dei testi (in una prospettiva ideale di tutti i testi ) disponibili in una data lingua.
Ma da dove proverranno i testi sui quali si baserà la competenza linguistica dell'IA? Presumibilimente dalla rete, e sappiamo tutti la quantità di spazzatura che essa contiene.
Per cui viene da domandarsi se, a proposito di competenze linguistiche, e tenendo conto che le competenze linguistiche non sono neutre ma influenzano fortemente il modo di esprimere il pensiero, si potrà davvero parlare di IA o se non sarà più opportuno parlare di SAP (Stupidità Artificiale Potenziata). |
user204233
|
inviato il 16 Aprile 2023 ore 19:03
Le persone non leggono, basterebbe leggere anche soltanto un poco per ridimensionare l'impatto che avranno questi software.
Il punto, secondo me, è che impatteranno proprio su un target specifico e quel target specifico sarà travolto.
|
|
|
inviato il 16 Aprile 2023 ore 19:49
La cosa preoccupante è che questi software verranno impegati per le comunicazioni tra le grandi organizzazioni che operano in rete (social, reti di vendita, informazione...) e gli utenti, che già sono fortemente profilati oggi, e figuriamoci in futuro. Ci si rivolgerà a ciascuono di essi con strategie linguistiche mirate e personalizzate in funzione del profilo dell'utente (o meglio sarebbe dire "vittima"?).
Oggi un bravo venditore, che conosce il suo mestiere, sa che deve rivolgersi al possibile acquirente cercando di capire bene chi abbia di fronte e utilizzando tecniche di comunicazione adatte ad ottenere quel che vuole da lui. Ma un bravo venditore oggi impiega il suo talento, capace di personalizzare a fondo l'approccio di vendita, solo per trattative di una certa entità: se deve intrattenersi col cliente per una mezz'ora o un'ora, o più volte in giorni diversi, non sarà certo per vendergli un elettrodomestico del valore di poche decine di euro. Beh, in futuro l'IA gestirà in questo modo tutte le trattative di vendita, anche le più insignificanti. E non si tratterà solo di vendita di oggetti, ma anche della costruzione del consenso attorno a progetti politici e culturali. Insomma, ci sarà poco da stare allegri... |
|
|
inviato il 16 Aprile 2023 ore 20:48
[…]
In altre parole non ci si basa tanto sull'idea di una grammatica generativa in grado di produrre enunciati ben formulati in una data lingua, se agganciata a un lessico sufficientemente ricco e ben assimilato anche nelle sue sfumature connotative (che credo fosse il modello di Noam Chomsky) quanto sull'analisi massiccia dei testi (in una prospettiva ideale di tutti i testi ) disponibili in una data lingua.
In effetti, definire il linguaggio nelle sue caratteristiche più profonde e strutturali, ha rappresentato, da sempre, un'impresa ardua. Non si capisce quanto l'intelligenza umana sia complessa fintantoché non si cerca di emularne ed implementarne le caratteristiche in ambito sperimentale o applicativo. Il rapporto tra segno e referente, appare molto più complesso della sommatoria dei possibili usi linguistici impressi e richiamati da una memoria di un computer… forse A.I. potrà aiutarci comprendere meglio alcuni meccanismi linguistici. |
|
|
inviato il 16 Aprile 2023 ore 22:57
Mi piacerebbe poter pensare che chi sta lavorando all'evoluzione dell'intelligenza artificiale lo stia facendo per amore disinteressato della conoscenza e quindi, in ultima analisi, per aiutare i propri simili. Tuttavia mi viene da pensare invece che molti ci stiano lavorando perché hanno capito che l'IA sarà decisiva per inkiappettarci così bene come mai si vide in precedenza.
Salvo il fatto che se le macchine dotate di IA raggiungeranno un sufficiente grado di autonomia ad essere inkiappettati saranno gli stessi aspiranti inkiappettatori. |
|
|
inviato il 16 Aprile 2023 ore 23:30
come scrivevo in altri topic, so di aziende che stanno addestrando le loro AI proprio sui social.
vedendo l'influenza che possono avere personaggi sui social, il mio timore va proprio all'idea di AI addestrate per profilare milioni di persone per volta, mandando a ciascuna di esse messaggi estremamente personali.
E non si creda che il cervello dell'essere umano sia ste gran cosa...anzi, lo è, effettivamente, ma è molto molto molto molto più meccanico e facile da ingannare di quanto la singola persona è in grado di accettare.
Studi hanno dimostrato che, tanto quanto è difficile convincere una persona a cambiare idea calandogli un messaggio "dall'alto", tanto semplice è manipolare un consenso nel momento in cui è la persona stessa che crede di averlo trovato, di sua iniziativa.
Con le AI che stanno addestrando, ciascuna persona potrebbe trovare esattamente il suo tipo esatto di "influencer" ideale.
Il timore aumenta, poi, quando penso a quanto incapaci i governi di intervenire seriamente ed efficacmente per regolamentare i meccanismi che usano internet. Diciamo pure nulla (vedi criptovalute).
|
|
|
inviato il 17 Aprile 2023 ore 11:08
La cosa ulteriormente inquietante è che le macchine dotate di IA avranno inevitabilmente una certa discrezionalità nel prendere decisioni che all'inizio saranno di secondaria importanza ma poi, vista la mole dei dati che elaboreranno, forse riguarderanno anche aspetti non del tutto secondari del nostro vivere comune, tipo chi dovrà avere la precedenza quando si tratti di assistenza medica che richieda attrezzature o procedure tali da dare luogo a una lista di attesa.
Inoltre forse saranno le stesse macchine a poter aggiornare (cioè modificare...) il proprio software per renderlo più efficiente in vista di determinate finalità. Ma la declinazione pratica di queste finalità potrebbe non essere così semplice e lineare, per cui sarebbero in pratica le macchine stesse a decidere come si prenderanno certe decisioni anche abbastanza critiche in merito all'attuazione di programmazioni di tipo economico e sociale.
Forse Matrix è alle porte...
|
user204233
|
inviato il 17 Aprile 2023 ore 11:35
“ so di aziende che stanno addestrando le loro AI proprio sui social. „
Sì, anche Google e Meta stanno lavorando a software simili a quelli che sono già in circolazione, quindi ciò che scrivi è certamente più che probabile, anzi, direi quasi scontato.
|
|
|
inviato il 17 Aprile 2023 ore 13:23
Ragazzi, posto che le previsioni sono difficili da fare, e in particolare quelle sul futuro ( ), gli attuali sistemi di AI basati su LLM una cosa fanno: prevedono la prossima parola più probabile in una frase.
Da qui a matrix ce ne passa |
|
|
inviato il 17 Aprile 2023 ore 13:26
“ Ragazzi, posto che le previsioni sono difficili da fare, e in particolare quelle sul futuro (MrGreen), gli attuali sistemi di AI basati su LLM una cosa fanno: prevedono la prossima parola più probabile in una frase.
Da qui a matrix ce ne passa „
Certo, ce ne passa, ma ricordiamoci che i progressi nello sviluppo di questo tipo di cose non seguono curve lineari ma piuttosto esponenziali, quindi ce ne passa ma forse mica così tanto come pensiamo... |
|
|
inviato il 19 Aprile 2023 ore 7:35
“ macchine dotate di IA avranno inevitabilmente una certa discrezionalità nel prendere decisioni che all'inizio saranno di secondaria importanza ma poi, vista la mole dei dati che elaboreranno, forse riguarderanno anche aspetti non del tutto secondari del nostro vivere comune „
Tutte le ai hanno un grado di discrezione ma è previsto e come molti altri parametri lo cambi tu stesso, puoi scegliere quando devi essere preso alla lettera e da che fonti elaborare le risposte. poi sul discorso del cambio priorità in base alla mole di dati dove lo hai letto? Puoi fornire il link? Grazie
Per quanto ne so io la velocità di elaborazione non ha problemi, vale oggi l'esempio del traffico dato attuale, semmai è l'imbuto nel mobile ma il 5G e la sua velocità dovrebbe risolverli
“ Ma da dove proverranno i testi sui quali si baserà la competenza linguistica dell'IA? „
Trovi informazioni in molti articoli, OpenAi ha strutturato il database di GPT con book Google 1 e 2, Wikipedia e del testo del web degli ultimi 5 anni fino al 2021. Quindi le fonti sono note già accessibili a tutti, a parte la scansione web |
|
|
inviato il 19 Aprile 2023 ore 7:49
La mole di dati che le macchine gestiranno non sarà un problema per le macchine, presumibilmente. Il vero problema sarà il controllo umano su processi così estesi e complessi. Non è che si arriverà al punto che non saremo più in grado di capire e controllare cosa veramente sta succedendo? Temo di si. Già oggi abbiamo difficoltà a sapere cosa fa esattamente windows, che è un semplice sistema operativo. Perfino tra quelli che ci lavorano non credo ci sia più nessuno che possa dire di conoscerlo a fondo nella sua interezza. Figuriamoci i sistemi di IA che gestiranno la comunicazione in futuro, col livello di complessità al quale arriveranno... |
|
|
inviato il 19 Aprile 2023 ore 8:05
Mi devi scusare, avevo capito che citavi dati letti |
|
|
inviato il 19 Aprile 2023 ore 8:57
Le cosiddette "funzioni emergenti" indicano delle abilità che i LLM, per esempio ma non solo, sono in grado di mostrare, ma che non rientrano nell'intento primo degli sviluppatori.
Per esempio, scopo di base dei sistemi basati su LLM è di prevedere la probabile prossima parola in una frase, e fin qui ok.
Però si è osservato che i modelli più sofisticati tipo gpt-4 sono in grado di risolvere anche problemi di logica. Questa è una funzione emergente che gli sviluppatori stanno cercando di spiegare.
Quindi già ora ci sono dei fatti che non capiamo. C'è da allarmarsi? Gli esperti non sono concordi.
Va bloccato lo sviluppo? Anche qui non c'è consensus, ma probabilmente no, anzi, è meglio promuovere lo sviluppo in modo evitare scenari di oligopolio tecnologico. |
|
|
inviato il 19 Aprile 2023 ore 9:25
bloccare lo sviluppo è una strada che non ha mai funzionato...meglio, piuttosto, cercare di tenerne il controllo.
come continuo a ripetere anche io, le AI su reti neurali non sono da confondere con i normali programmi, per quanto complessi questi ultimi possano essere.
Una semplice rete neurale da 10 neuroni e 2 strati può diventare molto più imprevedibile e "intelligente" di un intero windows.
|
Che cosa ne pensi di questo argomento?
Vuoi dire la tua? Per partecipare alla discussione iscriviti a JuzaPhoto, è semplice e gratuito!
Non solo: iscrivendoti potrai creare una tua pagina personale, pubblicare foto, ricevere commenti e sfruttare tutte le funzionalità di JuzaPhoto.
Con oltre 259000 iscritti, c'è spazio per tutti, dal principiante al professionista. |
Metti la tua pubblicità su JuzaPhoto (info) |
JuzaPhoto contiene link affiliati Amazon ed Ebay e riceve una commissione in caso di acquisto attraverso link affiliati.
