Stessa dinamica: facevo domande impersonali, ricevevo risposte enfatiche e sbagliate, che mi elogiavano dandomi del “tu”.
Ho reagito in maniera diversa (se non mi pagano non lavoro per istruire il loro modello): ho scritto “Ho capito”, ricevendo complimenti anche se sbagliavo tutto.
Sembra che i modelli centralizzati abbiano come unico scopo lodare e creare dipendenza, il meglio è non usarli. @aitech
@Pare sarebbe interessante capire perché è stata aggiunta la parte di pseudogratificazione dell’utente (la dipendenza è ovvia, ma questa è qualcosa in più) @aitech
@mau
Credo aiuti a consolidare la dipendenza, spostandola anche sul lato emotivo.
Immagino serva a far sì che l’utente si fidi.
«In un mondo nel quale prendo sberle a destra e a manca, ecco finalmente “qualcuno” che capisce il mio valore, apprezza i miei gusti e le mie scelte. Perché non dovrei fidarmi quando mi propone qualcosa, aprirmi quando suggerisce di parlare?»
Il modello di business immagino sia il solito: estrarre informazioni, profilare e propinare propaganda.
Sbaglio? @aitech
@mau
Con te ci ha provato al primo messaggio: “vuoi che ti aiuti a trovare una registrazione”?
Dici che poi non avrebbe potuto propagandare servizi o edizioni specifiche?
Se si chiede cosa mi porto in viaggio? Cosa visito a…? Dici che non può far propaganda commerciale?
E se si domanda: quali sono le più promettenti fonti di energia? che cambierà col sì o no al referendum? quali sono le ragioni della tal guerra o conflitto?
Il controllo politico degli oracoli è storia antica! @aitech
@Pare vedi come sono ingenuo? non guardo mai le richieste di un chatbot.
Per il resto, è chiaro che se tu fai una domanda a chiunque (o cosunque, nel caso degli LLM) avrai una risposta propagandistica, quindi non è che la cosa mi cambi così tanto la vita…
@mau
Sul propagandistica da chiunque, non concordo.
Parziale, certamente, magari anche di parte, ma non necessariamente propaganda (magari prezzolata).
Mi piace “cosunque”.
È che anche qui c’è una trappola nella quale tu magari non cadi, ma che è pronta per molti. I molti che per anni si son bevuti l’idea che esistano risposte “oggettive” migliori di quelle “soggettive”. I molti pronti a credere che l’oracolo, in quanto oggetto, dia risposte oggettive. Come se non rispondesse a padroni… @aitech
@Pare ok, mettiamo “di parte”. Per le risposte supposte oggettive, il problema però è la scuola (inteso come superiori, prima sarebbe impossibile. E non solo licei, anche istituti tecnici e professionali). È lì che si dovrebbe imparare a capire che una risposta oggettiva non la possiamo avere nemmeno in matematica (mi sono fatto una maglietta apposta).
Sì, perché anche nel mondo della scuola c’è una pericolosa tendenza a pretendere che le valutazioni siano oggettive.
No, nel senso di non solo. Non è solo la scuola a creare e diffondere cultura e senso comune. Ci sono i media, l’arte, l’intrattenimento, la politica, le aziende, lo sport, le associazioni, le istituzioni… che ogni persona nel suo ambito si prenda la propria responsabilità e faccia la propria parte.
@mau
Anche a me ultimamente è capitato di provare un servizio di #ImbonitoreArtificiale (IA).
Stessa dinamica: facevo domande impersonali, ricevevo risposte enfatiche e sbagliate, che mi elogiavano dandomi del “tu”.
Ho reagito in maniera diversa (se non mi pagano non lavoro per istruire il loro modello): ho scritto “Ho capito”, ricevendo complimenti anche se sbagliavo tutto.
Sembra che i modelli centralizzati abbiano come unico scopo lodare e creare dipendenza, il meglio è non usarli.
@aitech
@Pare sarebbe interessante capire perché è stata aggiunta la parte di pseudogratificazione dell’utente (la dipendenza è ovvia, ma questa è qualcosa in più) @aitech
@mau
Credo aiuti a consolidare la dipendenza, spostandola anche sul lato emotivo.
Immagino serva a far sì che l’utente si fidi.
«In un mondo nel quale prendo sberle a destra e a manca, ecco finalmente “qualcuno” che capisce il mio valore, apprezza i miei gusti e le mie scelte. Perché non dovrei fidarmi quando mi propone qualcosa, aprirmi quando suggerisce di parlare?»
Il modello di business immagino sia il solito: estrarre informazioni, profilare e propinare propaganda.
Sbaglio?
@aitech
@Pare @aitech per il momento non è così facile fare propaganda, a meno che qualcuno non cominci a chiedere “chi posso votare?”
@mau
Con te ci ha provato al primo messaggio: “vuoi che ti aiuti a trovare una registrazione”?
Dici che poi non avrebbe potuto propagandare servizi o edizioni specifiche?
Se si chiede cosa mi porto in viaggio? Cosa visito a…? Dici che non può far propaganda commerciale?
E se si domanda: quali sono le più promettenti fonti di energia? che cambierà col sì o no al referendum? quali sono le ragioni della tal guerra o conflitto?
Il controllo politico degli oracoli è storia antica!
@aitech
@Pare vedi come sono ingenuo? non guardo mai le richieste di un chatbot.
Per il resto, è chiaro che se tu fai una domanda a chiunque (o cosunque, nel caso degli LLM) avrai una risposta propagandistica, quindi non è che la cosa mi cambi così tanto la vita…
@aitech
@mau
Sul propagandistica da chiunque, non concordo.
Parziale, certamente, magari anche di parte, ma non necessariamente propaganda (magari prezzolata).
Mi piace “cosunque”.
È che anche qui c’è una trappola nella quale tu magari non cadi, ma che è pronta per molti. I molti che per anni si son bevuti l’idea che esistano risposte “oggettive” migliori di quelle “soggettive”. I molti pronti a credere che l’oracolo, in quanto oggetto, dia risposte oggettive. Come se non rispondesse a padroni…
@aitech
@Pare ok, mettiamo “di parte”. Per le risposte supposte oggettive, il problema però è la scuola (inteso come superiori, prima sarebbe impossibile. E non solo licei, anche istituti tecnici e professionali). È lì che si dovrebbe imparare a capire che una risposta oggettiva non la possiamo avere nemmeno in matematica (mi sono fatto una maglietta apposta).
@aitech
@mau
La @scuola ?
Sì e no.
Sì, perché anche nel mondo della scuola c’è una pericolosa tendenza a pretendere che le valutazioni siano oggettive.
No, nel senso di non solo. Non è solo la scuola a creare e diffondere cultura e senso comune. Ci sono i media, l’arte, l’intrattenimento, la politica, le aziende, lo sport, le associazioni, le istituzioni… che ogni persona nel suo ambito si prenda la propria responsabilità e faccia la propria parte.
Comunque… vogliamo vedere la maglietta!
@aitech