Stessa dinamica: facevo domande impersonali, ricevevo risposte enfatiche e sbagliate, che mi elogiavano dandomi del “tu”.
Ho reagito in maniera diversa (se non mi pagano non lavoro per istruire il loro modello): ho scritto “Ho capito”, ricevendo complimenti anche se sbagliavo tutto.
Sembra che i modelli centralizzati abbiano come unico scopo lodare e creare dipendenza, il meglio è non usarli. @aitech
@Pare sarebbe interessante capire perché è stata aggiunta la parte di pseudogratificazione dell’utente (la dipendenza è ovvia, ma questa è qualcosa in più) @aitech
@mau
Credo aiuti a consolidare la dipendenza, spostandola anche sul lato emotivo.
Immagino serva a far sì che l’utente si fidi.
«In un mondo nel quale prendo sberle a destra e a manca, ecco finalmente “qualcuno” che capisce il mio valore, apprezza i miei gusti e le mie scelte. Perché non dovrei fidarmi quando mi propone qualcosa, aprirmi quando suggerisce di parlare?»
Il modello di business immagino sia il solito: estrarre informazioni, profilare e propinare propaganda.
Sbaglio? @aitech
@mau
Con te ci ha provato al primo messaggio: “vuoi che ti aiuti a trovare una registrazione”?
Dici che poi non avrebbe potuto propagandare servizi o edizioni specifiche?
Se si chiede cosa mi porto in viaggio? Cosa visito a…? Dici che non può far propaganda commerciale?
E se si domanda: quali sono le più promettenti fonti di energia? che cambierà col sì o no al referendum? quali sono le ragioni della tal guerra o conflitto?
Il controllo politico degli oracoli è storia antica! @aitech
@Pare vedi come sono ingenuo? non guardo mai le richieste di un chatbot.
Per il resto, è chiaro che se tu fai una domanda a chiunque (o cosunque, nel caso degli LLM) avrai una risposta propagandistica, quindi non è che la cosa mi cambi così tanto la vita…
@Pare ok, mettiamo “di parte”. Per le risposte supposte oggettive, il problema però è la scuola (inteso come superiori, prima sarebbe impossibile. E non solo licei, anche istituti tecnici e professionali). È lì che si dovrebbe imparare a capire che una risposta oggettiva non la possiamo avere nemmeno in matematica (mi sono fatto una maglietta apposta).
@mau
Anche a me ultimamente è capitato di provare un servizio di #ImbonitoreArtificiale (IA).
Stessa dinamica: facevo domande impersonali, ricevevo risposte enfatiche e sbagliate, che mi elogiavano dandomi del “tu”.
Ho reagito in maniera diversa (se non mi pagano non lavoro per istruire il loro modello): ho scritto “Ho capito”, ricevendo complimenti anche se sbagliavo tutto.
Sembra che i modelli centralizzati abbiano come unico scopo lodare e creare dipendenza, il meglio è non usarli.
@aitech
@Pare sarebbe interessante capire perché è stata aggiunta la parte di pseudogratificazione dell’utente (la dipendenza è ovvia, ma questa è qualcosa in più) @aitech
@mau
Credo aiuti a consolidare la dipendenza, spostandola anche sul lato emotivo.
Immagino serva a far sì che l’utente si fidi.
«In un mondo nel quale prendo sberle a destra e a manca, ecco finalmente “qualcuno” che capisce il mio valore, apprezza i miei gusti e le mie scelte. Perché non dovrei fidarmi quando mi propone qualcosa, aprirmi quando suggerisce di parlare?»
Il modello di business immagino sia il solito: estrarre informazioni, profilare e propinare propaganda.
Sbaglio?
@aitech
@Pare @aitech per il momento non è così facile fare propaganda, a meno che qualcuno non cominci a chiedere “chi posso votare?”
@mau
Con te ci ha provato al primo messaggio: “vuoi che ti aiuti a trovare una registrazione”?
Dici che poi non avrebbe potuto propagandare servizi o edizioni specifiche?
Se si chiede cosa mi porto in viaggio? Cosa visito a…? Dici che non può far propaganda commerciale?
E se si domanda: quali sono le più promettenti fonti di energia? che cambierà col sì o no al referendum? quali sono le ragioni della tal guerra o conflitto?
Il controllo politico degli oracoli è storia antica!
@aitech
@Pare vedi come sono ingenuo? non guardo mai le richieste di un chatbot.
Per il resto, è chiaro che se tu fai una domanda a chiunque (o cosunque, nel caso degli LLM) avrai una risposta propagandistica, quindi non è che la cosa mi cambi così tanto la vita…
@aitech
deleted by creator
@Pare ok, mettiamo “di parte”. Per le risposte supposte oggettive, il problema però è la scuola (inteso come superiori, prima sarebbe impossibile. E non solo licei, anche istituti tecnici e professionali). È lì che si dovrebbe imparare a capire che una risposta oggettiva non la possiamo avere nemmeno in matematica (mi sono fatto una maglietta apposta).
@aitech
deleted by creator