• Pare :pace: 🚲 🌞@sociale.network
    1·
    2 months ago

    @mau
    Anche a me ultimamente è capitato di provare un servizio di #ImbonitoreArtificiale (IA).

    Stessa dinamica: facevo domande impersonali, ricevevo risposte enfatiche e sbagliate, che mi elogiavano dandomi del “tu”.

    Ho reagito in maniera diversa (se non mi pagano non lavoro per istruire il loro modello): ho scritto “Ho capito”, ricevendo complimenti anche se sbagliavo tutto.

    Sembra che i modelli centralizzati abbiano come unico scopo lodare e creare dipendenza, il meglio è non usarli.
    @aitech

    • .mau.@poliversity.itOP
      1·
      2 months ago

      @Pare sarebbe interessante capire perché è stata aggiunta la parte di pseudogratificazione dell’utente (la dipendenza è ovvia, ma questa è qualcosa in più) @aitech

      • Pare :pace: 🚲 🌞@sociale.network
        1·
        2 months ago

        @mau
        Credo aiuti a consolidare la dipendenza, spostandola anche sul lato emotivo.

        Immagino serva a far sì che l’utente si fidi.
        «In un mondo nel quale prendo sberle a destra e a manca, ecco finalmente “qualcuno” che capisce il mio valore, apprezza i miei gusti e le mie scelte. Perché non dovrei fidarmi quando mi propone qualcosa, aprirmi quando suggerisce di parlare?»

        Il modello di business immagino sia il solito: estrarre informazioni, profilare e propinare propaganda.
        Sbaglio?
        @aitech

          • Pare :pace: 🚲 🌞@sociale.network
            1·
            2 months ago

            @mau
            Con te ci ha provato al primo messaggio: “vuoi che ti aiuti a trovare una registrazione”?
            Dici che poi non avrebbe potuto propagandare servizi o edizioni specifiche?

            Se si chiede cosa mi porto in viaggio? Cosa visito a…? Dici che non può far propaganda commerciale?

            E se si domanda: quali sono le più promettenti fonti di energia? che cambierà col sì o no al referendum? quali sono le ragioni della tal guerra o conflitto?

            Il controllo politico degli oracoli è storia antica!
            @aitech

            • .mau.@poliversity.itOP
              1·
              2 months ago

              @Pare vedi come sono ingenuo? non guardo mai le richieste di un chatbot.
              Per il resto, è chiaro che se tu fai una domanda a chiunque (o cosunque, nel caso degli LLM) avrai una risposta propagandistica, quindi non è che la cosa mi cambi così tanto la vita…

              @aitech

                • .mau.@poliversity.itOP
                  1·
                  2 months ago

                  @Pare ok, mettiamo “di parte”. Per le risposte supposte oggettive, il problema però è la scuola (inteso come superiori, prima sarebbe impossibile. E non solo licei, anche istituti tecnici e professionali). È lì che si dovrebbe imparare a capire che una risposta oggettiva non la possiamo avere nemmeno in matematica (mi sono fatto una maglietta apposta).

                  @aitech