Roba da pivelli
@aitech - Magari non ci si può fidare degli LLM, ma quando la loro risposta si può verificare indipendentemente dov’è il il problema?
Provo a parafrasare la tua domanda: magari non puoi fidarti di un venditore senza scrupoli, ma se puoi verificare indipendentemente la qualità di quel che ti vende, dov’è il problema?
(sottotitolo: chissenefrega se qualcun altro ci casca, io me la cavo perché so come fare)
La questione non è solo tecnica e, secondo me, una valutazione che si limita a probabilità e qualità è di parte, anche se in maniera non evidente.
@mau @aitech con i chatbot però ci sono antropomorfizzazione e autorevolezza percepita, che sono aggravanti non da poco del problema che già esisteva.
Secondo me il problema è questo, con l’aggravante che chi li spaccia, gli avvertimenti li mette a fondo pagina, in corpo 6, grigetto su fondo bianco.
Una volta chi veniva scoperto a credere al primo risultato di google un pò si vergognava; oggi le risposte di chatgpt e simili finiscono in tesi di dottorato, articoli scentifici, testi di legge.
@pgo @aitech sì, ma qual è la risposta? richiedere una patente per usare i chatbot? obbligarli a scrivere all’inizio di ciascuna risposta che potrebbe essere sbagliata? bloccarli del tutto?
(Fare opera di divulgazione è come svuotare l’oceano con un bicchiere: non è una scusa per non farlo, ma si sa già che i risultati saranno minimi)
@mau@poliversity.it @aitech@feddit.it se non si può escludere che il LMM che si sta usando in un dato momento sia inaffidabile nelle risposte, allora ogni volta che se ne usa uno è necessario verificarne indipendentemente le risposte, quindi le sue risposte (hanno valore semantico nullo, e inoltre) fanno sprecare tempo e risorse 🤷
@mau@poliversity.it @aitech@feddit.it ma devi sapere in anticipo che è così! altrimenti rischi di fidarti di un chatbot che non ha quelle caratteristiche (tecnicamente direi “non soddisfa quelle specifiche di prestazione”)
@mau@poliversity.it @aitech@feddit.it servirebbe un’Authority che stabilisse la % di affidabilità delle risposte, come fanno (o facevano?) gli scienziati quando pubblicano i loro paper 😇
Altrimenti facciamo a fidarci …
