Jeg kan fortælle at den kommune som jeg arbejder hos, (dog som ufaglært i et botilbud), tilbyder kurser i brugen af AI inden for kommunens rammer. Der bliver gjort meget ud af at fortælle hvad det er, at det ikke er et svar men mere inspiration, der bliver beskrevet hvad man må bruge det til, hvordan det skal bruges og enda også at undgå at bruge det til billed generering, da det er meget resourcekrævende.
Alt i alt, føler jeg at de tager det meget seriøst.
Problemet er, at de kurser jeg har været til, har der kun været 3-4 tilmeldte, og flere af dem er blevet aflyst pga manglende tilmeldinger
Hot take:
For langt flertallet bør enhver snak om kurser i prompt engineering og lignende droppes til fordel for kurser i tifingerskrivning og genvejstaster. Effektiviseringspotentialt i den offentlige forvaltning (og sikkert også i det private) er astronomisk på den korte bane!Og så er alle klar til at turbo-prompte (prompte prompte?) hvis og når AI-løsningerne er blevet tilstrækkeligt modne. Og hvis AI’en ender med ikke at levere har vi stadig fået noget ud af det.
Regeringen har tidligere meldt ud, at det er en ambition, at AI skal bidrage til, at der kan frigøres 30.000 årsværk i det offentlige over de næste ti år. Men det er ikke det samme, som at der skal fyres, forsikrer digitaliseringsministeren.
Igen igen tror man at man kan svinge teknologi-tryllestaven og dermed spare. Jeg vil se det før jeg tror det.
For slet ikke at tale om at AI kan bidrage til beslutninger - det er mildest talt bekymrende.
Min kone arbejder med sagsbehandling i det offentlige, og det ville ifølge hende kunne reducere behandlingstid på sager gevaldigt. F.eks. når de skal gennemgå en 100+ siders tung lægejournal for at se om der refereres til noget der kunne være relevant for lige den sag de sidder med et eller andet sted, så kunne de spare meget tid på at få en KI-løsning til at tjekke om der overhovedet er noget og hvor præcist det evt. er gemt i journalen. En normal søgefunktion vil aldrig kunne finde det fordi de vil skulle tjekke en nærmest uendelig kombination af formuleringer, eller få ubrugeligt mange resultater på søgninger.
Probemet er, at AI søgemaskiner er utroligt fejlbehæftede: https://www.techspot.com/news/107101-new-study-finds-ai-search-tools-60-percent.html
Men det er jo også lavet som en normal internet-søgning som giver KI-opsummering af søgningen, og de kan altså ikke helt vide hvilke kilder der reelt bruges til opsummeringen. Det jeg nævnte var at den kun specifikt kan søge i journalen, og kun må bruge formuleringer brugt i journalen (altså ikke omskrive), og ikke give en opsummering men sige hvor i journalen det evt. står så man selv går ind og læser det.
Det virker bare som en lidt sære usecase for GENERATIV AI, synes jeg. Men jeg er ikke mod machine learning i princippet, hvis det bruges ansvarligt og til ting det er velegnet til.
Det er faktisk nogenlunde sådan vi bruger det hvor jeg arbejder. Vi har en lokal-ish model som vi træner på vores interne dokumenter, og som er begrænset til kun at bruge viden fra de dokumenter. Den kan vi så fremsøge viden i væsentligt hurtigere og nemmere end MS elendige søgefunktion i SharePoint kan. Vi får det så som udgangspunkt som opsummering med kildehenvisninger medmindre vi sætter det op på en anden måde.
Mener vores KI-team havde opnået +90% nøjagtighed sidst de præsenterede det for et halvt års tid siden.
Det lyder mere lovende, omend jeg godt kan betvivle at 90% er nok i det offentlige, for hvilke 10% er det og har man tiden til at tjekke efter? Det tager længere tid for mig at fejlfinde tekster skrevet med AI end det tager at skrive teksterne korrekt i første omgang.
>90% nøjagtighed er rimelig meget det samme eller bedre end du får ud af mennesker, så det er ikke så problematisk som det måske lyder.
Jeg bruger NotebookLM en del, og der hvor det virkelig fungerer (synes jeg) er hvor man kan tilføje kildemateriale til ens notebook, og så forholder den sig (næsten) kun til det. Akkurat som du beskriver det.
Jeg har lavet en notebook til min ældstes skolekommunikation. Det ankommer som pdfer i min inbox, der er meget blandet information i de nyhedsbreve, og jeg kan så spørge notebook om søndagen om der er nogle events på skolen i den kommende uge jeg skal være opmærksom på.
Det klarer den utroligt godt, i hver fald til mit brug. Svarene er sådan noget som "på onsdag er det udklædningsdag, og torsdag er der besøg fra den lokale brandstation for at fortælle om hvad de laver. Den ansvarlige lærer er en@email.adresse.
Hver notebook forholder sig kun til de kilder du tilføjer. Jeg synes det er pissegodt. Min ambition er dog at have en lokal version af noget lignende, så jeg ikke skal dele mine ting med Google.
Det lyder okay, men jeg ville gerne se noget videnskab på hvilke fejl der optræder når man bruger AI på den måde. Den artikel som @EvilCartyen@feddit.dk linkede til er da lidt bekymrende i forhold til det. Med korrekt kilde-citering og disciplin om at medarbejderen tjekker det, så er det måske fint nok.
Som sagt har jeg heller ikke tillid til, at den kan sige “yep der står sådan og sådan…trust me bro” og så er det det. Den ville skulle sige at her på side 57, 63 og 89 står der noget som er relevant.
Jeg synes at netop sådanne opgaver er oplagte at bruge AI til. Jeg kan dog godt have mine tvivl om, om AI i sin nuværende form vil være pålidelig nok til at klare disse administrative opgaver uden at hallucinere. Det kan potentielt skabe sindssygt meget rag i den, hvis den laver fejl. Det ville kunne koste staten en masse penge eller i værste fald, kunne det koste menneskeliv.
Synes dog at det ville være meget positivt at bruge AI til at lette noget af den i forvejen umenneskelige arbejdsbyrde folk i det offentlige ligger under.
Jeg håber dog at man ikke vil sætte sin lid blindt til AI, især her i de tidlige stadier. Især når det kommer til dosering af medicin, der må jeg indrømme at jeg bliver lidt nervøs ved tanken om at lade en AI klare det på nuværende tidspunkt. På længere sigt, ja, men ligenu? Uha, nej tak. Så kan de fortælle mig hvor præcis den er og hvor få fejl den laver til de er blå i ansigtet. Jeg synes det er alt for tidligt at give den folks liv i hænderne på den måde.
Jeg er forsigtigt optimistisk omkring denne brug af AI. Jeg tror virkelig at det ville kunne revolutionere det offentlige på en positiv måde og måske kunne budgetterne og arbejdskraften allokeres bedre fremadrettet.
Jeg kan dog godt have mine tvivl om, om AI i sin nuværende form vil være pålidelig nok til at klare disse administrative opgaver uden at hallucinere
Dén type opgaver, tænker jeg, teknologien efterhånden kan håndtere OK.
- Manipulation af eksisterende information (f.eks. dét at opsummere eller omstrukturere data) er et godt sted at bruge en LLM som hjælpemiddel.
- At generere ny data derimod er en anderledes opgave, hvor modellerne oftere risikerer at
hallucinerefabulere.
Især når det kommer til dosering af medicin, […] Jeg synes det er alt for tidligt at give den folks liv i hænderne på den måde.
Sandt, men ro på. Lad os først prøve med lettere lydreferater (speech-to-text), så må Terminator vente pænt til sin tur 🙂
Edit: Kilde på term: https://www.beren.io/2023-03-19-LLMs-confabulate-not-hallucinate/
fabulere.
Jeg lærte et nyt udtryk! Tak.!
Spændende. Jeg håber det fører til mere, og ikke mindre, personlig tid med borgere.
Jeg vil dog for god ordens skyld nævne GDPR artikel 22 til eventuel fremtidig brug. 😅Apropos mit skriv i går! xD det grinte jeg lidt over.
😬
