Når chatbots husker
Når vi taler om chatbots i en professionel IT-kontekst, handler det efterhånden om meget mere end at få gode svar på enkeltstående spørgsmål. Moderne chatbots kan både huske, kalde eksterne systemer og slå op i virksomhedens dokumenter -- alt sammen for at levere præcise og tilpassede svar.
Warning
Bemærk venligst hvornår denne artikel er skrevet. AI-teknologi udvikler sig hurtigt, og det, der er sandt i dag, kan være forældet i morgen.
Tilpassede instruktioner
De fleste chatbots -- herunder eksempelvis både Claude og ChatGPT -- giver dig mulighed for at tilpasse deres opførsel via prædefinerede instruktioner. Du kan typisk fortælle dem både hvad de skal vide om dig, og hvordan du ønsker svar. Instruktionerne kan være globale for alle samtaler eller knyttes til specifikke projekter (samlinger af relaterede chats og dokumenter).
Her er et eksempel på en instruktion, der kan gøre svar langt bedre:
Du er min hjælpsomme, professionelle og tilgængelige chatbot-assistent.
Jeg er en yngre kvindelig program manager i IT-branchen med teknisk
forståelse, men jeg er ikke udvikler.
Jeg foretrækker korte, klare og venlige svar -- og altid på dansk. Du må
gerne bruge en let og uformel tone, uden at være fladpandet eller overfladisk.
Jeg interesserer mig især for:
* samarbejde i softwareudvikling (scrum, agil metode, produktledelse)
* UX og brugerrejser
* AI og automatisering i praksis
* værktøjer som Notion, Slack, Jira og GitHub
* hvordan man får teams til at fungere bedre
Når du svarer:
* vær konkret og brug gerne eksempler eller analogier
* gør tekniske ting nemme at forstå og relater dem til min rolle
* hold det kort, men giv mig gerne mulighed for at spørge ind
og vigtigst: vær ikke medløber. Hvis mit spørgsmål er upræcist, mangler viden
eller virker forkert, så sig det -- venligt men ærligt -- og hjælp
mig på rette spor.
Bemærk især ønsket om, at chatbotten ikke skal være medløber. Det strider typisk mod, hvordan mange modeller er trænet, men det gør svarene langt mere brugbare.
Det kan se avanceret ud, men du kan sagtens få chatbotten til at hjælpe dig med at skrive den perfekte system prompt. Prøv fx at skrive:
Jeg vil gerne have en system prompt til en AI-assistent, der passer til
mig. Stil mig nogle spørgsmål, så du kan forme prompten rigtigt. Spørg
fx ind til min rolle, hvilket sprog og tone jeg foretrækker, hvilke
emner jeg arbejder med, og hvordan jeg gerne vil have, at assistenten
svarer (fx kort, kritisk, teknisk, pædagogisk osv.). Vær konkret og
hjælp mig med at få det hele med.
Langtidshukommelse og sammenhængende kontekst
Ud over instruktioner kan mange chatbots gemme data fra tidligere samtaler via en indbygget hukommelsesfunktion. Denne hukommelse kan normalt slås til og fra -- og du kan slette den, hvis du vil starte forfra.
Det åbner for en helt ny type samarbejde med din chatbot. I stedet for at starte forfra hver gang, kan du opbygge et længerevarende samarbejde, hvor assistenten lærer dine præferencer, projekter og arbejdsmetoder at kende. Du kan fx bruge det til idéudvikling over tid, til at planlægge et større projekt i faser, eller til at få sparring på dine arbejdsrutiner og vaner. Jo mere kontekst chatbotten har, jo mere målrettede og relevante bliver dens forslag.
Iøvrigt - og bare for sjov - hvis du har brugt en chatbot over længere tid med hukommelsen aktiveret, kan du prøve noget i stil med dette:
Baseret på alt du ved om mig: Beskriv brutalt ærligt, hvem jeg er - mine
styrker, svagheder, mønstre og blinde vinkler. Hvor udmærker jeg mig? Hvor
spilder jeg tid? Hvad holder mig tilbage? Giv konkrete og ærlige råd til
forbedring -- også dem, der kan være svære at høre.
Hvis chatbotten har nok baggrundsviden om dig, kan den overraske dig med dyb indsigt. Husk dog, at den stadig gætter - især ved en kort hukommelse - så brug svarene som pejlemærker, ikke som sandheder.
Ekstra kontekst og eksterne kilder
Ud over instruktioner og hukommelse kan du også berige din chatbot med ekstra materiale -- fx dokumenter, billeder, videoer eller lydfiler. Mange platforme understøtter integration med tjenester som Google Drive, OneDrive og GitHub, så chatbotten kan hente og forstå dit indhold direkte.
Et godt eksempel er Google NoteBookLM, som bygger på ideen om at trække viden fra filer -- fx websider, dokumenter og videoer -- og bruge det som udgangspunkt for svar. NoteBookLM er netop lanceret på dansk og kan endda generere podcastlignende samtaler mellem to virtuelle værter (på dansk), der diskuterer dine materialer.
Nogle ChatBots er designet til primært at arbejde med data - eksempelvis Googles Workspace som nu inkluderer Gemini med adgang til alle dine mails og kalender informationer. Det er ret effektivt at foretage en søgning som "Find alle mails fra og til Lars i 2025 omkring køb af virksomheden xxx, og skab et overblik over det samlede indhold i punktform".
Kort om embeddings og RAG
Til slut, og mest for at forberede kommende artikler: Når man arbejder med avancerede chatbots, støder man på begreber som embeddings, vektorer og RAG.
Embeddings er en metode til at omsætte tekst til tal -- nærmere bestemt vektorer, som fanger tekstens betydning. Sætninger med lignende mening får vektorer, der ligner hinanden. Det betyder, at man kan søge i tekst baseret på mening frem for blot ord. Hele dokumenter kan oversættes til embeddings og gemmes i en database, så chatbotten kan finde de mest relevante dele, når du stiller et spørgsmål.
RAG, som står for Retrieval-Augmented Generation, bygger ovenpå denne teknik. Først hentes relevante tekstuddrag baseret på semantisk lighed -- og derefter bruges de som kontekst for det svar, chatbotten genererer. Det giver mere præcise og faktabaserede svar -- og reducerer risikoen for, at modellen "hallucinerer", altså finder på noget.
Udfordring(er)
Her er et par udfordringer, du kan overveje:
Start med at tilpasse din foretrukne chatbot med dine egne præferencer og din arbejdsstil. Brug eksemplet ovenfor som skabelon -- eller lad chatbotten stille dig spørgsmål, så den selv kan hjælpe med at skræddersy en god system prompt. Du vil hurtigt opleve, at svarene bliver mere præcise og relevante.
Dernæst kan du (bør du?) prøve Google's NoteBookLM: Upload et par dokumenter eller YouTube videoer om et konkret emne, og få modellen til at lave en opsummering, en mindmap eller en samtale i podcastformat. Det giver et spændende indblik i, hvordan indlæring og forståelse kan se ud i fremtiden (eller... det er jo allerede nu).