Et internt videnssystem med AI

Ønsker du, at kolleger hurtigt får svar på spørgsmål om produkter, politikker, IT, processer eller kunder? Så er et internt videnssystem med din egen chatbot ideelt. Takket være Retrieval-Augmented Generation (RAG) er et sådant system klogere end nogensinde: Medarbejdere stiller spørgsmål i almindeligt sprog, og chatbottens søger direkte i jeres egne dokumenter. Dette kan gøres fuldstændig sikkert, uden at data lækkes til eksterne parter – selv hvis I bruger store sprogmodeller fra OpenAI eller Google.

• Er svaret altid i overensstemmelse med den interne virkelighed
• Gives der ingen fabrikationer (som det undertiden ses med rene LLM'er)
• Deles fortrolige data aldrig med omverdenen

Hvilke værktøjer kan du bruge?

Opsætning af et eget videnssystem kan ske med forskellige produkter, afhængigt af dine præferencer og krav til privatliv, skalerbarhed og brugervenlighed.

Chatbot og RAG-frameworks

• LlamaIndex (llamaindex.ai) – Open source, bredt anvendelig
• Haystack (haystack.deepset.ai) – Stærk til enterprise search
• LangChain (langchain.com) – Kraftfuld til integrationer og tilpasning
• OpenWebUI (open-webui.github.io) – Simpel, moderne webgrænseflade til chat og administration

Vektordatabaser (til dokumentlagring og hurtig søgefunktion)

• ChromaDB (trychroma.com)
• Weaviate (weaviate.io)
• Qdrant (qdrant.tech)

AI-modeller

• Store modeller i skyen
  • OpenAI GPT-4
  • Google Gemini
  • Azure OpenAI Service

• Egne modeller (on-premises eller privat sky)
  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LocalAI

Vigtigt:
Mange værktøjer, herunder OpenWebUI og LlamaIndex, kan forbinde både lokale (on-premises) og cloud-modeller. Dine dokumenter og søgeforespørgsler forlader aldrig din egen infrastruktur, medmindre du ønsker det!

Sådan tilføjer du nemt dokumenter

De fleste moderne videnssystemer tilbyder en simpel upload- eller synkroniseringsfunktion.
Dette fungerer for eksempel således:

1. Upload dine dokumenter (PDF, Word, txt, e-mails, wiki-sider) via webgrænsefladen (som OpenWebUI)
2. Automatisk behandling: Værktøjet indekserer dit dokument og gør det øjeblikkeligt søgbart for chatbottens
3. Live opdatering: Tilføjer du en ny fil? Så bliver den som regel medtaget i svarene inden for få sekunder eller minutter

For avancerede:
Automatiske forbindelser til SharePoint, Google Drive, Dropbox eller en filserver er fuldt ud mulige med LlamaIndex eller Haystack.

Data forbliver sikker og intern

Uanset om du vælger dine egne modeller eller store cloud-modeller:

• Du bestemmer selv, hvad der må komme ud og hvad der ikke må
• Integration med Single Sign-On og adgangskontrol er standard muligt
• Revisionsspor: hvem har konsulteret hvad?

For følsomme oplysninger anbefales det at bruge AI-modeller on-premises eller inden for en privat cloud. Men selv hvis du implementerer GPT-4 eller Gemini, kan du indstille, at dine dokumenter aldrig bruges som træningsdata eller gemmes permanent af udbyderen.

Eksempel på et moderne setup

Med OpenWebUI opbyg nemt et sikkert, internt videnssystem, hvor medarbejdere kan stille spørgsmål til specialiserede chatbots. Du kan uploade dokumenter, organisere dem efter kategori, og lade forskellige chatbots fungere som eksperter inden for deres respektive områder. Læs mere her!

1. Tilføjelse og kategorisering af indhold

Upload af dokumenter

• Log ind på OpenWebUI via din browser.
• Gå til sektionen Dokumenter eller Vidensbase.
• Klik på Upload og vælg dine filer (PDF, Word, tekst, etc.).
• Tip: Tilføj en kategori eller et mærke ved upload, f.eks. "HR", "Teknik", "Salg", "Politik", etc.

Fordel: Ved at kategorisere kan den rette chatbot (ekspert) fokusere på relevante kilder og sikre, at du altid får et passende svar.

2. Chatbots med egne specialer (roller)

OpenWebUI gør det muligt at oprette flere chatbots, hver med sit eget speciale eller rolle. Eksempler:

• HR-Bot: Spørgsmål om orlov, kontrakter, ansættelsesvilkår.
• IT-Support: Hjælp til adgangskoder, applikationer, hardware.
• PolitikBot: Svar om virksomhedspolitikker og compliance.
• SalesCoach: Information om produkter, priser og tilbud.

Kom i gang nu, eller foretrækker du hjælp?

Vil du hurtigt køre en proof-of-concept? Med f.eks. OpenWebUI og LlamaIndex har du ofte en demo online på én eftermiddag!
Ønsker du en professionel opsætning, integration med din eksisterende IT, eller skal det være rigtig sikkert?
NetCare hjælper dig med hvert skridt: fra valgvejledning til implementering, integration og træning.

Kontakt os for en uforpligtende rådgivning eller demo.

NetCare – Din guide til AI, viden og digital sikkerhed