Et internt videnssystem med AI

Vil du have kolleger til hurtigt at få svar på spørgsmål om Produkter, politikker, IT, processer eller kunder? Så er et internt videnssystem med din egen chatbot ideelt. Takket være Retrieval-Augmented Generation (RAG) er sådant et system klogere end nogensinde: medarbejdere stiller spørgsmål i almindeligt sprog, og chatbott'en søger direkte i jeres egne dokumentation. Dette kan ske fuldstændigt sikkert, uden at data lækker til eksterne parter – selv hvis I bruger store sprogmodeller fra OpenAI eller Google.

• Stemmer svaret altid overens med den interne virkelighed
• Der gives ingen opdigtede svar (som det undertiden ses med rene LLM'er)
• Fortrolige data deles aldrig med omverdenen

Hvilke værktøjer kan du bruge?

Opsættelse af et eget videnssystem kan ske med forskellige produkter, afhængigt af dine præferencer og krav til privatliv, skalerbarhed og brugervenlighed.

Chatbot og RAG-frameworks

• LlamaIndex (llamaindex.ai) – Open kildekode, bredt anvendelig
• Haystack (haystack.deepset.ai) – Stærk i virksomhedssøgning
• LangChain (langchain.com) – Kraftfuld til integrationer og tilpasning
• OpenWebUI (open-webui.github.io) – Simpelt, moderne webinterface til chat og administration

Vektordatabaser (til dokumentlagring og hurtig søgefunktion)

• ChromaDB (trychroma.com)
• Weaviate (weaviate.io)
• Qdrant (qdrant.tech)

AI-modeller

• Store modeller i skyen
  • OpenAI GPT-4
  • Google Gemini
  • Azure OpenAI Service

• Egne modeller (on-premises eller privat sky)
  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, via Ollama eller LokalAI

Vigtigt:
Mange værktøjer, herunder OpenWebUI og LlamaIndex, kan forbinde både lokale (on-premises) og cloud-modeller. Dine dokumenter og søgninger forlader aldrig din egen infrastruktur, medmindre du ønsker det!

Sådan tilføjer du nemt dokumenter

De fleste moderne videnssystemer tilbyder en simpel upload- eller synkroniseringsfunktion.
Dette fungerer for eksempel således:

1. Upload dine dokumenter (PDF, Word, txt, e-mails, wiki-sider) via webgrænsefladen (som OpenWebUI)
2. Automatisk behandling: Værktøjet indekserer dit dokument og gør det øjeblikkeligt søgbart for chatbottens
3. Live opdatering: Tilføjer du en ny fil? Så inkluderes denne normalt i svarene inden for få sekunder eller minutter

For øvede:
Automatiske forbindelser til SharePoint, Google Drive, Dropbox eller en filserver er fuldt mulige med LlamaIndex eller Haystack.

Data forbliver sikker og intern

Uanset om du vælger egne modeller eller store cloud-modeller:

• Du bestemmer selv, hvad der må komme ud, og hvad der ikke må
• Integration med Single Sign-On og adgangskontrol er standard muligt
• Revisionsspor: hvem har konsulteret hvad?

For følsomme oplysninger anbefales det at bruge AI-modeller on-premises eller inden for en privat cloud. Men selv hvis du implementerer GPT-4 eller Gemini, kan du indstille, at dine dokumenter aldrig bruges som træningsdata eller gemmes permanent af udbyderen.

Eksempel på et moderne layout

Med OpenWebUI opbygger du nemt et sikkert, internt videnssystem, hvor medarbejdere kan stille spørgsmål til specialiserede chatbots. Du kan uploade dokumenter, organisere dem efter kategori og lade forskellige chatbots fungere som eksperter inden for deres eget fagområde. Læs hvordan her!

1. Tilføjelse og kategorisering af indhold

Upload af dokumenter

• Log ind på OpenWebUI via din browser.
• Gå til sektionen Dokumenter eller Vidensbase.
• Klik på Upload og vælg dine filer (PDF, Word, tekst osv.).
• Tip: Tilføj en kategori eller et mærke, såsom "HR", "Teknologi", "Salg", "Politik" osv., når du uploader.

Fordel: Ved at kategorisere kan den korrekte chatbot (ekspert) fokusere på relevante kilder, og du får altid et passende svar.

2. Chatbots med egne specialer (roller)

OpenWebUI gør det muligt at oprette flere chatbots, hver med sit eget speciale eller rolle. Eksempler:

• HR-Bot: Spørgsmål om orlov, kontrakter, ansættelsesvilkår.
• IT-Support: Hjælp til adgangskoder, applikationer, hardware.
• PolitikBot: Svar om virksomhedspolitik og compliance.
• SalgsCoach: Information om produkter, priser og tilbud.

Kom i gang med det samme eller foretrækker du hjælp?

Vil du hurtigt køre et proof-of-concept? Med for eksempel OpenWebUI med LlamaIndex har du ofte en demo online på én eftermiddag!
Ønsker du professionel opsætning, integration med din eksisterende IT, eller skal det være rigtig sikkert?
NetCare hjælper med hvert skridt: fra valgvejledning til implementering, integration og træning.

Kontakt os for en uforpligtende rådgivningssamtale eller demo.

NetCare – Din guide til AI, viden og digital sikkerhed