Website-Suche

Wie ich meine Dateien an eine lokale KI weitergebe, um bessere, relevantere Antworten zu erhalten

Msty ist eine der besten Apps für die Interaktion mit dem lokalen KI-Tool Ollama und enthält eine Funktion, die Sie verwenden möchten, um den Antworten Kontextualität zu verleihen.

Seit ein paar Wochen verwende ich Msty zu Forschungszwecken. Einer der Hauptgründe, warum ich mich für diesen Weg entschieden habe, ist, dass ich die Idee mag, diese Interaktionen auf meinem lokalen Computer zu isolieren. Dank Msty und Ollama ist das eine ziemlich einfache Aufgabe.

Eine Funktion von Msty/Ollama, die mich fasziniert hat, ist die Möglichkeit, eigene Inhalte zu einem sogenannten Knowledge Stack hinzuzufügen, der es Ihnen ermöglicht, lokale Datenquellen zu integrieren, um die Fähigkeit der KI zu verbessern, relevantere und kontextbezogenere Antworten zu geben. Sobald Sie einen Dokumentenstapel hinzugefügt haben, kann Msty als intelligenter Assistent mit Kenntnissen über alles dienen, was Sie für wissenswert halten. Nachdem Sie einen Knowledge Stack erstellt haben, indiziert Msty ihn mit einem separaten Modell, das für eine Chat-Sitzung verwendet werden kann.

Stellen Sie sich das so vor: Sie haben mehrere Dokumente zu einem bestimmten Thema geschrieben und möchten diese nutzen, um Ihre KI-Chats zu befeuern. Mit Knowledge Stacks ist dies nicht nur möglich - es ist einfach.

Sie können einem Knowledge Stack verschiedene Elemente hinzufügen, z. B.:

  • Dateien (PDF, CSV, MD, JSON, EPUB, DOCX, RTF und TXT)
  • Faltprospekte
  • Obsidian-Gewölbe (aus der Obsidian-Notizen-App)
  • Notizen
  • YouTube-Transkripte

Der Prozess ist viel einfacher, als Sie vielleicht denken, und die Ergebnisse sind beeindruckend. 

Lassen Sie mich Ihnen zeigen, wie es funktioniert.

So erstellen Sie Ihren ersten Knowledge Stack

Was Sie benötigen: Damit dies funktioniert, müssen sowohl Ollama als auch Msty installiert sein. Sie benötigen auch einige unterstützte Dateien, die Sie hinzufügen können (siehe Liste oben).

1. Erstellen Sie Ihren Knowledge Stack

Das erste, was Sie tun müssen, ist, Msty zu öffnen und dann in der Seitenleiste auf die Schaltfläche Knowledge Stack zu klicken. Klicken Sie auf der ersten Seite des Pop-ups auf Lokales KI-Modell verwenden, und klicken Sie dann im daraufhin angezeigten Fenster auf Ersten Knowledge Stack hinzufügen.

Stellen Sie sicher, dass Sie dazu Lokales KI-Modell verwenden auswählen.

2. Benennen Sie Ihren Knowledge Stack

Geben Sie im nächsten Pop-up-Fenster einen Namen für Ihren Knowledge Stack, lassen Sie das Dropdown-Menü Modell unverändert und klicken Sie auf Hinzufügen.

Erstellen eines Textstapel-Knowledge-Stacks für ZDNET.

3. Fügen Sie Ihre Dokumente hinzu

Im daraufhin angezeigten Fenster können Sie Dokumente entweder per Drag & Drop verschieben oder auf Dateien durchsuchen klicken und die Dateien in Ihrem Standard-Dateimanager suchen. Sie können auch Obsidian-Tresore, Ordner, Notizen und/oder YouTube-Transkripte hinzufügen. Wenn Sie dies getan haben, klicken Sie auf Als Entwurf speichern und dann auf Verfassen.

Sie können Dokumente per Drag & Drop verschieben oder manuell hinzufügen.

Je nachdem, wie viele Dokumente Sie Ihrem Knowledge Stack hinzugefügt haben, kann der Erstellungsprozess einige Zeit in Anspruch nehmen. Warten Sie, bis der Vorgang abgeschlossen ist. Sobald der Erstellungsprozess abgeschlossen ist, schließen Sie das Knowledge Stack Pop-up. 

So fügen Sie Ihren Knowledge Stack zu einem Chat hinzu

Wenn Sie Ihren Knowledge Stack hinzugefügt haben, ist es an der Zeit, mit dem Chatten zu beginnen. Es ist eigentlich ganz einfach. Klicken Sie auf die Schaltfläche Neu (oder drücken Sie Strg+N), um einen neuen Chat zu starten. Klicken Sie im Chat-Fenster auf die Schaltfläche Knowledge Stacks über dem Chat-Fenster (nicht auf den Button in der Seitenleiste).

Stellen Sie sicher, dass Sie auf das Ordnersymbol in der unteren Symbolleiste klicken.

Wählen Sie im Popup-Menü Ihren neuen Knowledge Stack aus, um ihn zum Chat hinzuzufügen. Sobald Sie das getan haben, beginnen Sie zu chatten. Stellen Sie eine Frage, die in einem Ihrer Dokumente beantwortet wird, und Sie sollten die erwartete Antwort erhalten.

Ich habe ein paar Tests mit Msty Knowledge Stacks durchgeführt, und jedes Mal war ich beeindruckt. Diese Funktion ist eine großartige Möglichkeit, Ihre eigenen Dokumente/Daten für einen KI-Chat zu verwenden und gleichzeitig sicherzustellen, dass sie auf Ihrem lokalen Computer verbleiben und nicht von Dritten gespeichert oder verwendet werden. Es ist auch ziemlich cool zu sehen, wie viele Ihrer Dokumente in einem Chat zitiert werden.

Wie Sie sehen können, wird meine Arbeit im Chat zitiert.

Dies sollte Ihnen den Einstieg in Msty Knowledge Stacks erleichtern. Sobald Sie sich mit ihrer Funktionsweise vertraut gemacht haben, würde ich vorschlagen, dass Sie sich mit einigen der fortschrittlicheren Funktionen (wie Ähnlichkeit und Chunks) vertraut machen.