ChatGPT & Co: GPT4All - Dein lokaler Chat-Client! Installation und erste Schritte (deutsch)

Рет қаралды 4,073

3 ай бұрын

#chatgpt #gpt4all #llm #ki
In diesem Video zeige ich dir Schritt für Schritt, wie du GPT4all installierst und anwendest.
GPT4all ist ein kostenloses KI-Sprachmodell, das auf deinem eigenen Laptop läuft.
Du brauchst keine teure Hardware oder High-End-GPU, um die Power von GPT4all zu nutzen.
Mit GPT4all kannst du:
- Texte generieren
- Sprachen übersetzen
- Kreative Inhalte schreiben
- Fragen beantworten
- Texte verarbeiten
Und vieles mehr!
Dieses Video ist ideal für Anfänger, die sich mit GPT4all vertraut machen möchten.
Am Ende des Videos wirst du in der Lage sein, einen eigenen Chatbot auf auf deinem PC zu Hause zu installieren und zu verwenden.
Ohne extra Kosten, ohne Bedenken bzgl. Datenschutz
Was du in diesem Video lernen wirst:
- Wie du GPT4all herunterlädst und installierst
- Wie du die Benutzeroberfläche von GPT4all bedienst
- Wie du System-Prompts setzt und was es damit auf sich hat
Und vieles mehr!
Weitere Informationen:
Website von GPT4all: gpt4all.io/
Dokumentation von GPT4all: docs.gpt4all.io/
URL für lokale API: localhost:4891/v1
Viel Spaß beim Anschauen!

Пікірлер: 18

@uwesolenflaig3718 3 ай бұрын

Sehr hilfreich und wundervoll erklärt 👍

@M.Voelkel 2 ай бұрын

Das ist ein Niederknien wert - danke, danke und nochmals danke ! 14.03.´24

@i-love-2-code 2 ай бұрын

Ich danke dir für das positive Feedback! Freut mich riesig

@HubertPohnke Ай бұрын

Das Video finde ich ausgezeichnet und bedanke mich. Hatte GPT4ALL installiert mit 'SBERT' (für Embedding) und 'EM German Mistral' (als LLM) . Diese erste Installation lief problemlos. Es kam (vielleicht auch wegen eines Bedienungsfehlers) zum Stillstand. Ich wollte dann das ganze System deinstallieren und noch mal neu aufsetzen. Nach Neuinstallation konnte ich keine Models erneut downloaden und somit GPT4ALL nicht mehr nutzen auf meinem MacBookPro M3. Schade, denn es sah anfänglich sehr gut aus.

@i-love-2-code Ай бұрын

Tut mir leid, dass es Probleme mit dem Tool gibt. Ist schwierig aus der Ferne da eine Diagnose zu stellen, vor allem weil ich selbst keinen Mac verwende. Als ersten Schritt würde ich vorschlagen, den Download-Ordner testweise zu ändern. Sollte alles nicht helfen, gern mal unter der Woche im Discord vorbeischauen. Da könnte ich es mir mal direkt anschauen :) VG

@BoomTribe Ай бұрын

Danke

@oskarwald 3 ай бұрын

Danke für das Video. Ein Faktencheck wäre nicht schlecht gewesen :) Das Porta Nigra steht nämlich in Trier und nicht in Hamburg :))

@i-love-2-code 3 ай бұрын

Oh ja, vielen Dank für den Hinweis! Das ist mir tatsächlich entgangen. Ich wollte noch auf die Notwendigkeit der Prüfung solcher Fakten hinweisen, aber bin dann selbst in die Falle getappt.

@aketo8082 3 ай бұрын

Vielen Dank. Ist echt klasse. Leider kann man GPT4ALL nicht erweitern mit eigenen Daten, obwohl man eigene Dokumente verarbeiten kann, aber die müssen scheinbar entsprechend aufbereitet werden. Aber so wirklich funktioniert das nicht. Auch trainieren kann man das anscheinend nicht, was sehr schade ist. Oder ein "eigenes" LLM anlegen, mit Grunddaten und z.B. auf deutsch. Finde die Offline Möglchkeit sehr spannend. Mal sehen, was noch geht.

@i-love-2-code 3 ай бұрын

Vielen Dank für dein Feedback. Gerade das Arbeiten mit lokalen Daten ist ja eine Stärke von GPT4ALL. Hast du vielleicht ein Dateiformat verwendet das nicht unterstützt wird? Oder ggf. das aktivieren der LocalDocs vergessen? Als Alternative kann ich noch Chat With RTX empfehlen. VG

@aketo8082 3 ай бұрын

@@i-love-2-code Hi, Ich nutze TXT und bereite die Dateien auch ensprechend vor, da nicht alles 1:1 übernommen werden kann. Ja, das wir eingelesen, dauert je nach Computer. Ich meine speziel das anlegen eine eigenen "Datenbank" mit den ganzen Dateien und anschliesendem Training. So dass man das eventuell auch auf einen anderen Computer umziehen könnte. ;-) Also das trainieren oder Finetuning das mal Regeln vorgibt. Z.B. Mann (Vor-und Nachname) heiratet Frau (nur Vorname), Wie könnte die Frau nach der Heirat heißen? Diese Rückschlüsse zu ziehen, was ich als KI ansehe, fehlt. Also schätze hängt am Feintuning. So wirklich trainieren kann man GPT4ALL wohl nicht, was ich sehr schade finde. Mir gefällt die Offline-Möglichkeit. Und mit einer RTX 4090 läuft es im Moment noch recht gut. Bin gespannt, wie es weiter geht. Ich möchte gerne meine Lernthemen über die lokalen Dateien "füttern" und hintennach im Dialog dann die Lernthemen für mich abfragen und trainieren. Vielleicht gibt es da auch noch andere Möglichkeiten oder Modelle?

@i-love-2-code 3 ай бұрын

@@aketo8082 Tut mir leid, dass die Antworten so auf sich warten lassen. Bin gerade gesundheitlich etwas angeschlagen :) Das sind auch ziemlich viele Themen auf einmal, fällt mir schwer das hier in einem Kommentar hinreichend zu erklären. GPT4All selbst trainieren geht leider nicht, da es sich ja hier mehr um ein Tool handelt, welches mehrere Komponenten benutzerfreundlich vereint. Bessere Leistung in Logik erreicht man wohl nur durch bessere LLMs die man über das Tool dann später herunterladen kann. Ich bezweifle, dass man das zu Hause am PC durch Finetuning erreichen kann. Alle "Hebel" die du hier hast sind: lokale Daten, das System-Prompt und die Prompts an sich. Für eine Verbesserung der Leistung könnte man im ersten Schritt versuchen, die Prompts auf englisch zu formulieren. Das bringt bei den Open-Source-Models definitiv einige Punkte

@aketo8082 9 күн бұрын

@@i-love-2-code Hi, ich hoffe, es geht Dir besser. Ich versuche mich noch an GPT4ALL mit eigenen Dokumenten. Anscheinend "funktionieren" nur absolut kurze Texte, von vielleicht mal einer Seite, wenn es hoch kommt. Kann das sein? So ist das dann auch nicht wirklich Nutzbar, falls das so ist.

@i-love-2-code 9 күн бұрын

@@aketo8082 Vielen Dank, ja gesundheitlich ist gerade alles Bestens. Jedoch spannt mich der Beruf so ein, dass ich das aktuelle Video einfach nicht fertig bekomme :) Aber bei einem Hobby soll man sich dann auch auch nicht zu viel Druck machen. Zu deiner Frage: Meines Wissens nach funktionieren auch größere Dokumente, man muss dem Indexieren dann allerdings etwas Zeit geben. Was genau versuchst du da für ein Dokument einzulesen? txt, pdf? Wie groß ist es? Ich kann gern ein vergleichbares Dok bei mir mal testen. Steige aber gerade auf ein anderes Tool um - stelle ich im kommenden Video vor ;)