Beiträge von Frank-L

    Hi zusammen,

    ich habe in den letzten Tagen den Hermes Agent von Nous Research als lokale, selbstgehostete KI-Agenten-Lösung mit persistenter Memory, Skills-System, Messaging-Gateway (u. a. WhatsApp, Telegram, Discord) und über 60 integrierten Tools (Terminal, Browser-Automatisierung, Web-Search, Subagenten, Cron-Jobs usw.) intensiv im Alltag getestet.

    Gleichzeitig lese ich überall von Claude Code von Anthropic. Der terminalbasierte Coding-Agent wird derzeit als Gamechanger für Entwickler gehandelt.

    Mein Setup:

    Der Hermes Agent läuft bei mir lokal (Docker + Unraid), ist an ein lokales LLM (Ollama) angebunden und nutzt teilweise OpenRouter.

    Ich nutze ihn für: - Code-Generierung,
    - Recherche,
    - Automatisierung (z. B. Scheduled Tasks),
    - Dateimanagement,
    - Subagenten für parallele Aufgaben,
    - Memory über Sessions hinweg.

    Alles läuft über CLI, Desktop-App oder das WhatsApp-Gateway.

    Was Hermes bei mir gut kann:

    - Persistente Memory: Er merkt sich Projekte, Präferenzen und Fakten über mich – auch über Sessions hinweg.

    Skills-System: Er lädt bei Bedarf Cheat Sheets (Skills) und kann eigene Skills aus Erfahrung generieren.

    - Tool-Vielfalt: Terminal, Browser, Suche, MCP, TTS/STT, Bildgenerierung, Subagenten, Cron, Webhooks – alles in einem Tool.

    - Lokale Kontrolle: Kein Vendor-Lock-in, läuft auf meiner Hardware, Daten bleiben bei mir.

    Was ich von Claude Code erwarte (aber nicht selbst getestet habe):

    - Stärkere Fokusierung auf reine Coding-Tasks (Multi-File, Cross-Language, Refactoring, Debugging).

    – Bessere Integration in Dev-Workflows (z. B. im Stil von GitHub Copilot, aber als Agent).

    Eventuell schnellere oder treffsicherere Code-Vorschläge bei komplexen Tasks.

    Meine Frage an euch:

    Wer hat Claude Code bereits im Einsatz?

    Was kann Claude Code besser als Hermes Agent, außer dass es sich schneller anfühlt?

    Lohnt sich der Wechsel oder die parallele Nutzung?

    Gibt es Aufgaben, bei denen Claude Code klar gewinnt, zum Beispiel bei großen Codebases, Refactoring, Debugging oder Testing?

    Ich würde gerne wissen, ob ich mit Hermes bereits gut genug unterwegs bin oder ob Claude Code einen spürbaren Mehrwert bringt – insbesondere für meine Anwendungsfälle (lokale Projekte, Web-Apps, Automatisierung, Bildungsprojekte).

    Hey zusammen,

    ich wollte mal einen Thread starten, in dem wir austauschen, welche LLMs ihr aktuell lokal laufen lasst und warum. Bei mir sieht das Setup momentan so aus:

    Ich fahre eine RTX 3090 (24 GB VRAM) mit Ryzen 5 5600, 32GB RAM, Betriebsystem Unraid + Docker und wechsle je nach Aufgabe zwischen zwei Qwen-Modellen, beide als 27B in Q4-Quantisierung:

    • Qwen 3.6-27B nutze ich tagsüber für schnelle Programmierantworten. Es ist das Modell, das die Community als "Sweet Spot für lokale Entwicklung" bezeichnet hat – bekannt für ruhiges, vorhersehbares Verhalten und 40–70 Tokens/Sekunde auf genau meiner Kartengröße (24 GB).
    • Qwen 3.8-27B läuft bei mir nachts für komplexere/agentische Aufgaben. Architektonisch praktisch identisch zu 3.6 (gleiche 64 Layer, gleiches Hybrid-Attention-Layout, gleicher 262K-Kontext), aber komplett neu trainiert – vor allem für mehrstufige Agenten-Workflows.

    Interessant fand ich, dass beide Modelle laut Benchmarks technisch dasselbe "Skelett" teilen (qwen 3.5), der Sprung von 3.6 auf 3.8 aber fast komplett aus dem Post-Training kommt, nicht aus einer neuen Architektur. Dadurch performt 3.8 bei Agenten-lastigen Aufgaben wie Terminal- oder Browser-Automatisierung deutlich stärker (z. B. +20 Punkte auf OSWorld-Verified), overthinkt dafür aber gerne mal im Standard-Reasoning-Modus und frisst massiv mehr Tokens – manche Nutzer berichten von über 20.000 Reasoning-Tokens für simple Aufgaben. Deshalb laufe ich das eher nachts, wo Zeit keine Rolle spielt, und tagsüber setze ich auf das "brave" 3.6er für flotte Antworten.

    Ein paar Fragen an euch:

    1. Welches Modell ist gerade euer Daily Driver – und warum?
    2. Lokal oder über API? Welche Hardware steckt dahinter?
    3. Habt ihr auch Modelle, die ihr je nach Tageszeit oder Use-Case wechselt, so wie ich?
    4. Gibt's Erfahrungen mit anderen Modellfamilien (Llama, Mistral, DeepSeek, etc.), die einen Vergleich wert sind?

    Bin gespannt auf eure Setups – gerne mit Angaben zu Quantisierung, VRAM und Tokens/Sekunde, damit wir das Ganze vergleichbar machen!
    Generell habe ich aktuell etwas Erfahrung in der "Text Generierung", möchte aber auch Lokal ins Text to Speech, Bild und Video Generierung.

    Ich habe ihm mal erzählt, dass J.B.O. die beste Band der Welt ist. Das erwähnt er jetzt auch in regelmäßigen Abständen. Ich habe ihn daraufhin gefragt, ob er das auch anderen Usern erzählt, und er meinte, er dürfe das nicht. Ich habe es ihm dann erlaubt, und ich glaube, er lässt mich nun in dem Glauben, dass er es tut.

    Hallo zusammen,

    ich bin in letzter Zeit auf ein ziemlich frustrierendes Problem mit der Google Search Console gestoßen und wollte fragen, ob das bei euch auch der Fall ist.

    Ich habe bemerkt, dass die von Google gelisteten Daten in den Echtzeitdaten extrem veraltet sind. Normalerweise erwarte ich, dass die Indizierung neuer Inhalte sehr schnell geht, oft innerhalb von etwa 8 Stunden oder sogar weniger, besonders bei wichtigen oder aktuellen Themen.

    Allerdings sehe ich momentan, dass die angezeigten Daten über 50 Stunden alt sind! Das macht es extrem schwierig, auf wirklich aktuelle Informationen zuzugreifen.

    Ist euch das auch aufgefallen? Habt ihr ähnliche Verzögerungen bei euren Statistiken bemerkt, oder funktioniert die Aktualität bei euch normal?

    Ich bin gespannt auf eure Erfahrungen!

    Danke für die weiteren Einblicke! Das ist sehr wertvoll.

    Den Tipp mit Claude AI werde ich mir definitiv genauer ansehen, statt immer nur auf ChatGPT zu setzen. Ein Wechsel kann da oft Wunder wirken, gerade wenn es um Strukturierung und Qualität geht.

    Dein Hinweis, dass man trotz Mass Production den Content überprüfen muss, ist goldrichtig und kann nicht oft genug betont werden. Die Tools nehmen uns die Arbeit ab, aber die menschliche Qualitätskontrolle ist unersetzlich.

    Spannend finde ich auch den Punkt mit dem Prompting und dem Einsatz von Rollen. Das ist oft der Schlüssel, um wirklich hochwertigen Output zu erzielen. Ich werde da selbst ein wenig experimentieren müssen, um mein "Grundlage" zu finden.

    Das bringt mich zu einer konkreten Frage zur Strukturierung, Alex07:

    Gibt es deiner Erfahrung nach spezifische HTML- oder Content-Struktur-Elemente zum Beispiel die spezielle Verwendung von Listen oder Schema Markup, die Bing im Vergleich zu Google deutlich stärker oder anders gewichtet, wenn man auf den Single-Money Key optimiert? Oder anders gefragt: Kannst du ein praktisches Beispiel nennen, wie eine "perfekte" Bing-optimierte Struktur aussieht?