Intelligente Modellauswahl für Hermes: Schnell & sparsam

Wer einen KI-Agenten wie Hermes im Alltag nutzt, braucht nicht für jede Aufgabe automatisch das stärkste verfügbare Modell. Ein großes Modell kann bei komplexen Problemen sinnvoll sein, ist aber häufig langsamer und verbraucht mehr vom verfügbaren Nutzungskontingent.

Die bessere Strategie lautet deshalb:

Standardmäßig ein ausgewogenes Modell verwenden und nur dann wechseln, wenn die Aufgabe es wirklich erfordert.

In meinem Hermes-Setup stehen die Bezeichnungen Luna, Terra und Sol für drei Leistungsstufen. Dabei ist Terra das Standardmodell, Luna die schnelle und genügsame Variante und Sol die leistungsstärkste Option für besonders schwierige Aufgaben.

Hinweis: Die Namen können je nach Hermes-Konfiguration Modell-Aliasse sein. Entscheidend ist daher nicht der Name selbst, sondern welches konkrete Modell dahinter konfiguriert wurde.

Die drei Modellstufen

Der zentrale Gedanke ist: Terra bleibt immer der sichere Standard. Hermes darf einen Wechsel zu Luna oder Sol vorschlagen, führt ihn aber erst nach ausdrücklicher Zustimmung des Nutzers durch.

Entscheidungslogik

Warum vor dem Modellwechsel nachfragen?

Die Rückfrage schafft Transparenz. Der Agent entscheidet nicht unbemerkt über Geschwindigkeit, Qualität oder Kontingentverbrauch, sondern erklärt kurz seine Einschätzung.

Eine solche Rückfrage könnte beispielsweise so aussehen:

Ich würde für diese Aufgabe Sol verwenden, weil eine umfassende Sicherheitsanalyse mit mehreren Abhängigkeiten erforderlich ist. Ist das für dich in Ordnung?

Ohne ausdrückliche Zustimmung bleibt Hermes bei Terra. Nach Abschluss einer Aufgabe wird ebenfalls wieder Terra als Standard gesetzt.

Kopierbare Anweisung für Hermes

Bitte übernimm ab sofort folgende Regel für die Modellauswahl: Standardmodell ist immer Terra.

Bewerte vor jeder neuen Aufgabe kurz intern, welches Modell voraussichtlich am besten geeignet ist:

Wenn du für eine Aufgabe Luna oder Sol verwenden möchtest, wechsle nicht automatisch. Frage mich vorher kurz und eindeutig. Nenne dabei in einem kurzen Satz den konkreten Grund für deine Einschätzung und frage, ob der Wechsel für mich in Ordnung ist. Warte anschließend auf meine ausdrückliche Zustimmung. Ohne Zustimmung verwendest du weiterhin Terra. Nach Abschluss der jeweiligen Aufgabe stellst du das Standardmodell automatisch wieder auf Terra zurück. Wähle grundsätzlich das einfachste Modell, das die Aufgabe voraussichtlich zuverlässig und in guter Qualität lösen kann. Qualität und Zuverlässigkeit haben jedoch Vorrang vor einer unnötig sparsamen Modellauswahl.

Fazit

Eine gute Modellauswahl muss weder vollständig manuell noch vollkommen autonom erfolgen. Hermes übernimmt die Einschätzung, der Nutzer behält aber die Kontrolle über jeden Wechsel.

Damit entsteht ein sinnvoller Mittelweg:

So wird Hermes im Alltag effizienter, nachvollziehbarer und besser kontrollierbar.