Zum Inhalt springen
Seiten

Konzepte

Engines

GEPA, Best-of-N, Meta-Harness, AutoResearch, AutoSaddler, ShinkaEvolve und Auto.

Eine Engine ist das Suchverfahren, das neue Versionen Ihres Artefakts vorschlägt. Skynet hat sechs native Engines für Prompt-, Code- und Text-Artefakte, drei DSPy-Optimierer für DSPy-Programme und Auto. Diese Seite erklärt, was jede davon tut, wann Sie sie wählen und welche Einstellungen sie hat.

Lesen Sie zuerst So funktioniert die Optimierung, wenn Sie nicht wissen, welche Engines zu Ihrem Artefakt passen.

Schnellvergleich

EngineArtefaktartenEinstellungen für den Coding-AgentenEinstellung „Max. Iterationen“
AutoAlleJa, bei Prompt, Code und TextNein
GEPAPrompt, Code, TextNeinNein
Best-of-NPrompt, Code, TextNeinNein
AutoResearchPrompt, Code, TextJaNein
Meta-HarnessPrompt, Code, TextJaJa
AutoSaddlerPrompt, Code, TextJaJa
ShinkaEvolvePrompt, Code, TextNein. Es hat eine eigene Editor-Einstellung.Ja
DSPy GEPADSPy-ProgrammNeinNein
DSPy MIPROv2DSPy-ProgrammNeinNein
DSPy BootstrapFewShotDSPy-ProgrammNeinNein

Der Assistent kennzeichnet GEPA, DSPy GEPA und Auto als Optimierer, die den Feedback-Text Ihrer Metrik verwenden.

Auto

Auto ist die Standardwahl. Was es ausführt, hängt vom Artefakttyp ab:

  • DSPy-Programm: Auto führt DSPy GEPA aus.
  • Prompt, Code oder Text: Auto erkundet gleichzeitig mit fünf Engines: GEPA, AutoResearch, Meta-Harness, AutoSaddler und ShinkaEvolve. Jede Engine erhält einen gleichen Anteil der Bewertungsläufe: das Budget geteilt durch 6. Danach macht GEPA ab der besten Version mit dem Rest des Budgets weiter.

Auto verwendet Best-of-N nicht.

Wählen Sie sie, wenn Sie nicht wissen, welche Engine passt. Hier fangen Sie am besten an.

GEPA

„Reflektierende Evolution mit einer Pareto-Front von Versionen.“ Das Reflexionsmodell liest Score und Feedback jedes Falls und schreibt eine bessere Version. GEPA behält eine Front von Versionen, von denen jede bei einigen Fällen die beste ist.

Wählen Sie sie, wenn Ihre Metrik konkretes Feedback gibt und Sie eine starke einzelne Engine möchten.

Best-of-N

„Unabhängige Vorschläge des Reflexionsmodells; der beste wird behalten.“ Jeder Vorschlag ist von den anderen unabhängig. Skynet bewertet die besten Vorschläge erneut auf den Validierungsfällen.

Wählen Sie sie, wenn Sie eine einfache Basislinie zum Vergleich mit anderen Engines möchten.

AutoResearch

Ein Coding-Agent führt Forschungsrunden aus. Er bearbeitet, bewertet und behält, was hilft, bis das Budget aufgebraucht ist.

Wählen Sie sie, wenn eine gute Änderung mehrere Untersuchungsschritte erfordert, zum Beispiel bei einem Code-Artefakt.

Meta-Harness

Ein Coding-Agent schlägt in jeder Iteration eine Reihe von Kandidaten vor. Er nutzt den gesamten Verlauf der Kandidaten und Scores.

Wählen Sie sie, wenn Sie einen Agenten möchten, der aus dem Verlauf aller früheren Versuche lernt. Mit Kandidaten pro Iteration legen Sie die Größe der Reihe fest.

AutoSaddler

Ein Coding-Agent liest das Feedback Ihrer Metrik und patcht die Version. Skynet behält nur Patches, die ein neuer Bewertungslauf bestätigt.

Wählen Sie sie, wenn das Feedback Ihrer Metrik auf klare, lokale Fehler zeigt.

ShinkaEvolve

„Entwickelt viele Versionen parallel auf Inseln und lernt, welche Modelle sie am meisten verbessern.“ Es ist eine evolutionäre Suche über eine Population von Kandidaten, mit Mutationen und Kreuzungen, die ein Modell schreibt.

Wählen Sie sie, wenn Sie breit erkunden möchten und ein größeres Budget haben.

DSPy-Optimierer

OptimiererWas er tut
DSPy GEPALiest das Feedback der Metrik und entwickelt die Anweisungen jedes Predictors weiter.
DSPy MIPROv2Schlägt Anweisungen und Few-Shot-Demos gemeinsam vor und durchsucht ihre Kombinationen mit Bayes'scher Optimierung.
DSPy BootstrapFewShotSammelt durchgearbeitete Beispiele, die das Programm richtig löst, und fügt sie als Few-Shot-Demos hinzu. Er verwendet kein Reflexionsmodell.

DSPy MIPROv2 und DSPy BootstrapFewShot benötigen Paare (Fälle mit erwarteten Ausgaben).

Einstellungen

Budget

EinstellungStandardBereich
Max. Bewertungsläufe2001 bis 100000 (Auto: mindestens 6)
Stoppen bei BewertungAus0 oder mehr
Max. IterationenAus1 bis 1000. Nur Meta-Harness, AutoSaddler und ShinkaEvolve.

Ein Bewertungslauf ist ein Aufruf Ihrer Metrik auf einem Fall. Die abschließende Neubewertung der Ausgangsversion und des Gewinners zählt nicht gegen Max. Bewertungsläufe.

Einstellungen für den Coding-Agenten

Diese Einstellungen gelten für Auto, AutoResearch, Meta-Harness und AutoSaddler.

EinstellungStandardBereich
Coding-AgentCodexPi, Codex, OpenCode, Prime Agent, Eigener Befehl
Kandidaten pro Iteration31 bis 8. Wird für Auto und Meta-Harness angezeigt.
Max. Tool-Aufrufe pro Kandidat1001 bis 1000

Einstellungen für ShinkaEvolve

EinstellungStandard
Wie neue Versionen entstehenEinzelner Modellaufruf. Die andere Option ist „Coding-Agent (Pi)“.
Inseln2 (1 bis 8)
Migrationsintervall10
ElternauswahlGewichtet. Weitere Optionen: Potenzgesetz, Beam-Suche.
Diff-Bearbeitungen / Vollständige Neufassungen / Kreuzungen60 % / 30 % / 10 %. Die Summe muss 100 % ergeben.
Archivgröße40
Parallele Auswertungen2
Parallele Vorschläge2

Wenn Auto ShinkaEvolve ausführt, zeigt der Assistent diese Einstellungen als „ShinkaEvolve-Einstellungen (wenn Auto es ausführt)“.

Verwandte Seiten