Pular para o conteúdo
Páginas

Conceitos

Motores

GEPA, Best-of-N, Meta-Harness, AutoResearch, AutoSaddler, ShinkaEvolve e Auto.

Um motor é o método de busca que propõe novas versões do seu artefato. O Skynet tem seis motores nativos para artefatos de Prompt, Código e Texto, três otimizadores DSPy para programas DSPy e o Auto. Esta página explica o que cada um faz, quando escolhê-lo e quais configurações ele tem.

Leia primeiro Como a otimização funciona se você não souber quais motores servem para o seu artefato.

Comparação rápida

MotorTipos de artefatoConfigurações do agente de programaçãoConfiguração de máx. de iterações
AutoTodosSim, em Prompt, Código e TextoNão
GEPAPrompt, Código, TextoNãoNão
Best-of-NPrompt, Código, TextoNãoNão
AutoResearchPrompt, Código, TextoSimNão
Meta-HarnessPrompt, Código, TextoSimSim
AutoSaddlerPrompt, Código, TextoSimSim
ShinkaEvolvePrompt, Código, TextoNão. Tem a sua própria configuração de editor.Sim
DSPy GEPAPrograma DSPyNãoNão
DSPy MIPROv2Programa DSPyNãoNão
DSPy BootstrapFewShotPrograma DSPyNãoNão

O assistente marca o GEPA, o DSPy GEPA e o Auto como otimizadores que usam o texto de feedback da sua métrica.

Auto

O Auto é o padrão. O que ele executa depende do tipo de artefato:

  • Programa DSPy: o Auto executa o DSPy GEPA.
  • Prompt, Código ou Texto: o Auto explora com cinco motores ao mesmo tempo: GEPA, AutoResearch, Meta-Harness, AutoSaddler e ShinkaEvolve. Cada motor recebe uma parte igual das execuções do avaliador: o orçamento dividido por 6. Depois o GEPA continua a partir da melhor versão com o resto do orçamento.

O Auto não usa o Best-of-N.

Escolha-o quando você não sabe qual motor serve. Este é o melhor ponto de partida.

GEPA

"Evolução reflexiva com uma fronteira de Pareto de versões." O modelo de reflexão lê a pontuação e o feedback de cada caso e escreve uma versão melhor. O GEPA mantém uma fronteira de versões em que cada uma é a melhor em alguns casos.

Escolha-o quando a sua métrica dá um feedback específico e você quer um único motor forte.

Best-of-N

"Propostas independentes do modelo de reflexão; mantém a melhor." Cada proposta é independente das outras. O Skynet volta a pontuar as melhores propostas nos casos de validação.

Escolha-o quando você quer uma linha de base simples para comparar com outros motores.

AutoResearch

Um agente de programação faz rodadas de pesquisa. Ele edita, pontua e mantém o que ajuda até o orçamento acabar.

Escolha-o quando uma boa mudança exige várias etapas de investigação, por exemplo em um artefato de Código.

Meta-Harness

Um agente de programação propõe um lote de candidatos a cada iteração. Ele usa o histórico completo de candidatos e pontuações.

Escolha-o quando você quer um agente que aprenda com o histórico de todas as tentativas anteriores. Use Candidatos por iteração para definir o tamanho do lote.

AutoSaddler

Um agente de programação lê o feedback da sua métrica e corrige a versão. O Skynet mantém apenas as correções que uma nova execução do avaliador confirma.

Escolha-o quando o feedback da sua métrica aponta para defeitos claros e localizados.

ShinkaEvolve

"Evolui muitas versões em ilhas paralelas e aprende quais modelos as melhoram mais." É uma busca evolutiva sobre uma população de candidatos, com mutações e cruzamentos escritos por um modelo.

Escolha-o quando você quer uma exploração ampla e tem um orçamento maior.

Otimizadores DSPy

OtimizadorO que faz
DSPy GEPALê o feedback da métrica e evolui as instruções de cada preditor.
DSPy MIPROv2Propõe instruções e demonstrações few-shot em conjunto e busca as combinações delas com otimização bayesiana.
DSPy BootstrapFewShotColeta exemplos resolvidos que o programa acerta e os adiciona como demonstrações few-shot. Não usa um modelo de reflexão.

O DSPy MIPROv2 e o DSPy BootstrapFewShot precisam de pares (casos com saídas esperadas).

Configurações

Orçamento

ConfiguraçãoPadrãoIntervalo
Máx. de execuções do avaliador2001 a 100000 (Auto: pelo menos 6)
Parar na pontuaçãoDesativada0 ou mais
Máx. de iteraçõesDesativada1 a 1000. Apenas Meta-Harness, AutoSaddler e ShinkaEvolve.

Uma execução do avaliador é uma chamada da sua métrica em um caso. A nova pontuação final da versão inicial e do vencedor não conta para Máx. de execuções do avaliador.

Configurações do agente de programação

Estas configurações valem para Auto, AutoResearch, Meta-Harness e AutoSaddler.

ConfiguraçãoPadrãoIntervalo
Agente de programaçãoCodexPi, Codex, OpenCode, Prime Agent, Comando personalizado
Candidatos por iteração31 a 8. Aparece para Auto e Meta-Harness.
Máx. de chamadas de ferramentas por candidato1001 a 1000

Configurações do ShinkaEvolve

ConfiguraçãoPadrão
Como as novas versões são escritasUma única chamada ao modelo. A outra opção é "Agente de código (Pi)".
Ilhas2 (1 a 8)
Intervalo de migração10
Seleção do paiPonderada. Outras opções: Lei de potência, Pesquisa em feixe.
Edições diff / Reescritas completas / Cruzamentos60% / 30% / 10%. A soma deve ser 100%.
Tamanho do arquivo40
Avaliações paralelas2
Propostas paralelas2

Quando o Auto executa o ShinkaEvolve, o assistente mostra estas configurações como "Definições do ShinkaEvolve (quando o Auto o executa)".

Páginas relacionadas