Hyperparameter Tuning - Definição do Glossário de CI/CD
O hyperparameter tuning busca sobre configurações pré-treinamento como learning rate para maximizar o desempenho de validação.
O hyperparameter tuning busca sobre valores de configuração do modelo (learning rate, tree depth, regularização) que são definidos antes do treinamento para encontrar a combinação que maximiza o desempenho de validação.
Os hyperparameters são os botões que você define antes do treinamento; o tuning automatiza a busca pela melhor combinação.
Estratégias de busca
O grid search tenta todas as combinações, o random search amostra e a otimização bayesiana usa resultados passados para guiar o próximo trial. Cada trial é registrado via experiment tracking.
Guias relacionados
Experiment Tracking - CI/CD Glossary DefinitionExperiment Tracking: Experiment tracking records the parameters, code version, data version, metrics, and art…
Model Validation - CI/CD Glossary DefinitionModel Validation: Model validation evaluates a trained model on held-out data against quality thresholds (acc…
Validation Set - CI/CD Glossary DefinitionValidation Set: A validation set is data held out from training and used to tune hyperparameters and select m…