HyperparameterHunter完整指南：从入门到精通的超参数优化实践

HyperparameterHunter完整指南：从入门到精通的超参数优化实践

【免费下载链接】hyperparameter_hunterEasy hyperparameter optimization and automatic result saving across machine learning algorithms and libraries项目地址: https://gitcode.com/gh_mirrors/hy/hyperparameter_hunter

HyperparameterHunter是一款强大的超参数优化工具，它能够简化机器学习算法的实验过程和超参数调优工作，自动保存所有重要数据，让你专注于模型性能提升。无论你是机器学习新手还是有经验的开发者，HyperparameterHunter都能成为你高效的实验助手。

为什么选择HyperparameterHunter？

不要将HyperparameterHunter仅仅视为另一个优化库，它更像是你的个人机器学习工具箱/助手。从项目开始就使用它运行所有基准测试和一次性实验，随着使用深入，你会发现它的真正价值。当你决定进行超参数优化时，HyperparameterHunter已经了解你所做的所有实验，不会像其他库那样从零开始，而是基于你已运行的实验和之前的优化轮次继续优化，这正是它的非凡之处。

HyperparameterHunter的核心优势

• 自动保存实验：HyperparameterHunter会将你的实验结果保存到指定目录，为你提供完整的实验记录。
• 智能优化起点：基于已有的实验和优化轮次进行超参数优化，无需从零开始。
• 简化工作流程：让你专注于模型设计和性能提升，而不是繁琐的数据记录和管理。
• 广泛兼容性：支持多种机器学习库和算法，满足不同场景的需求。

HyperparameterHunter快速安装步骤

安装HyperparameterHunter非常简单，你可以选择安装最新稳定版本或前沿版本。

安装最新稳定版本

pip install hyperparameter_hunter

安装前沿版本

pip install git+https://github.com/HunterMcGushion/hyperparameter_hunter.git

依赖项

HyperparameterHunter需要以下依赖项：Dill、NumPy、Pandas、SciPy、Scikit-Learn、Scikit-Optimize、SimpleJSON。这些依赖会在安装过程中自动处理。

HyperparameterHunter入门实践

设置环境

首先，你需要设置一个环境来配置实验的基本参数，包括训练数据集、结果保存路径、评估指标和交叉验证方式等。

from hyperparameter_hunter import Environment, CVExperiment import pandas as pd from sklearn.datasets import load_breast_cancer from sklearn.model_selection import StratifiedKFold from xgboost import XGBClassifier data = load_breast_cancer() df = pd.DataFrame(data=data.data, columns=data.feature_names) df["target"] = data.target env = Environment( train_dataset=df, results_path="path/to/results/directory", metrics=["roc_auc_score"], cv_type=StratifiedKFold, cv_params=dict(n_splits=5, shuffle=True, random_state=32) )

单个实验

设置好环境后，你可以进行单个实验，使用指定的模型和超参数训练模型并评估性能。

experiment = CVExperiment( model_initializer=XGBClassifier, model_init_params=dict(objective="reg:linear", max_depth=3, subsample=0.5) )

超参数优化

HyperparameterHunter提供了超参数优化功能，你可以定义超参数搜索空间，让工具自动寻找最优超参数组合。

from hyperparameter_hunter import BayesianOptPro, Real, Integer, Categorical optimizer = BayesianOptPro(iterations=10, read_experiments=True) optimizer.forge_experiment( model_initializer=XGBClassifier, model_init_params=dict( n_estimators=200, subsample=0.5, max_depth=Integer(2, 20), learning_rate=Real(0.0001, 0.5), booster=Categorical(["gbtree", "gblinear", "dart"]), ) ) optimizer.go()

HyperparameterHunter的高级功能

特征工程支持

HyperparameterHunter的使命之一是让你能够按照自己的需求处理数据，而不会强加任何限制。你可以从examples/feature_engineering_examples/目录中找到相关示例，深入了解如何在HyperparameterHunter中进行特征工程。

多种库兼容性

HyperparameterHunter已与多种机器学习库进行了测试，你可以在examples/目录中找到使用不同库的帮助示例，包括CatBoost、Keras、LightGBM、RGF、Scikit-learn和XGBoost等。

实验结果管理

HyperparameterHunter会将实验结果保存在指定的目录中，每个实验都会在HyperparameterHunterAssets/Experiments子目录中添加一个文件，并在HyperparameterHunterAssets/Leaderboards/GlobalLeaderboard.csv中添加一条记录，方便你管理和查看实验结果。

总结

HyperparameterHunter是一款功能强大的超参数优化工具，它能够简化机器学习实验流程，自动保存实验结果，并基于已有实验进行智能优化。通过本指南的介绍，你已经了解了HyperparameterHunter的安装方法、基本使用和高级功能。开始使用HyperparameterHunter，让它成为你机器学习项目中的得力助手吧！

你可以在项目的docs/目录中找到更多详细的文档，以及在examples/目录中找到丰富的示例代码，帮助你更好地掌握HyperparameterHunter的使用。

【免费下载链接】hyperparameter_hunterEasy hyperparameter optimization and automatic result saving across machine learning algorithms and libraries项目地址: https://gitcode.com/gh_mirrors/hy/hyperparameter_hunter