学術論文
Li, Lisha, et al. “Hyperband: A novel bandit-based approach to hyperparameter optimization.” The Journal of Machine Learning Research 18.1 (2017): 6765-6816.Sweep 実験
以下の W&B Reports では、W&B Sweeps を使用したハイパーパラメーター最適化の探索事例を紹介しています。- Drought Watch Benchmark Progress
- 説明: ベースラインの開発と、Drought Watch ベンチマークへの提出に向けた探索。
- Tuning Safety Penalties in Reinforcement Learning
- 説明: パターン作成、パターン削除、ナビゲーションの 3 つの異なるタスクにおいて、異なる副作用ペナルティで訓練された エージェント を検証します。
- Meaning and Noise in Hyperparameter Search with W&B Stacey Svetlichnaya
- 説明: シグナルとパレイドリア(空想上のパターン)をどのように区別するか?この記事では W&B で可能なことを紹介し、さらなる探索を促すことを目的としています。
- Who is Them? Text Disambiguation with Transformers
- 説明: Hugging Face を使用した自然言語理解 モデル の探索。
- DeepChem: Molecular Solubility
- 説明: ランダムフォレストとディープネットワークを用いて、分子構造から化学的特性を予測します。
- Intro to MLOps: Hyperparameter Tuning
- 説明: なぜハイパーパラメーター最適化が重要なのかを解説し、機械学習 モデル のハイパーパラメーターチューニングを自動化する 3 つのアルゴリズムを紹介します。
セルフマネージド
以下のハウツーガイドでは、実世界の課題を W&B で解決する方法を紹介しています。- Sweeps with XGBoost
- 説明: XGBoost を使用したハイパーパラメーターチューニングに W&B Sweeps を活用する方法。