Weights & Biases（WandB）ってどんなツール？データを記録だけしてみる第一歩

はじめに

わんだほー！
きゃー！姫〜〜！！💚 nikkieです

Weights & Biases（ウェイツ・アンド・バイアスィズ）、触ってみました。

技術書典15『WandBで始める実験管理』

LLMに関するMeetupのアーカイブが多くあって知っていたWeights & Biases¹。
https://www.youtube.com/@WeightsBiasesJapan

アーカイブではLLM（や機械学習モデル）の訓練で便利と聞きましたが、どんなツールかは触って理解しているわけではありませんでした。

また、こちらの技術同人誌を積ん読していました。

リンク集リポジトリがこちらです。

いまこそ紐解くとき！

ランダムな数値をWandBに記録してみる

第2章「WandB 入門」の最初のコードを素振りします（2.1）。
機械学習モデルは訓練せずに、ランダムな数値をWandBに記録だけします。
WandBとは何かを掴むのにうってつけの例だと思いました

Python 3.11.8
wandb 0.16.6
- アカウントも開設しています
- https://www.wandb.jp/ からサインアップ。この記事の範囲は無料です²

環境変数WANDB_API_KEYを設定しました。
API KeyはUser settingsの中にあります（Danger Zone）

WandBにbasic-introプロジェクトを作って、3回のRunを記録するコードを書いています。
1回あたりの記録のコードは以下です。

with wandb.init(
    project="basic-intro",
    name=f"experiment_{run}",  # 例: experiment_0
    config={
        "learning_rate": 0.02,  # この例ではダミーの値
        "architecture": "CNN",
        "dataset": "CIFAR-100",
        "epochs": 10,
    },
) as run:

    epochs = 10
    offset = random.random() / 5
    for epoch in range(2, epochs):  # 8回ランダムな数値を生成
        loss = 2**-epoch + random.random() / epoch + offset
        acc = 1 - loss
        run.log({"acc": acc, "loss": loss})