背景
nnue-pytorch は WDL lambda に Gaussian noise を注入する jitter を持つ:
- per-sample (
jitter_lambda_sample)
- per-batch (
jitter_lambda_batch)
- batch jitter に AR(1)-style 減衰 (
jitter_decay_lambda_batch: buf = decay*buf + sqrt(1-decay²)*noise)
- 最後に
clamp(0,1)
WDL scheduler の代替として regularization 効果。tatara には対応物無し。
参考
- nnue-pytorch (chess、commit
e215624): model/lambda_utils.py (jitter 関連 fn 全体)
- tatara: 該当無し (
grep -ri jitter 0 件)
受け入れ条件
補足
複雑度: 中。SPRT は別途。
背景
nnue-pytorch は WDL lambda に Gaussian noise を注入する jitter を持つ:
jitter_lambda_sample)jitter_lambda_batch)jitter_decay_lambda_batch:buf = decay*buf + sqrt(1-decay²)*noise)clamp(0,1)WDL scheduler の代替として regularization 効果。tatara には対応物無し。
参考
e215624): model/lambda_utils.py (jitter 関連 fn 全体)grep -ri jitter0 件)受け入れ条件
--lambda-jitter-batch <std>/--lambda-jitter-sample <std>/--lambda-jitter-decay <f32>(default 全 0、0 で従来挙動)補足
複雑度: 中。SPRT は別途。