tanuki- 2021-10-06 L2正規化パラメーター

tanuki- 2021-10-06 L2正規化パラメーター

実験内容

  • L2正規化パラメーターを変えながら学習させ、勝率を測定する

棋譜生成

生成ルーチン tanuki-棋譜生成ルーチン
評価関数 tanuki-wcsc28
1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
開始局面 foodgate上の棋譜の24手目までから1局面ランダムに選択し、その局面を開始局面とした
生成局面数 1 億局面× 3 セット
生成条件 対局は打ち切らず詰みの局面まで学習データに出力した

機械学習

機械学習ルーチン やねうら王機械学習ルーチン
学習モデル halfkp_256x2-32-32
学習手法 SGD ミニバッチ法
USI_Hash 1024
Threads 16
loop 100
batchsize 1000000
lambda 0.4
eta 0.01
newbob_decay 0.5
nn_batch_size 1000
eval_save_interval 100000000
loss_output_interval 1000000
mirror_percentage 50
eval_limit 32000
weight_by_progress 無効
次元下げ K・P・HalfRelativeKP・左右対称
学習データ内で重複した局面の除外 しない
初期ネットワークパラメーター tanuki-wcsc28
勝敗項の教師信号 0.998074

レーティング測定

対局相手 tanuki-wcsc28
思考時間 持ち時間 900 秒 + 1 手 5 秒加算
対局数 2000
同時対局数 64
ハッシュサイズ 768
開始局面 たややん互換局面集

実験結果

機械学習

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.10000000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち955(52.5%) 後手勝ち865(47.5%) 引き分け180

engine1

勝ち1076(59.1% R58.2 +-15.4) 先手勝ち566(31.1%) 後手勝ち510(28.0%)

宣言勝ち54 先手宣言勝ち26 後手宣言勝ち28 先手引き分け101 後手引き分け79

engine2

勝ち744(40.9%) 先手勝ち389(21.4%) 後手勝ち355(19.5%)

宣言勝ち19 先手宣言勝ち10 後手宣言勝ち9 先手引き分け79 後手引き分け101

1076,180,744

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.01000000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち945(51.8%) 後手勝ち881(48.2%) 引き分け174

engine1

勝ち1095(60.0% R63.9 +-15.5) 先手勝ち568(31.1%) 後手勝ち527(28.9%)

宣言勝ち57 先手宣言勝ち26 後手宣言勝ち31 先手引き分け95 後手引き分け79

engine2

勝ち731(40.0%) 先手勝ち377(20.6%) 後手勝ち354(19.4%)

宣言勝ち14 先手宣言勝ち5 後手宣言勝ち9 先手引き分け79 後手引き分け95

1095,174,731

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.00100000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち923(51.4%) 後手勝ち871(48.6%) 引き分け206

engine1

勝ち1070(59.6% R60.7 +-15.5) 先手勝ち551(30.7%) 後手勝ち519(28.9%)

宣言勝ち42 先手宣言勝ち21 後手宣言勝ち21 先手引き分け110 後手引き分け96

engine2

勝ち724(40.4%) 先手勝ち372(20.7%) 後手勝ち352(19.6%)

宣言勝ち10 先手宣言勝ち5 後手宣言勝ち5 先手引き分け96 後手引き分け110

1070,206,724

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.00010000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち951(51.7%) 後手勝ち889(48.3%) 引き分け160

engine1

勝ち1098(59.7% R62.5 +-15.5) 先手勝ち564(30.7%) 後手勝ち534(29.0%)

宣言勝ち53 先手宣言勝ち27 後手宣言勝ち26 先手引き分け81 後手引き分け79

engine2

勝ち742(40.3%) 先手勝ち387(21.0%) 後手勝ち355(19.3%)

宣言勝ち16 先手宣言勝ち9 後手宣言勝ち7 先手引き分け79 後手引き分け81

1098,160,742

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.00001000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち933(51.7%) 後手勝ち872(48.3%) 引き分け195

engine1

勝ち1131(62.7% R80.8 +-15.6) 先手勝ち577(32.0%) 後手勝ち554(30.7%)

宣言勝ち77 先手宣言勝ち37 後手宣言勝ち40 先手引き分け87 後手引き分け108

engine2

勝ち674(37.3%) 先手勝ち356(19.7%) 後手勝ち318(17.6%)

宣言勝ち5 先手宣言勝ち1 後手宣言勝ち4 先手引き分け108 後手引き分け87

1131,195,674

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.00000100\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち972(53.4%) 後手勝ち848(46.6%) 引き分け180

engine1

勝ち1105(60.7% R68.6 +-15.5) 先手勝ち582(32.0%) 後手勝ち523(28.7%)

宣言勝ち53 先手宣言勝ち31 後手宣言勝ち22 先手引き分け87 後手引き分け93

engine2

勝ち715(39.3%) 先手勝ち390(21.4%) 後手勝ち325(17.9%)

宣言勝ち9 先手宣言勝ち3 後手宣言勝ち6 先手引き分け93 後手引き分け87

1105,180,715

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.00000010\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち964(53.6%) 後手勝ち834(46.4%) 引き分け202

engine1

勝ち1096(61.0% R69.4 +-15.5) 先手勝ち585(32.5%) 後手勝ち511(28.4%)

宣言勝ち73 先手宣言勝ち34 後手宣言勝ち39 先手引き分け111 後手引き分け91

engine2

勝ち702(39.0%) 先手勝ち379(21.1%) 後手勝ち323(18.0%)

宣言勝ち13 先手宣言勝ち7 後手宣言勝ち6 先手引き分け91 後手引き分け111

1096,202,702

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.l2_regularization_parameter=0.00000001\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮

する=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち965(52.9%) 後手勝ち858(47.1%) 引き分け177

engine1

勝ち1143(62.7% R81.9 +-15.7) 先手勝ち605(33.2%) 後手勝ち538(29.5%)

宣言勝ち61 先手宣言勝ち32 後手宣言勝ち29 先手引き分け102 後手引き分け75

engine2

勝ち680(37.3%) 先手勝ち360(19.7%) 後手勝ち320(17.6%)

宣言勝ち12 先手宣言勝ち4 後手宣言勝ち8 先手引き分け75 後手引き分け102

1143,177,680

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\shogi\eval\tanuki-wcsc28.winning_percentage_for_win=0.998047\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮す

る=false 定跡の手数を無視する=false SlowMover=100

思考エンジン2 name=YaneuraOu NNUE 6.50 64ZEN2 EVAL_LEARN author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評

価関数フォルダパス=D:\hnoda\tnk-wcsc28-2018-05-05\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=900000 秒読み時間(ms)=0 加算時間(ms)=5000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100

対局数2000 先手勝ち931(51.5%) 後手勝ち876(48.5%) 引き分け193

engine1

勝ち1162(64.3% R91.9 +-15.8) 先手勝ち603(33.4%) 後手勝ち559(30.9%)

宣言勝ち67 先手宣言勝ち36 後手宣言勝ち31 先手引き分け115 後手引き分け78

engine2

勝ち645(35.7%) 先手勝ち328(18.2%) 後手勝ち317(17.5%)

宣言勝ち11 先手宣言勝ち9 後手宣言勝ち2 先手引き分け78 後手引き分け115

1162,193,645

合計勝率 先手勝率 後手勝率
0.1 59.1 31.1 28
0.01 60 31.1 28.9
0.001 59.6 30.7 28.9
0.0001 59.7 30.7 29
0.00001 62.7 32 30.7
0.000001 60.7 32 28.7
0.0000001 61 32.5 28.4
0.00000001 62.7 33.2 29.5
0 64.3 33.4 30.9

まとめ

L2正規化パラメーターを変えながら学習させ、勝率を測定した。

テストロスは、 L2 正規化パラメーターを 0.1 に設定したとき、速く下がったものの、推移が不安定となった。 0.01 のときに速く下がっり、かつ安定した。他のパラメーターの場合は、ほとんど違いはなかった。

指し手一致度は、 L2 正則化パラメーターを 0.1 または 0.01 に設定したとき、推移が不安定となった。それ以外のパラメーターでは、推移は安定し、ほとんど差はなかった。

評価値の絶対値については、 L2 正則化パラメーターを 0.1 または 0.01 に設定したとき、推移が不安定となった。それ以外のパラメーターでは、推移は安定し、ほとんど差はなかった。

レーティングについては、 L2 正則化パラメーターを 0 に設定したときが、最も高かった。

テストロスについては、 L2 正規化パラメーター 0.1 は、正規化が強すぎるのだと思われる。 0.01 以下が適切なのだろう。

指し手一致度については、 L2 正則化パラメーターは、推移が安定することから、 0.001 以下に設定するのが良いと思われる。

評価値の絶対値については、 L2 正則化パラメーターは、推移が安定することから、 0.001 以下に設定するのが良いと思われる。

レーティングについては、 L2 正則化を入れない時が最も高くなったことから、 L2 正規化を行わないほうが良いように思える。

上記の結果より、 L2 正則化は入れないほうがよいと考えられる。今後は、 L2 正則化は入れずに実験を進めていきたい。