Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / LD2 / T58 Parametertuning
- - By Stefan Pohl Date 2019-11-30 21:36 Edited 2019-11-30 22:17
Jörg Burwitz hat mich gebeten, seine Tuning-Empfehlungen für LD2 und T58 Netze (gleiche Größe von 128x10) von discord hier mal zu posten, da er keinen Account hier hat.

Zunächst empfiehlt er für LD2 auf Smartphone/CPU die folgenden Einstellungen:
max-prefetch=2 und miniBatchSize=8

Dann hat er mit CLOP und cutechess die Parameter (für LD2 und T58418 auf RTX GPU) CPuct, FPUValue, Policy Temperature getunt, was bei einem großen Testrun des LD2 Netzes gegen Stockfish (s.u.) satte +39 Elo Zugewinn gebracht hat(!) - Allerdings mit extrem kurzen Bedenkzeiten, sodaß der Zugewinn bei längeren Bedenkzeiten sicher geringer ausfallen dürfte.
Meine beiden RTX2060 Notebooks sind zur Zeit mit Testruns beschäftigt, aber in 2.5 Tagen sollte ein Testrun enden, dann werde ich mal das LD2 Netz mit den getunten Parametern zumindest mal einen Testrun beginnen lassen und sehen, wie es läuft. Sollte es gut laufen, lasse ich den Testrun natürlich durchlaufen. Aber generell muß ich natürlich mit dem Testen von Spezialsettings sehr haushalten, da ich schon mit den "normalen" NN-Testruns kaum hinterherkomme. Aber diese Settings sehen hier im Ultrabullet-Test sehr gut aus, das ist also einen Versuch wert, meine ich. Und ich habe ja schon ein Testergebnis von LD2 mit default-Parametern, insofern habe ich da schon einen Vergleichswert. Den ich bei T58 nicht habe. Bei den T58 Netzen warte ich daher noch ab. Am besten, bis sie ausgelernt haben. Man muß bitte immer bedenken, daß ein voller 3000 Partien NN-Testrun bei mir gute 6 Tage dauert...

Tuning: CPuct / FpuValue / PolicyTemperature with LD2 and latest T58 net at ~5000 nodes/move vs. SF-dev
LC0-version: v0.22.0
LC0 options: Id58418 / LD2, Backend=cudnn-fp16, MoveOverheadMs=0
SF options: 16 threads, Contempt=0
Hardware: Ryzen 7 2700 + RTX 2080TI
Time control: LC0: 1.68s/game+0.028s/move, SF-dev: 1.20s/game+0.020s/move, time forfeits disabled
Speed: Nodes/move: ~5000 (LC0)
Book: Balanced 3-move-book
Tablebases: 6-man
Adjudication: 6-man TBs + -resign movecount=3 score=550 -draw movenumber=1 movecount=10 score=5, captures and pawn moves resetting counters
Software: CLOP + Cutechess-CLI
11000 games each:
Code:

                    default   tuned (LD2)   tuned (Id58418)
CPuct:                3.0        2.78            2.70
FpuValue:             1.2        0.43            0.50
PolicyTemperature:    2.2        1.87            1.53


Test gauntlet with LD2 and match conditions as in tuning (SF with 1.38s/game+0.023s/move):
Code:

   # ENGINE       :  RATING  ERROR  CFS(%)   GAMES  DRAWS(%)
   1 lc0-tuned    :    35.2   10.0   100.0    2650      43.6
   2 stockfish    :     0.0   ----    81.7    5300      42.9
   3 lc0          :    -4.5    9.8     ---    2650      42.2
Parent - - By Eduard Nemeth Date 2019-11-30 22:20
Danke für die settings! Werde es natürlich testen.

Habe neulich ein T58 Netz auf dem Smartphone installiert und wunderte mich zunächst dass es langsamer war als das LD2. Dann erst fiel mir ein dass ich MaxPrefetch nicht verändert hatte. Als ich es für T58 auch auf 4 setzte wie für LD2, gingen die nps ums mehrfache nach oben.
Parent - By Eduard Nemeth Date 2019-12-02 01:00
Habe als Experiment auf dem Server mit einem der neusten T58 Netze eine schöne 16+0 Partie gegen 32 Kerne Stockfish gespielt. T58 lief auf einer 1050 Ti.
Zuvor machte ich einige Analysen, und folgendes Setting hatte mich überzeugt. Ich glaube es ist für kleine GPUs gut.

Code:
[OPTIONS]
UCI_Chess960=true
Threads=2
MinibatchSize=64
MaxPrefetch=4
LogitQ=true
CPuct=2.700000
FpuValue=0.550000
PolicyTemperature=1.530000
MoveOverheadMs=75000
Slowmover=0.700000


Die Einstellung "LogitQ=true" ist neu seit der Version "Lc0 v0.23.0-rc2+git". Ich war sehr überrascht als ich diese Option eingeschaltet hatte.
Denn bei einigen Teststellungen platzte sozusagen die Bombe! Danach machte ich mich auf zum Server. Ich wusste dass dieses Setting im Mittelspiel gut sein würde,
aber im Endspiel dann, gegen einen der Besten auf dem Server zu bestehen? Aber ich habe das T58 Netz (es spielte 58462) ziemlich unterschätzt.

Event:
Ort:
Datum:

Weiss:
Schwarz:

Ergebnis
Board
Up Topic Hauptforen / CSS-Forum / LD2 / T58 Parametertuning

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill