https://blog.lczero.org/2018/06/20/bootstrap-nets/Ben Reese
eliminate games 4-6.5 million as they were heavily infected with the “black underpromotion bug.
” Extra games were excluded (11-15 million) based on the regression observed in testing
(possibly affected by the oversampling issue).
The first bootstrap used 5 million games for the first half of training
and then between 500,000 and 1 million after that.
Starting with ID396, an experiment was implemented
Based on the lack of progress, a second bootstrap was started [with higher learning rate]
At 300,000 steps the second bootstrap had eclipsed the first.
it was switched over to the main pipeline at ID 421.
[looking at
http://lczero.org/ , where is the 1st bootstrap without progress ?
There was no break after id396 in the matches ]
------------------------------------------------------------
https://blog.lczero.org/2018/06/20/bootstrap-nets/von Ben Reese
Partien Nummer 4-6,5 Millionen wurden eliminiert, da sie stark mit dem "Unterverwandlungs Bug" infiziert waren.
Zusätzliche Partien wurden ausgeschlossen (Nummern 11-15 Millionen), wegen der bei den Tests
beobachteten Regression. (möglicherweise wegen Ueberbewertung neuer Partien).
Der erste Neuanfang verwendete 5 Millionen Partien für die erste Hälfte des Trainings.
und danach zwischen 500.000 und 1 Million.
Ausgehend von ID396 wurde ein Experiment durchgeführt.
Aufgrund des fehlenden Fortschritts wurde ein zweiter Neuanfang gestartet [mit höherer Lernrate].
Bei 300.000 Partien hatte der zweite Neuanfang den ersten überholt.
Es wurde auf die Hauptseite [?] bei ID421 umgestellt.
[unter
http://lczero.org/, wo ist da der 1. Neuanfang ohne Fortschritt?
Es gab keine Pause nach id396 in den Trainings-Partien und Matches ]