learning rate drops. Ein Parameter der runtergesetzt wird fuer "Feineres Detail-Lernen"
ich versuch mal nen link zu finden
hier noch ein paar weite infos :
the devs don't think an extra week of training is going to make test30 stronger than SF.
test30 did recieve its 3rd LR drop before Christmas, they just didn't put it on the graph.
. Now, they might do one more LR drop with it, and it is still progressing, but clearly
it will not reach SF11dev level
No, T30 has only had 2 LR drops up till now
Apparently there will be a TCEC Cup so the Superfinal will be multiple weeks away!
Anton Mihailov confirming the Cup
------------------------------------------------------------------
http://blog.datumbox.com/tuning-the-learning-rate-in-gradient-descent/stell dir vor, du versuchst, den hoechsten (Spielstaerke-)Gipfel zu finden in einer Gebigslandschaft.
Zunaechst gehst du mit 7meilenstiefeln umher um zu sehen wie gross das Gebirge ist
und wo die hoechsten Auslaeufer sind.
Dann nimmst du etwas kleinere Stiefel und versuchst im hoechsten gefundenen Auslaeufer
den hoechsten Berg zu finden.
Und schliesslich versucht du mit noch kleineren Stiefeln den Gipfel zu finden.
Sind die Stiefel zu gross magst du am naechsten Berg landen,
Sind sie zu klein dann dauert das zu lange und du bleibst
womoeglich an einem lokalen, kleineren Gipfel haengen.