So langsam gehen wir auf ein halbes Jahr zu, seit dem es kein neues grünes Netz

By Eduard Nemeth Date 2021-03-21 12:36

Max Siegfried schrieb:

für Stockfish gibt.

Das ist in etwa so als ob man im nicht Netz Bereich von Stockfish, seit fast einem halben Jahr, keine einzige Verbesserung geschafft hätte.

Woran liegt das eurer Meinung nach?

Bei Lc0 gibt es seit 1,5 Jahren keinen Fortschritt. Da ist es kein Wunder dass A. Silver im Juli 2020 auf den NNUE Zug aufgesprungen ist. Sein FF2 (mit einem grösseren Netz) aber geniesst auch keine grosse Wertschätzung mehr auf dem Server obwohl es die Engine auch umsonst gibt inzwischen. Gestern und am Samstag, spielte kein Einziger mit FF2.

Offenbar gehen die Ideen langsam aus, aber immerhin wird der Sockfish Motor weiter verbessert. Offenbar lässt sich am Motor derzeit mehr rausholen als an der Bewertungsschraube.

By Volker Göbel Date 2021-03-21 12:43 Edited 2021-03-21 12:45

Da ist es kein Wunder dass A. Silver im Juli 2020 auf den NNUE Zug aufgesprungen ist. Sein FF2 (mit einem grösseren Netz) aber geniesst auch keine grosse Wertschätzung mehr auf dem Server obwohl es die Engine auch umsonst gibt inzwischen. Gestern und am Samstag, spielte kein Einziger mit FF2.

Bei dieser kostenlosen FF2 Version. hieß es doch, dass da nicht das originale FF2 Netz dabei wäre, wie bei der käuflichen FF2 Version?
Oder ist das falsch?

MfG

By Eduard Nemeth Date 2021-03-21 13:48

Da bist du leider nicht auf dem neusten Stand. Das Neuste gibt es immer im Outskirts Forum. Warum meldest Du dich dort nicht an?

By Volker Göbel Date 2021-03-21 13:56

Da bin ich angemeldet, hab nur nicht speziell danach gesucht.

By Eduard Nemeth Date 2021-03-21 14:20

Es gibt einen neueren Motor. Man kann an der Bewertungsschraube drehen soviel man will, irgendwann ist da auch alles ausgereizt. Mit einem alten Motor der nur 100 kmh bringt, kann man keine 200 fahren. Das Schnellere und Bessere entwickeln allein die Stockfish-Ingenieure, ihnen sei der Dank für die tolle Engine. Alle anderen schmücken sich mit fremden Federn.

By Tommy Tulpe Date 2021-03-21 16:49

Eduard Nemeth schrieb:

Nicht alles was hinkt ist ein Vergleich.

Die erfolgreichen Bemühungen bei der Stockfish-Engine ist völlig unbestritten.
Mir fehlen vielleicht Detailkenntnisse. Aber warum sollte in der Bewertungsfunktion des NNUE-Netzes nicht ebenfalls noch reichlich Potenzial stecken? Die Tatsache, dass sich seit einem halben Jahr keine Fortschritte ergaben, beweist rein gar nichts. Mich würden prinzipielle Gründe und Argumente interessieren.

Freundliche Grüße

Ulrich

By Eduard Nemeth Date 2021-03-21 17:13 Upvotes 2

Die NNUE Netze werden seit Juni 2020 trainiert. Das letzte grüne ist vom 28. November 2020. Das FF2 Netz wurde von Juli 2020 bis Januar 2021 trainiert. Alle diese Netze bringen offenbar kaum noch Spielstärke. Würde man Stockfish 12 nehmen, so würden auch die aktuellen Netze (FF2 ebenso) damit nur so stark spielen wie es Stockfish 12 mit dem eigenen tut - vielleicht einige wenige Elo besser, was nicht der Rede wert ist. Der grössere Fortschritt liegt offenbar in der besseren Suche etc.. Davon hat FF2 profitiert und SF13 ebenso. Deshalb spielen FF2 und SF13 gleich stark. Ich teste gerade Stockfish vom 18. März 2020. Ich habe eine Entwickler Version von SugaR AI bekommen (SugaR AI 180321) von M.Z. Habe natürlich damit auch schon analysiert, und weiss daher dass es stärker ist als SF 13. Mit der SugaR experience Datei, die bei mir inzwischen >6 MB angewachsen ist (ca. 5000 Trainingspartien), sieht es in der Praxis sehr gut aus!

By Max Siegfried Date 2021-03-22 06:47

Ich hoffe das da etwas ausnahmsweise Erfolg haben wird:

21-03-22 Fis NET757def5fff5e
diff
LLR: 0.38 (-2.94,2.94) {-0.25,1.25}
Total: 32800 W: 2933 L: 2871 D: 26996
Ptnml(0-2): 114, 2309, 11484, 2387, 106
sprt @ 10+0.1 th 1
cores: 130
Locally tuned net (512x32 S4 +6%)

By Tommy Tulpe Date 2021-03-22 06:53

Die jüngste Vergangenheit kenne ich. Ja, bei den NNUE Netzen gab es offenbar keine / kaum Steigerungen in vergangenen halben Jahr.
Meine Frage zielte darauf ab, warum das so sein muss. Dafür sehe ich keinen Grund. Müssten die Bewertungen durch neuronale Netze nicht steigerbar sein, wenn man sie fleißig weiter trainiert?
Und dies unabhängig von Fortschritten bei der großartigen Stockfish Engine bzw. deren Ablegern.

By Max Siegfried Date 2021-03-22 10:39

Leider hat es nicht geklappt.

21-03-22 Fis NET757def5fff5e
diff
LLR: -2.93 (-2.94,2.94) {-0.25,1.25}
Total: 45376 W: 3984 L: 4033 D: 37359
Ptnml(0-2): 152, 3243, 15943, 3202, 148
sprt @ 10+0.1 th 1
Locally tuned net (512x32 S4 +6%)

By Jörg Oster Date 2021-03-22 11:10 Upvotes 2

Tommy Tulpe schrieb:

Jedes neuronale Netz erreicht irgendwann den Punkt, an dem es austrainiert ist.
Dann kann weiteres Training sogar eine Verschlechterung bewirken.

By Tommy Tulpe Date 2021-03-22 11:19

Jörg Oster schrieb:

Jedes neuronale Netz erreicht irgendwann den Punkt, an dem es austrainiert ist.
Dann kann weiteres Training sogar eine Verschlechterung bewirken.

Ich glaube dir durchaus, verstehe es aber nicht.

Kannst du bitte in verständlicher Form erklären, warum weteres Trainieren des Netzes (angeblich) nichts mehr bringt?
Laienhaft könnte man doch denken, dass durch mehr Wissen die Bewertung immer noch etwas verbessert wird, wenn auch kaum noch merklich.
Denkfehler?

By Thomas Plaschke Date 2021-03-22 16:11 Edited 2021-03-22 16:15 Upvotes 1

Als Analogie kann man sich die Belichtungsdauer beim Fotografieren vorstellen:


Unterbelichtung  - zu wenig Bildinformationen     - Netz zuwenig trainiert,
Normalbelichtung - perfektes Bild                 - Netz optimal trainiert und
Überbelichtung   - Bilddaten kaum differenzierbar - Netz übertrainiert.

Viele Grüße
Th. Plaschke

By Tommy Tulpe Date 2021-03-22 20:31

Thomas Plaschke schrieb:

Als Analogie kann man sich die Belichtungsdauer beim Fotografieren vorstellen:
<code>
Unterbelichtung - zu wenig Bildinformationen    - Netz zuwenig trainiert,
Normalbelichtung - perfektes Bild    - Netz optimal trainiert und
Überbelichtung   - Bilddaten kaum differenzierbar - Netz übertrainiert.
</code>
Viele Grüße
Th. Plaschke

Danke, Thomas. Als engagierter Hobbyfotograf verstehe ich die Angelegenheit mit der Belichtung vollkommen.

Allein der Rückschluss auf die Analogie zu den neuronalen Netzen fällt mir schwer.
Bei "übertrainiertem" Netz.
Muss wohl noch intensiv darüber nachdenken.

By Benno Hartwig Date 2021-03-22 21:33 Upvotes 1

Das halte ich für eine sehr mutige These, dass Netze bei zu viel Training "übertrainiert" werden.

Das hilft mir auch der Vergleich mit der Fotografie nicht weiter.

Problemlos kann ich aber einsehen, dass Stärke solcher Netze gegen eine Sättigung läuft.
Letztlich hat das Netz auch nur eine bestimmte (endliche) Größe, mithin gibt es also eine Spielstärke, die eben die maximale Spielstärke Netze dieser Größe ist.
Und dieser wird man dann irgendwann eben auch sehr nahe sein.

By Roland Riener Date 2021-03-23 00:02

Zitat:

Das hilft mir auch der Vergleich mit der Fotografie nicht weiter.

Na dann vielleicht der Vergleich mit Körpersport:

https://www.fitforfun.de/sport/fitness-studio/uebertraining-zu-hart-trainieren-bringt-nichts_aid_11082.html

By Benno Hartwig Date 2021-03-23 09:32

> Na dann vielleicht der Vergleich mit Körpersport:

Nein, mir hilft das nicht.
Es gibt sicherlich Bereiche, wo ein Zuviel an Training, an Einsatz schädlich wirkt. Natürlich widerspreche ich hier nicht.
Die These, dass das bei Netzen auch so ist, bedarf aber schon einer konkret nachvollziehbaren Begründung.
Nur dass eine Ähnlichkeit irgendwie "nice" wäre, reicht mir nicht. Dir?

Ich erwarte eine Sättigung irgendwann und in der Folge eine gewisse Fluktuation knapp unter des tatsächlich optimalen Wertes.

By Max Siegfried Date 2021-03-23 09:55

Benno Hartwig schrieb:

1. Gibt es denn andere Spiele bei denen es auch Netze gibt, wo es keinen Fortschritt mehr gibt?

2. Kann es sein dass man Netze und Stockfish getrennt betrachten muss, da beides auch getrennt entwickelt wird???
Nehmen wir als Beispiel ein Netz und eine Engine und sagen: Diese harmonieren sehr gut miteinander.
Wenn wir jetzt an der Engine nichts verändern aber das Netz extrem trainieren lassen, dann könnte es doch sein das dass Netz deutlich stärker geworden ist, aber die unveränderte Engine passt nicht mehr so gut zu diesem Netz. Die Schlussfolgerung wäre dann dass es nicht am Netz liegt, sondern an der Engine. Demnach müsste man herausfinden was man als nächstes bei Stockfish entfernen und ändern muss.
Das sinnvollste wäre wahrscheinlich zuerst das perfekte Netz zu entwickeln, also möglichst viel, lang und extrem zu trainieren und tunen und erst danach die Engine.

By Benno Hartwig Date 2021-03-23 13:28

> 1. Gibt es denn andere Spiele bei denen es auch Netze gibt, wo es keinen Fortschritt mehr gibt?

Solange du Netze mit einer bestimmten Größe betrachtest, gibt es nur endlich viele Ausprägungen dieser Netze, und darunter wird (mindestens) eines eben ein stärkstes Netz sein.
Mit einer Spielstärke, die von derartigen Netzen dann nicht überboten werden kann.
Nur wie schnell man sich dieser Stärke annähern kann, ist eigentlich offen, und möglicherweise sind wir tatsächlich dicht dran.

Aber wenn man denn auch größere Netze zulässt oder die Art der Nutzung dieser Netze ändert, könnte diese Spielstärke weiter vergrößert werden.

By Roland Riener Date 2021-03-23 12:17

Hallo Benno, so genau brauche ich es nicht zu wissen. War nur ein naheliegender, sicherlich hinkender Vergleich.

By Thomas Zipproth Date 2021-03-23 21:59 Upvotes 2

Tommy Tulpe schrieb:

Kannst du bitte in verständlicher Form erklären, warum weiteres Trainieren des Netzes (angeblich) nichts mehr bringt?
Laienhaft könnte man doch denken, dass durch mehr Wissen die Bewertung immer noch etwas verbessert wird, wenn auch kaum noch merklich.
Denkfehler?

Der Fachbegriff dafür lautet Overfitting, und ist einer der Hauptursachen, warum ein neuronales Netz bei zuviel Training wieder schlechter werden kann.
Es beginnt dann Stellungsdetails zu lernen die nicht mehr allgemeingültig sind, sondern nur noch in einigen der Trainingsstellungen / Partien so vorkommen.

https://de.wikipedia.org/wiki/%C3%9Cberanpassung

By Tommy Tulpe Date 2021-03-23 23:09

Danke, Thomas.

Mathestudium ist bei mir vorhanden, trotzdem werde ich mich durch den Artikel etwas "durchkämpfen" müssen.

Viele nette Grüße

Ulrich

By Frank Brenner Date 2021-03-22 13:35

Diese Feststellung der Konvergenz des NNUE Netzwerkes habe ich bereits vor 7 Monaten hier im Forum geschrieben. Vom 20 August 2020 bis heute gab es im Wesentlichen keine Steigerung mehr.
Peter Martan hat daraufhin ganz fürchterlich mit mir geschimpft, wie ich das denn nach so kurzer Zeit nach Erscheinen des ersten NNUE Netzwerkes sowas behaupten könne.

Diese sehr kleinen Netzwerke sind blitzschnell sehr ausgelernt . Zum Glück , denn:

Wie ich schon damals schrieb geht es jetzt darum neue Netzwerkarchitekturen zu finden. Bei kleinen Netzwerken muss man nicht 1 Jahr warten bis zum Reject. Die Entwicklung kann hier flotter verlaufen als bei den riesen großen Netzwerken für die eine Grafikkarte erforderlich ist.