Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / Net 60 entwickelt sich schnell
- - By Lothar Jung Date 2019-07-29 10:07
Bereits auf 2060 Self-Elo (Ordo).
Dürfte schon jetzt Vereinsspielerstärke haben.
In dieser Woche schon Weltmeisterniveau?
Ich bin gespannt auf Taktik- und Endspielstärke.
Ab 3.000 Self-Elo dürften sich Tests lohnen.

Lothar
Parent - - By Lothar Jung Date 2019-07-29 18:02
Letzter Stand 2.338 Self-Elo.
Mal sehen wieviel „warme Luft“ hinter der relativ schnellen Steigerung steckt.
Parent - - By Lothar Jung Date 2019-07-30 08:24
Jetzt 2.586 Self-Elo.
Es geht mir alles ein bisschen zu schnell.
Parent - - By Lothar Jung Date 2019-07-31 10:10
Derzeit hat Net 60 2.876 Self-Elo erreicht.
Es wird wohl heute über 3.000 Self-Elo kommen.
Ich werde dann einen kleinen Test auf meiner RTX 2070 Super durchführen.
Soll ich es gegen eine A/B-Engine oder eine CPU-NN antreten lassen?
Die Spielstärke der Gegner-Engine sollte bei 2.500 bis 2.700 Elo auf einem Thread liegen.

Lothar
Parent - - By Eduard Nemeth Date 2019-07-31 14:42
Es wurden heute offenbar 1000 Elo abgezogen.
Parent - - By Lothar Jung Date 2019-07-31 15:57 Edited 2019-07-31 16:10
Ich weiß auch nicht was das soll.
Es ist ein pauschaler cutoff von 1.200 Self-Elo!

Hier läuft ein Tunier von Net 60055 gegen Tucano:

https://www.twitch.tv/mattblachess
Parent - - By Reinhold Stibi Date 2019-07-31 16:18
Die über 1000 Elo Abzug sind gerechtfertigt.

Das 60er Net spielt taktisch noch sehr schlecht.

Durch das große Net sinkt die Knotenzahl um 50 %.

Die RTX 2070 ist gut brauchbar; ob das für die GTX 1050 Ti  auch zu trifft ist fraglich.

Das wird ein langer Weg werden um das Niveau des 42er Nets zu erreichen.
Parent - By Eduard Nemeth Date 2019-07-31 16:26
Die neuen 56er 128x10 sind auf einem guten Weg. Habe das Netz von Anfang an verfolgt. Das 56103 ist jetzt taktisch soweit auf der Höhe dass es brauchbar ist, und man testen könnte.
Parent - - By Lothar Jung Date 2019-08-02 10:05 Edited 2019-08-02 10:09
Net 60078 erreicht zur Zeit 1.977 Self-Elo (nach dem Cutoff von 1.200 Elo).
Seine derzeitige Stärke dürfte jedoch jedenfalls über 2.800 Elo liegen.
Das neue Netz brauchte somit nur 1 Woche um auf menschliches Weltmeisterniveau zu kommen.

Derzeit führt Edosani  auf Twitch ein Tunier zwischen Net 60075 und Tuscano (32 Cores, 2950 Elo) auf Highend-Hardware aus.
Derzeitiger Stand: 11:12 Punkte.

Lothar
Parent - - By Klaus S. Date 2019-08-02 11:56
Hallo Lothar,

kannst du mal den link dazu hier reinstellen, ich finde ihn nicht mehr. 
Parent - - By Lothar Jung Date 2019-08-02 12:06 Edited 2019-08-02 12:35
Hallo Klaus,

hier ist der Link:

https://www.twitch.tv/edosani

Net 60075 führt mit 16,5:14,5.

Net 6080 hat jetzt 2025 Self-Elo.

Es scheint jetzt eine Entwicklung auf 3.000 Elo einzusetzen.

Lothar
Parent - - By Lothar Jung Date 2019-08-03 15:51 Edited 2019-08-03 15:53
Net 60098 erreicht 2141 Self-Elo.
Die Tests auf Twitch (Texel, Wasp, Hannibal) gehen in Richtung 3.100 Elo.
Parent - By Stefan Pohl Date 2019-08-04 16:13
Wartet doch einfach mal ab! Bisher sind lächerliche 1.6 Millionen Partien im Training der 60xxx Netze gespielt worden. Das ist quasi fast nichts.
Ich warte jedenfalls ab. Und mache erste mal meine Testruns der beiden alten Netze aus der 10xxx und 30xxx Serie fertig. Das dauert noch ca. 10 Tage. Dann und frühestens dann, schaue ich mir die 60xxx Netze an.
Am Anfang geht es immer schnell aufwärts mit der Elo. Nur bleibt das logischerweise nicht so und der Zuwachs flacht mehr und mehr ab (was man in der Selfplay-Elo Grafik ja auch schon deutlich sieht). Bis die 60xxx Netze in den Spielstärkebereich der letzten 40xxx Netze kommen, wird es also noch eine ganze Zeit dauern.
Parent - - By Walter Knobloch Date 2019-08-03 17:27
self-elo ist wirklich nicht aussagekräftig. Ihr solltet daraus gar keine Schlüsse ziehen.
Parent - - By Lothar Jung Date 2019-08-03 18:09
Tue ich auch nicht.
Das reale Elo in den Tests ist >= 3.000.
Parent - - By Reinhold Stibi Date 2019-08-03 18:15
Im taktischen Bereich ist das 60er Net noch äußerst schwach.
Wahrscheinlich erst bei 2600 Elo brauchbare Ergebnisse.
Parent - - By Lothar Jung Date 2019-08-03 21:50 Edited 2019-08-03 21:55
Hallo Reinhold,

das Netz 60097 steht gegen Texel 1.07 mit 3.142 Elo in einem Tunier von mattblachess ausgeglichen mit 6,6:6,5.

Keine Rede von 2.600 Elo, auch bei anderen Tests, gegen Wasp und Hannibal, Tunier von Edosani; alles auf Twitch.

Lothar
Parent - - By Reinhold Stibi Date 2019-08-04 07:40 Edited 2019-08-04 07:54
Hallo Lothar,

ich meinte doch die von Networks angegebenen Selfplay Elos und die sind von 2600 noch weit entfernt.

Das 60er Net ist doch jetzt noch im taktischen Bereich miserabel.

Der jetzige Zustand vom 60er Net ist auch unbedeutend da es täglich fortentwickelt wird. 

Das heutige Net 60110 hat 2194 Network-Elos. Vielleicht werden  in 4 Tagen 2600 Elos erreicht.

Reinhold
Parent - - By Eduard Nemeth Date 2019-08-04 11:33
Übrigens, das 56er Netz macht sich richtig gut, im Vergleich zu den früheren 128x10 Netzen. Ich fände es daher schade wenn dieses "Testnetz" vorzeitig abgebrochen würde. Ein richtig gutes 128x10 NN für langsame Hardware wäre doch auch Klasse!
Parent - - By Lothar Jung Date 2019-08-04 12:21
Ja,
gute CPU-Netze sind genauso wichtig, wie das neue Net 60, dass wahrscheinlich eine gute RTX-GPU benötigt, um sein Potential auszuschöpfen.

Lothar
Parent - By Stefan Pohl Date 2019-08-05 15:21
Lothar Jung schrieb:

Ja,
gute CPU-Netze sind genauso wichtig, wie das neue Net 60, dass wahrscheinlich eine gute RTX-GPU benötigt, um sein Potential auszuschöpfen.

Lothar


Ist das LD2-Netz nicht das Beste für CPU-Betrieb (bzw. langsame GPUs)?

https://lc0.org/ld2
Parent - - By Lothar Jung Date 2019-08-04 12:18 Edited 2019-08-04 12:22
Hallo Reinhold,

hier ein aktueller Teststand:

On Edosani's stream <https://www.twitch.tv/edosani>:

https://www.twitch.tv/edosani

Lothar
Parent - - By Klaus S. Date 2019-08-04 12:41
Wo sieht man da über 3150 ELO

Wo sieht man überhaupt ELO, ich sehe nur die Partie im GUI
Parent - - By Lothar Jung Date 2019-08-05 10:57
60xxx progress so far scaled on log x-axis
Parent - By Lothar Jung Date 2019-08-05 12:04
Auf Discord Test-Diskuss.
Parent - By Eduard Nemeth Date 2019-08-04 13:16
Nun ja, Lc0 erreicht immerhin bis zu 18 kns im Mittelspiel, die AB Engine aber nur 1500 kns.
Parent - - By Stefan Pohl Date 2019-08-05 16:17 Edited 2019-08-05 16:24
Laßt die 60xxx Nets sich doch erst mal entwicken.

Und schaut euch lieber mal das hier an:

https://github.com/jhorthos/lczero-training/wiki/Leela-Training

T40B.1 is a continuation of T40 training with experimental training conditions. Starting net is 42770. All T40 training games from LR 0.0007 on were combined into one huge training window (about 12M games) and trained with starting LR 0.002 gradually decreasing to 0.00005. The hypothesis is that normal training on progressive windows learns positions from later games better than earlier ones, and that the megawindow approach will learn evenly (though it discards the benefit of reinforcement enjoyed in the parent T40 run). I also converted to a WDL head and did my usual partial 7-man table base rescoring, so these are possible confounders for interpretation. Nets labeled T40B.1 to indicate branch 1 of T40 training. Pure zero (all training on T40 games). Low node Elo estimates now complete, shown below net links. I removed the older nets - ping me on Discord if you want them (you don't, they aren't as good).

T40B.1 TRAINING FINISHED net 106 is the last net

Dieses Netz (T40B.1-106) ist laut des Testruns hier (allerdings nur Selfplay und nur 800 nodes pro Zug, also sehr schnell) immerhin +14 Elo besser als das späte 42770 Netz. Damit könnte (sollte?) es das stärkste Netz z.Zt. sein. Damit durchaus auch ein heißer Kandidat fürs TCEC 16...
Zudem läuft schon ein neuer, verbesserter Lerndurchlauf (B.2):
T40B.2 will also use the megawindow approach of T40B.1 but will use a cosine annealing cyclical LR. Started training 2019-08-01. Nets from each low point in the cyclical LR will be posted, plus a final net weight-averaged over the best of those nets (true SWA). Da wird es aber noch ein bißchen dauern.

Wenn mein Testrun des alten Netzes 32930 durch ist (Donnerstag voraussichtlich), werde ich das Netz T40B.1-106 mal antesten. Läuft der Testrun gut an, lasse ich es evt. durchlaufen.


# PLAYER              :  RATING  ERROR   POINTS  PLAYED   (%)     W      L      D
   1 lc0.net.T40B-86     :    15.3    8.0   1564.5    3000    52   638    509   1853
   2 lc0.net.T40B-94     :    14.7    8.0   1562.0    3000    52   662    538   1800
   3 lc0.net.T40B-82     :    14.6    7.9   1561.5    3000    52   652    529   1819
   4 lc0.net.T40B-106    :    14.1    7.7   1559.5    3000    52   661    542   1797
   5 lc0.net.T40B-40     :    11.4    7.8   1548.0    3000    52   636    540   1824
   6 lc0.net.T40B-78     :    10.9    7.9   1546.0    3000    52   651    559   1790
   7 lc0.net.T40B-98     :     9.7    8.1   1541.0    3000    51   644    562   1794
   8 lc0.net.T40B-102    :     7.5    7.8   1531.5    3000    51   651    588   1761
   9 lc0.net.T40B-90     :     7.1    7.7   1530.0    3000    51   621    561   1818
  10 lc0.net.T40B-32     :     6.4    7.9   1527.0    3000    51   628    574   1798
  11 lc0.net.T40B-44     :     6.3    7.8   1526.5    3000    51   617    564   1819
  12 lc0.net.T40B-60     :     5.9    7.8   1525.0    3000    51   600    550   1850
  13 lc0.net.T40B-64     :     5.7    8.0   1524.0    3000    51   624    576   1800
  14 lc0.net.T40B-36     :     4.7    8.0   1520.0    3000    51   612    572   1816
  15 lc0.net.T40B-14     :     4.7   12.3    608.0    1200    51   257    241    702
  16 lc0.net.T40B-56     :     2.8    7.6   1512.0    3000    50   585    561   1854
  17 lc0.net.42770       :     0.0   ----  24824.0   50800    49  9473  10625  30702
  18 lc0.net.T40B-22     :    -0.2   10.8    799.5    1600    50   313    314    973
  19 lc0.net.T40B-48     :    -2.4    7.9   1490.0    3000    50   573    593   1834
Parent - - By Lothar Jung Date 2019-08-06 10:37
Na ja,
jeder kann ja nicht das gleiche testen.
Ich teste lieber die Entwicklung eines „runner ups“.
Mein erster Test ist Net 60146 auf RTX 2070 Super gegen Laser 1.7 auf 12 Kerne Ryzen 3900X.
20 Partien mit TC 5 Min./3 sec.
Laser aus der Grundstellung ca. 14.000 KN/sec.
Net 60149 ca. 10 KN/sec.
Lc0 rechnet weniger als die Hälfte tief.
Dadurch ändert sich die Ratio zwischen CPU/GPU deutlich.
Parent - - By Stefan Pohl Date 2019-08-06 16:10 Upvotes 1
Lothar Jung schrieb:

Na ja,
jeder kann ja nicht das gleiche testen.
Ich teste lieber die Entwicklung eines „runner ups“.
Mein erster Test ist Net 60146 auf RTX 2070 Super gegen Laser 1.7 auf 12 Kerne Ryzen 3900X.
20 Partien mit TC 5 Min./3 sec.
Laser aus der Grundstellung ca. 14.000 KN/sec.
Net 60149 ca. 10 KN/sec.
Lc0 rechnet weniger als die Hälfte tief.
Dadurch ändert sich die Ratio zwischen CPU/GPU deutlich.


Nein.
Die Leela-Ratio ist definiert als Messung eines 20x256 Nets in Relation zur Knotenleistung von Stockfish, weil das auch beim Google AlphaZero Wettkampf gegen Stockfish zum Einsatz kam.. Wenn ein größeres Netz langsamer abgearbeitet wird, ist das eben so. Man gibt ja einer AB-Engine wie Hiarcs, die mit mehr Wissen weniger Knoten berechnet, auch nicht mehr Bedenkzeit als Stockfish & Co. Solange sich also deine Hardware nicht ändert, bleibt auch die Leela-Ratio gleich.
Parent - - By Lothar Jung Date 2019-08-07 09:47
Chat with dkappe on Discord:

<@433669478841188363> I do some tests with the Nets 60 on my RTX 2070 Super. The GPU achives only half of kN/sec, because of the size of the net. If I use the dropped kN/sec in your Leela-Ratio I have to decrease the threads on my Ryzen in order to get a balanced Ratio. Is this right?

<@437624409923125268> Well, the idea is to get a measure of cpu vs gpu performance. Ideally, you would use sf9 and 11248 running on lc0 v0.18 to establish the Leela Ratio. With the altered net size, it’s hard to make a comparison. I’d use a net like 32930 to calibrate your ratio.
Parent - By Stefan Pohl Date 2019-08-07 12:44
Lothar Jung schrieb:

Chat with dkappe on Discord:

<@433669478841188363> I do some tests with the Nets 60 on my RTX 2070 Super. The GPU achives only half of kN/sec, because of the size of the net. If I use the dropped kN/sec in your Leela-Ratio I have to decrease the threads on my Ryzen in order to get a balanced Ratio. Is this right?

<@437624409923125268> Well, the idea is to get a measure of cpu vs gpu performance. Ideally, you would use sf9 and 11248 running on lc0 v0.18 to establish the Leela Ratio. With the altered net size, it’s hard to make a comparison. I’d use a net like 32930 to calibrate your ratio.


Genau wie ich sagte: 11248 und 32930 sind 20x256 Nets. Damit rechnet man die Leela-Ratio aus. Wobei die 40xxx Nets übrigens auch schon langsamer abgearbeitet werden, als die eben 32930 oder 11248. Obwohl sie ebenfalls 20x256 sind. Aber die innere Struktur ist anders. Ich habe für meine Testumgebung (mein RTX 2060 Notebook) damals auch das 32930er benutzt.
Parent - - By Lothar Jung Date 2019-08-06 20:53
Ergebnis: 4:1:5 für Laser, -107 Elo-Punkte. Fürs erste nicht schlecht.
Morgen gehts mit dem aktuellen Netz weiter.
Parent - - By Reinhold Stibi Date 2019-08-07 09:05
Momentan sind beim 60er Net von Tag zu Tag nur sehr kleine Fortschritte erkennbar.

Bin gespannt ob zwischendrin wieder ein kräftiger Schub kommt.

Bis das Niveau der 42er Netze erreicht oder übertroffen wird, wird es doch länger als gedacht kommen.

Abwarten und Tee trinken.
Parent - - By Walter Knobloch Date 2019-08-08 02:14
Die Fortschritte sind recht stetig und hoffnungsvoll. Bei 100k Trainingsschritten (~60400) wird man ein erstes Fazit ziehen können.
Bis T40 in Partien auf Zeit überflügelt wird, dürften aber wohl 6 Monate vergehen. Garantie auf Erfolg gibt es keine, weil die neue Größe einige Unwägbarkeiten birgt. Keine Ahnung wie sich die Hardwarebeteiligung entwickelt, ich würde aber mit mindestens 12 Monaten insgesamt für T60 rechnen.
Je mehr mithelfen, desto schneller geht's!
Parent - - By Lothar Jung Date 2019-08-08 08:32
Ich finde es auch spannend, wie das T60 spielt.
Es ist zur Zeit nicht so angriffsfreudig wie T40, z.B. noch kein H4-H5-H6 Vorstoß.
Im Endspiel sind trotz TB-Einbindung deutliche Schwächen sichtbar.
Auch eröffnet T60 anders, nicht so viel Französisch und Spanisch.
Parent - - By Guenter Stertenbrink Date 2019-08-08 10:26 Upvotes 1
kommt schon, die Spannung ist raus. Lc0 war spannend bis 42000, seitdem ist tote Hose.
Parent - By Eduard Nemeth Date 2019-08-08 11:50
Gibt es dazu anschauliche Beispiele?
Parent - - By Stefan Pohl Date 2019-08-08 15:20
Guenter Stertenbrink schrieb:

kommt schon, die Spannung ist raus. Lc0 war spannend bis 42000, seitdem ist tote Hose.


Seit gestern gibt es das neue, optimierte T40B.2-106 von J.Hortos, was ich heute bei mir als Testrun gestartet habe.
https://github.com/jhorthos/lczero-training/wiki/Leela-Training

Mein Testrun ist natürlich noch in einem sehr frühen Stadium, aber der Start war auf jeden Fall gut. Die Chance ist definitiv gegeben, daß dieses Netz die neue Nummer 1 unter den Netzen wird. Spannend! Und ganz sicher nicht tote Hose.
Parent - By Guenter Stertenbrink Date 2019-08-08 16:28 Upvotes 1
Hortos Tricks , Leelafish Tricks.
Aber die eigentliche Lco-Entwicklung steht still.
Die mit den vielen Testpartien und GPUs.

http://magictour.free.fr/MTGO19C.GIF
Parent - - By Lothar Jung Date 2019-08-07 16:48
Neues Ergebnis: 3:1:6. -70 Elo-Punkte. Schon etwas besser.
Parent - By Lothar Jung Date 2019-08-08 19:42
Ergebnis mit aktuellerem Net: 7:2:11 für Laser. +85 Elo-Punkte.
Noch Endspielschwächen und kein druckvolles Spiel (keine lange Rochade, kein fawn Bauer, H6).
Erst nach dem ersten LR-Drop wird es interessanter.
Parent - - By Lothar Jung Date 2019-08-09 16:14
Jetzt mit dem gleichen Netz, aber 2 RTX 2070 (Super) 3:0:7 für Laser; -105.
Net 60 hat auch bei tieferer Berechnung eindeutige taktische Schwächen.
Es wird wohl noch einige Zeit dauern bis das Netz oben mitspielen kann.
Parent - - By Lothar Jung Date 2019-08-12 17:39
Jetzt doch eine deutliche Steigerung eines aktuellen Netz60.
2:1:7 für Lc0 gegen Laser 1.7.
Hardware: Ryzen 3900X auf 12 Kernen/Threads gegen 2 RTX 2070 (Super).
Auch andere Test weisen auf eine Steigerung auf 3.200 bis 3.300 Elo hin.
Parent - - By Lothar Jung Date 2019-08-18 16:55
Hier wird SF8 vom Net 60308 zusammengeschoben:

https://lichess.org/pBxSvG7V

Lothar
Parent - By Lothar Jung Date 2019-08-19 19:25 Edited 2019-08-19 19:29
Auf Twitch.tv/ edosani läuft ein Tunier (12 Min./3 Sec.) SF7 gegen Net 60320. Zwischenstand: 16.5/13.5.
Sehr gut für T60, ohne LR-Drop!
Up Topic Hauptforen / CSS-Forum / Net 60 entwickelt sich schnell

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill