Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / Leela News
- - By Stefan Pohl Date 2018-11-01 15:01
Zunächst gibt es einen sehr interessanten und ausführlichen Blogartikel über das NN-Training von Leela:
http://blog.lczero.org/2018/10/lc0-training.html?m=1#more

Und bei den 20xxx Nets gab es gerade den dritten und letzten LR-Drop. Sowie den ersten bei den 30xxx Nets. Den 30xxx Net Fortschritt gibt es hier: http://lczero.org/training_run/2

Es wird also interessant zu sehen, ob und wie weit es nun in den nächsten Tagen bei den Nets aufwärts geht.
Parent - By Tom Paul Date 2018-11-01 15:12
Stefan Pohl schrieb:

Zunächst gibt es einen sehr interessanten und ausführlichen Blogartikel über das NN-Training von Leela:
<a class='ura' href='http://blog.lczero.org/2018/10/lc0-training.html?m=1#more'>http://blog.lczero.org/2018/10/lc0-training.html?m=1#more</a>

Und bei den 20xxx Nets gab es gerade den dritten und letzten LR-Drop. Sowie den ersten bei den 30xxx Nets. Den 30xxx Net Fortschritt gibt es hier: <a class='ura' href='http://lczero.org/training_run/2'>http://lczero.org/training_run/2</a>

Es wird also interessant zu sehen, ob und wie weit es nun in den nächsten Tagen bei den Nets aufwärts geht.


Die Entwickler haben doch am Anfang schon angekündigt gehabt, dass bald bzw. irgendwann deutlich stärkere GPUs für die Entwicklung verwendet werden müssen, weil die billig und medium GPUs auf Dauer nicht genug Power haben werden und auch nicht die Technologien.
Kann es sein dass das der Grund ist, warum es inzwischen nicht mehr Vorwärts geht?
Parent - - By Tom Paul Date 2018-11-01 15:15
Und was erwarten die Entwickler für eine ELO Steigerung bei den 30xxx Nets zu sehen, wenn diese gigantisch großen Networks auf Google Colab GPUs und anderen schwachen GPUs ausgeführt werden?
Parent - - By Martin Steinwandter Date 2018-11-01 16:11
Mit der nächsten GPU Generation wird LC0 durch die Decke gehen. Das kann ich dir versichern.
Parent - By Lothar Jung Date 2018-11-07 10:12 Edited 2018-11-07 10:14
AMD hat gestern seine neue 7nm-VEGA-GPU MI60/MI50 vorgestellt, die im Bereich KI/ML mit der NVIDIA GV100 konkurrieren soll:

https://www.anandtech.com/show/13562/amd-announces-radeon-instinct-mi60-mi50-accelerators-powered-by-7nm-vega

Hoffentlich lässt die AMD-Konkurrenz die hohen Preise für die NVIDIA-GPUs sinken.
Ich bin gespannt, ob AMD auch etwas so leistungsfähiges wie CUDA auf die Beine stellt.
Parent - - By Stefan Pohl Date 2018-11-03 12:32
Stefan Pohl schrieb:

Zunächst gibt es einen sehr interessanten und ausführlichen Blogartikel über das NN-Training von Leela:
<a class='ura' href='http://blog.lczero.org/2018/10/lc0-training.html?m=1#more'>http://blog.lczero.org/2018/10/lc0-training.html?m=1#more</a>

Und bei den 20xxx Nets gab es gerade den dritten und letzten LR-Drop. Sowie den ersten bei den 30xxx Nets. Den 30xxx Net Fortschritt gibt es hier: <a class='ura' href='http://lczero.org/training_run/2'>http://lczero.org/training_run/2</a>

Es wird also interessant zu sehen, ob und wie weit es nun in den nächsten Tagen bei den Nets aufwärts geht.


Hmmm, so wie es momentan läuft, scheint das 30xxx Net schon nach knapp 10 Millionen Partien leicht besser als die 20xxx Netze nach fast 60 Mio Partien zu sein.
Parent - - By Tom Paul Date 2018-11-03 16:28
Stefan Pohl schrieb:

Stefan Pohl schrieb:

Zunächst gibt es einen sehr interessanten und ausführlichen Blogartikel über das NN-Training von Leela:
<a class='ura' href='<a class='ura' href='http://blog.lczero.org/2018/10/lc0-training.html?m=1#more'>http://blog.lczero.org/2018/10/lc0-training.html?m=1#more</a>'>http://blog.lczero.org/2018/10/lc0-training.html?m=1#more</a>

Und bei den 20xxx Nets gab es gerade den dritten und letzten LR-Drop. Sowie den ersten bei den 30xxx Nets. Den 30xxx Net Fortschritt gibt es hier: <a class='ura' href='<a class='ura' href='http://lczero.org/training_run/2'>http://lczero.org/training_run/2</a>'>http://lczero.org/training_run/2</a>

Es wird also interessant zu sehen, ob und wie weit es nun in den nächsten Tagen bei den Nets aufwärts geht.


Hmmm, so wie es momentan läuft, scheint das 30xxx Net schon nach knapp 10 Millionen Partien leicht besser als die 20xxx Netze nach fast 60 Mio Partien zu sein.


4300 ELO bei nur 10 Millionen Partien ist ein Spitzenergebnis.
Damit stehen die Chancen gut sogar das stärkste Network ~4850 ELO zu überholen.
Wahrscheinlichen werden wir aber 30-50 Millionen Partien warten müssen.
Parent - By Martin Steinwandter Date 2018-11-03 16:41
Zitat:
Wahrscheinlichen werden wir aber 30-50 Millionen Partien warten müssen.

Und wenn es  dann  noch nicht reicht warten wir halt auf die nächsten 100 Millionen.
Parent - By Lothar Jung Date 2018-11-03 16:42 Edited 2018-11-03 16:58
4.300 ELO ???
Das sind relative Selfplay-Elos!
Diese sind besonders zwischen den drei NN nicht zu vergleichen.

Ein objektiver Vergleich bietet nur die nachstehende Tabelle auf der Grundlage einer GMX 1080 ti GPU:

https://docs.google.com/spreadsheets/d/1ZAIuHR6n-5JTxKQc0XUSx1jyUrgVEcj8DNLKA7-urBw/htmlview#gid=763519729

Es wird deutlich, daß der jeweilige Abstand zu dem NN 11258 noch sehr groß ist.
Der Abstand beträgt derzeit rd. 250 (NN 22088) bzw. 500 Elo-Punkte (NN 30861), jeweils nach dem letzten LR-Drop!
Parent - By Tom Paul Date 2018-11-04 08:03
Tom Paul schrieb:

Stefan Pohl schrieb:

Stefan Pohl schrieb:

Zunächst gibt es einen sehr interessanten und ausführlichen Blogartikel über das NN-Training von Leela:
<a class='ura' href='<a class='ura' href='<a class='ura' href='http://blog.lczero.org/2018/10/lc0-training.html?m=1#more'>http://blog.lczero.org/2018/10/lc0-training.html?m=1#more</a>'>http://blog.lczero.org/2018/10/lc0-training.html?m=1#more</a>'>http://blog.lczero.org/2018/10/lc0-training.html?m=1#more</a>

Und bei den 20xxx Nets gab es gerade den dritten und letzten LR-Drop. Sowie den ersten bei den 30xxx Nets. Den 30xxx Net Fortschritt gibt es hier: <a class='ura' href='<a class='ura' href='<a class='ura' href='http://lczero.org/training_run/2'>http://lczero.org/training_run/2</a>'>http://lczero.org/training_run/2</a>'>http://lczero.org/training_run/2</a>

Es wird also interessant zu sehen, ob und wie weit es nun in den nächsten Tagen bei den Nets aufwärts geht.


Hmmm, so wie es momentan läuft, scheint das 30xxx Net schon nach knapp 10 Millionen Partien leicht besser als die 20xxx Netze nach fast 60 Mio Partien zu sein.


4300 ELO bei nur 10 Millionen Partien ist ein Spitzenergebnis.
Damit stehen die Chancen gut sogar das stärkste Network ~4850 ELO zu überholen.
Wahrscheinlichen werden wir aber 30-50 Millionen Partien warten müssen.


Es sieht wohl eher nach 4400 ELO bei 10 Millionen Partien aus
Parent - - By Lothar Jung Date 2018-11-04 12:12 Edited 2018-11-04 12:14
Für Dich dürfte vielleicht interessant sein, daß Nvidia jeweils zwei RTX-Modelle einer Mobilversion des 2070 und 2080 angekündigt hat und diese im Januar 2019 auf der CES in Las Vegas vorstellt.
Eine stromsparende und leise Leela in einem Notebook wäre doch was?

https://www.notebookcheck.com/Nvidia-Geforce-RTX-2000-Mobility-Lineup-fuer-Notebooks-geleakt.337990.0.html
Parent - - By Stefan Pohl Date 2018-11-04 12:30
Das ist sehr interessant, vielen Dank für diese Information. Ich finde ja generell die riesigen PC-Klötze nicht mehr zeitgemäß und bin Notebook-Freund. So ein Gerät könnte mich in 2019 schon reizen, mal schauen.
Parent - - By Tom Paul Date 2018-11-04 13:05
Stefan Pohl schrieb:

Das ist sehr interessant, vielen Dank für diese Information. Ich finde ja generell die riesigen PC-Klötze nicht mehr zeitgemäß und bin Notebook-Freund. So ein Gerät könnte mich in 2019 schon reizen, mal schauen.


Verbindest du dein Notebook auch mit einem großem PC Bildschirm oder mit deinem Fernseher um ein großes Bild zu haben?

Du könntest auch ein ITX oder Mini ITX Gehäuse kaufen bzw. einen entsprechend kleinen PC zusammen bauen.
Da passt dann auch ein Threadripper oder Intels top Prozessor rein
und die RTX 2080 mit oder ohne Ti
+ ~64 GB RAM
und beliebig große SSDs
+ top Mainboards zur Auswahl.
Parent - - By Tom Paul Date 2018-11-05 18:09
Die 30 Networks könnten bei der aktuellen Entwicklung extrem stark werden:

http://lczero.org/training_run/2
~ 4550 ELO bei gerade einmal 10,3 Millionen Partien    
Parent - By Lothar Jung Date 2018-11-07 10:21
In diesem kurzen Match hat das NN30953 das NN22144 knapp geschlagen:

https://groups.google.com/forum/m/#!topic/lczero/0ge5OWrqJas
Parent - - By Lothar Jung Date 2018-11-06 10:50 Edited 2018-11-06 10:58
Dieser Test dürfte für Dich von Interesse sein. Er zeigt das die neue Lc0-Version 0.19rc2 gegenüber der Version 0.18.1 bei kurzer TC (1 Minute) auf einer GTX 1060 gegenüber SF9, 2 Threads deutlich besser abschneidet.

https://groups.google.com/forum/m/#!topic/lczero/lpcRB8FmyVk

Vielleicht hätte Leela Lc0 0.19 bei Deinem damaligen Tunier noch besser abgeschnitten?
Parent - - By Peter Martan Date 2018-11-06 11:42
Lothar Jung schrieb:

Vielleicht hätte Leela Lc0 0.19 bei Deinem damaligen Tunier noch besser abgeschnitten?

Hingegen schnitte LC0 0.19 jetzt vielleicht mit Stefans neuem Eröffnungsset wieder schlechter ab?
Parent - - By Stefan Pohl Date 2018-11-06 13:01
Peter Martan schrieb:

Lothar Jung schrieb:

Vielleicht hätte Leela Lc0 0.19 bei Deinem damaligen Tunier noch besser abgeschnitten?

Hingegen schnitte LC0 0.19 jetzt vielleicht mit Stefans neuem Eröffnungsset wieder schlechter ab?


Ich werde mit den Leela-Testruns in absehbarer Zeit wieder starten, momentan ist dieser PC damit beschäftigt, meine neuen Eröffnugsvorgabestellungen zu evaluieren. Das sollte, falls alles glattgeht, bis Mitte des Monats abgeschlossen sein. Ob ich die neuen Eröffnungsstellungen dann für die Leela-Testruns nutze, weiß ich noch nicht. Ob Leela mit diesen Stellungen zurechtkommt, muß man sehen. Bisher nutze ich ja dafür ein 4 Züge flaches Buch aus GM-Partien (kann man ja auf meiner Seite runterladen), die Remisqoute war bei den Leela-Testruns mit 12'+5“ noch erträglich (53%), wenn sie auch, wegen der ansteigenden Spielstärke von Leela in den Testruns tendenziell angestiegen ist.
Generell finde ich, daß jede Engine, die sich im 3000+ Elobereich befindet, auch mit ungewöhnlicheren Eröffnungsvorgaben klarkommen sollte.
Sei es wie es sei, noch gibt es meine neuen Eröffnungsstelllungen ja gar nicht. Laßt mich dieses Projekt erst einmal abschließen und releasen. Dann werde ich mal einen Testrun mit Leela und den neuen Eröffnungsstellungen machen und schauen, was dabei passiert.
Parent - By Peter Martan Date 2018-11-06 16:05
Stefan Pohl schrieb:

Laßt mich dieses Projekt erst einmal abschließen und releasen. Dann werde ich mal einen Testrun mit Leela und den neuen Eröffnungsstellungen machen und schauen, was dabei passiert.

Natürlich, Stefan, gut Ding braucht Weile.
Parent - By Tom Paul Date 2018-11-06 19:04
Stefan Pohl schrieb:

Peter Martan schrieb:

Lothar Jung schrieb:

Vielleicht hätte Leela Lc0 0.19 bei Deinem damaligen Tunier noch besser abgeschnitten?

Hingegen schnitte LC0 0.19 jetzt vielleicht mit Stefans neuem Eröffnungsset wieder schlechter ab?


Ich werde mit den Leela-Testruns in absehbarer Zeit wieder starten, momentan ist dieser PC damit beschäftigt, meine neuen Eröffnugsvorgabestellungen zu evaluieren. Das sollte, falls alles glattgeht, bis Mitte des Monats abgeschlossen sein. Ob ich die neuen Eröffnungsstellungen dann für die Leela-Testruns nutze, weiß ich noch nicht. Ob Leela mit diesen Stellungen zurechtkommt, muß man sehen. Bisher nutze ich ja dafür ein 4 Züge flaches Buch aus GM-Partien (kann man ja auf meiner Seite runterladen), die Remisqoute war bei den Leela-Testruns mit 12'+5“ noch erträglich (53%), wenn sie auch, wegen der ansteigenden Spielstärke von Leela in den Testruns tendenziell angestiegen ist.
Generell finde ich, daß jede Engine, die sich im 3000+ Elobereich befindet, auch mit ungewöhnlicheren Eröffnungsvorgaben klarkommen sollte.
Sei es wie es sei, noch gibt es meine neuen Eröffnungsstelllungen ja gar nicht. Laßt mich dieses Projekt erst einmal abschließen und releasen. Dann werde ich mal einen Testrun mit Leela und den neuen Eröffnungsstellungen machen und schauen, was dabei passiert.


Deshalb wäre eine Schach960 Leela viel stärker als die jetzige Leela.
Up Topic Hauptforen / CSS-Forum / Leela News

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill