Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / LC Zero CUDA 9.2
- - By Stefan Pohl Date 2018-05-22 16:05 Edited 2018-05-22 16:38
Da das Thema in einem anderen Thread ziemlich tief vergraben ist, erlaube ich mir, hier noch mal einen neuen Thread zu diesem Thema zu eröffnen, denn ab sofort sind die neuen Leela Cuda Engineversionen nur noch CUDA 9.2 kompatibel und CUDA 9.0 wird nicht mehr unterstützt. Daher ist das Thema wichtig für alle, die die Cuda-Version von Leela weiterhin nutzen wollen. Was jedem mit entsprechender Nvidia-Grafikkarte dringend zu empfehlen ist, da Leela ca. 4x schneller läuft, als mit der Standard GPU-Version. Es müssen jetzt nämlich 3 neue dll-Files auf der Nvidia-Developer Website organisiert werden. Die alten dll-Files, die für CUDA 9.0 gedacht waren, funktionieren nicht mehr!
Und man muß (wahrscheinlich) auch seinen Nvidia-Grafikkartentreiber aktualisieren. Ich mußte es jedenfalls, vorher lief Leela Cuda 9.2 bei mir nicht. Und den Treiber muß man wirklich installieren, während man CUDA 9.2 ja nicht installieren muß (da reicht ja Entpacken des installers (s.u.)). Heißt also: Seinen Grafikkartentyp auf der Website heraussuchen, Treiber-Installer herunterladen und diesen dann per Doppelklick starten und somit den neuen Treiber installieren. Und keine Angst: Man kann sich sein System damit nicht zerschiessen, da der Installer die Systemkompatibilität überprüft, bevor er den neuen Treiber installiert!

Leela CUDA zum Laufen zu bringen, ist schon ein wenig umständlich. Im Vergleich zu normalen Schach-Engines. Besonders die CUDA-Version. Aber es lohnt unbedingt. Ich beschäftige mich ja nun schon seit 36 Jahren mit Computerschach und kann sagen, so etwas wie Leela gab es noch nie. Der Spielstil ist absolut einzigartig. Abwechselnd beängstigend schlecht und beängstigend gut, möchte ich es mal umschreiben. Und menschlicher als alles, was das Computerschach sonst bisher hervorgebracht hat. Leela spielen zu sehen ist für mich absolut faszinierend. Ich habe nichts dergleichen je gesehen. Am nächsten kam vielleicht noch in der Computerschach-Steinzeit der Mephisto 3 (die Älteren werden sich erinnern), allerdings war der mindestens 1500 Elo schwächer. Zusätzlich faszinierend, daß Leela sich so extrem schnell verbessert und sich dabei gewissermaßen selber an den Haaren aus dem Sumpf zieht, wie Baron Münchhausen, da sie sich ja alles im selfplay selbst beibringt und bei Null begonnen hat (sie wußte nicht mal, daß es besser ist, mehr Figuren zu haben, als weniger, oder daß eine Dame wertvoller als ein Bauer ist, das muß man sich mal auf der Zunge zergehen lassen(!)). Sie kannte nur die Regeln, und wußte, daß Matt-setzen wünschenswert ist und Mattgesetzt zu werden nicht. Und mittlerweile (nach wenigen Monaten) geht Leela auf die 3000 Elo Marke zu. Das ist doch echt der Hammer!

Ich habe daher mein step-by-step manual nochmal umgeschrieben. Man kann es auf meiner Website in der LC Zero-Sektion auch einsehen (http://www.sp-cc.de/long-thinkingtime.htm). Hier nun die aktualisierte Version für CUDA 9.2:

How to run Leela CUDA (should be around 4x faster, than Leela GPU(!)) in Fritz/Shredder GUI:
Important: Leela CUDA needs 3 .dll-files from the NVIDIA-developer-website, otherwise it can not run!
And - of course - you need a NVIDIA CUDA GPU in your PC...

1) Update your Nvidia driver for your GPU to the latest version here: http://www.nvidia.de/Download/index.aspx After that: reboot your PC.
2) Get LC0.exe for the cuDNN version from: https://crem.xyz/lc0/ and unpack it and put it in your Leela CUDA folder.
3) Install CUDA v9.2 from https://developer.nvidia.com/cuda-92-download-archive (you need an account) and get cublas64_92.dll and cudart64_92.dll from the bin directory of CUDA v9.2 and copy it to your Leela CUDA-folder (Alternatively if you don't want to install CUDA, you can just unpack the installer and search in the unpacked folder and files for the .dlls with <Strg>+F in the Windows-Explorer, that was, what I did). Put the 2 files in your Leela CUDA-folder.
4) Get cuDNN for CUDA 9.2 from https://developer.nvidia.com/rdp/cudnn-download (you also need an account for this) and get cudnn64_7.dll from the bin directory of the zip and extract it and put it in your Leela CUDA-folder.
5) Download the latest network from http://lczero.org/networks and unpack it (Leela CUDA will autodetect it in any form either as weights.txt or however it is named) and put it in your Leela CUDA-folder.
6) Create the UCI-Engine in Fritz/Shredder.

Done.

7) I strongly recommend to change the UCI-settings of Leela CUDA to this:

Scale thinking time = 2.500000
FPU reduction = -0.068300
Cpuct MCTS = 3.168000

Why these values? Because FPU reduction and Cpuct were optimized with the CLOP-tool to these values.
And raising Scale thinking time to 2.5 makes Leela moving slower, which means a better use of the game-time.
In my testing, Leela plays definitly stronger with this settings.
Parent - - By Thorsten Czub Date 2018-05-22 17:37
Also sowas tu ich mir nicht an. Entweder eine engine läuft, oder wenn sie es nicht tut, dann ist die engine eben ungeeignet,
Parent - - By Stefan Pohl Date 2018-05-22 17:58
Thorsten Czub schrieb:

Also sowas tu ich mir nicht an. Entweder eine engine läuft, oder wenn sie es nicht tut, dann ist die engine eben ungeeignet,


Leela Cuda läuft doch. Man braucht halt 3 zusätzliche dll-Dateien. Und muß ggf. mal seinen Grafikkartentreiber aktualisieren  (was sowieso keine schlechte Sache ist).
Ich habe heute, als ich mir die CUDA 9.2 dll-Dateien gezogen und meinen Grafikkartentreiber aktualisiert habe, nicht mehr als 15 Minuten gebraucht. Das halte ich für zumutbar. Dafür läuft Leela dann auch 4x schneller. Und gerade bei Leela macht das eine Menge aus!
Aber das muß jeder selbst entscheiden.
Alternativ kann man ja warten, bis auch eine client.exe mit CUDA angeboten wird (für das Network-Learning). Da werden dann die drei benötigten dll-Dateien beiliegen, da Nvidia das wohl freundlicherweise erlaubt hat. Dennoch werden viele Nutzer um das Aktualisieren des Grafikkartentreibers wohl nicht herumkommen.
Parent - - By Thorsten Czub Date 2018-05-22 21:27 Edited 2018-05-22 21:52
Also ich bin immer noch der Meinung das man Bill Gates hätte auf den Mond schießen sollen.
Das hätte für die Menschheit insgesamt mehr gebracht. Wenn ich schon lese : „Windows wird vorbereitet“ bekomme ich Ausschlag.
Von dem Moment an als er uns mit seinen unseligen Betriebssystemen geleimt hat, ging es doch mit der Menschheit bergab.
Ich kann mich noch sehr genau an die wilde Stimmung und das Aufbruch Gefühl erinnern das wir hatten als wir noch nicht allüberall diese lähmenden Microsoft Betriebssysteme hatten. Die Welt war offen für Alternativen.
Heutzutage ist es auf den mobilen Geräten mit iOS und Android ähnlich.

Ich kann dir das gerne erklären. Wenn eine Regierung oder eine Firma über so lange Zeit den Markt und die Menschen beherrscht, dann
Lähmt das.
Ich habe die Regierungszeit Helmut Kohls hinter mir, und ich weiß noch genau wie das Lebensgefühl vor den 16 Jahren kohl war.
Dito ist es bei mir mit Merkel. Ich weiß noch wie es vor Merkel war.
Und in beiden Fällen ist es ganz schlimm für , naja diesmal nicht die Menschheit sondern nur Deutschland.

Ich bin daher was solche Sachen angeht sehr skeptisch.

Computer sollten Menschen , so war damals doch unsere Hoffnung, das Leben erleichtern.
Mit Firmen wie Microsoft geht es aber den anderen weg herum. Seitdem wir Microsoft haben müssen wir uns in die Maschinen hineinversetzen weil unsere Systeme sonst nicht laufen. Was damit zu tun hat das der Mensch Bill Gates , und das war er schon damals, absolut unfähig war ein Produkt auf den Markt zu bringen das funktioniert wie es soll.
Also damals hat ihm das auch manchmal noch jemand gesagt. Und zwar in einem Ton der angebracht war. Steve Jobs z.B.

Heute verbringen wir einen Großteil der Zeit damit Systeme wieder zu warten die eigentlich uns Lebenszeit hätten beschaffen, nicht verbrennen sollen.
Parent - - By guest171218 Date 2018-05-23 09:31 Upvotes 1
Zitat:
"Heute verbringen wir einen Großteil der Zeit damit Systeme wieder zu warten
die eigentlich uns Lebenszeit hätten beschaffen, nicht verbrennen sollen."


Hallo,

also dem kann ich gar nicht zustimmen! mir spart mein rechner
sehr viel zeit ohne daß ich großartig eingreifen muß, da sich
das betriebssystem (windows 10) quasi von selbst wartet.
beispiel: für die einkommenssteuererklärung habe ich früher,
als noch alles per hand ausgefüllt werden mußte, das dreifache
an zeit benötigt. auch der gang zur post bleibt mir nun erspart,
stichwort email und datenübermittelung. ein knopfdruck genügt
und alle daten sind in diesem beispiel beim finanzamt.
weiteres beispiel: meine haussteuerung erledigt heute dinge für
welche ich früher mindestens 2 stunden in der woche verbraten
habe. einmal eingestellt kann ich die steuerung der heizung,
der alarmanlage, der beleuchtung, der bewässerung des gartens
und viele weitere sachen dem pc überlassen! oder man denke an
onlinebanking u.s.w.

Gruß MiKa.
Parent - - By Thorsten Czub Date 2018-05-23 12:21
Zitat:
da sich
das betriebssystem (windows 10) quasi von selbst wartet


Das einzige was es bei mir macht ist ungefragt irgendwelchen Werbemist einzublenden und mir nach dem hochfahren irgendwelche dämlichen Bilder zu zeigen die ich vielleicht auch noch gut finden soll.
Das ist ungefähr so als ob du mit deinem Auto unterwegs bist und das Dingen erst mal bevor du losfahren kannst eine Werbung von
Uber oder Autoscout oder rent a car präsentiert und du erst nach 2 Minuten losfahren kannst.

Sorry aber ich möchte einmal in meinem Leben Bill Gates begegnen und dann werde ich ihm entsprechend meinen Dank aussprechen für diese Verschwendung von Ressourcen.
Der Typ hat sich ein Imperium zusammengeklaut und missbraucht sein Monopol.
Er blendet ungefragt Werbung ein und spielt unaufgefordert Updates auf irgendwelche Systeme.
alles eindeutige Zeichen für unethisches verhalten.
Parent - By Thomas Müller Date 2018-05-23 13:36
Zitat:
Das einzige was es bei mir macht ist ungefragt irgendwelchen Werbemist einzublenden und mir nach dem hochfahren irgendwelche dämlichen Bilder zu zeigen die ich vielleicht auch noch gut finden soll.


dann deaktiviere es doch einfach
Parent - - By guest171218 Date 2018-05-23 15:04
Hallo,

das klingt wirklich nicht gut. ich bekomme keinerlei werbung
oder bilder angezeigt wenn ich meinen windows 10 pc anschalte.
eventuell sollte ein fachmann ihren pc unter die lupe nehmen?

Gruß MiKa.
Parent - - By Thorsten Czub Date 2018-05-23 18:14
Das hat nichts mit meinem System speziell zu tun. Das ist ein Feature von Windows von Bill Gates.
Parent - By guest171218 Date 2018-05-24 09:56
Hallo,

dann habe ich dieses feature nicht oder aber unbewußt deaktiviert.
ehrlich gesagt kann ich darauf auch gut verzichten! bilder und
werbung beim start des pcs braucht es nun wirklich nicht. ich
werde bei gelegenheit mal einen profi fragen ob das normal ist.
weder auf meinem ryzen noch auf meinem tablet, jeweils mit
windows 10, habe ich solch ein verhalten bisher feststellen können!

Gruß MiKa.
Parent - - By Peter Martan Date 2018-05-23 11:24 Edited 2018-05-23 11:31
Das holt mich vorübergehend aus dem Exil zurück, Thorsten!

Du schreibst mir aber schon sowas aus der Seele, aber weißt du, es nützt nichts, wir sind dem "Fortschritt" ausgeliefert.

Thorsten Czub schrieb:

Heute verbringen wir einen Großteil der Zeit damit Systeme wieder zu warten die eigentlich uns Lebenszeit hätten beschaffen, nicht verbrennen sollen.
Und das war aber auch immer so, zumindest so lange ich denken kann.

Man hat's früher nicht so wahrgenommen, dass man von einem Auto, einem Elektroherd, einem Radio und einem Telefon abhängig war, später dann vom "Computer" und vom Internet.

Je mehr diese Dinge werden, und je mehr sie uns Arbeit abnehmen (was ökonomisch gesehen natürlich nicht nur gut ist, auch biologisch gesehen nicht, und ökologisch schon gar nicht), um so mehr wüssen wir in die Systemerhaltung Zeit und Kraft und Geld investieren.

So lange uns die Blechis der verschiedensten Arten nicht das Denken in Dingen abnehmen, über die wir uns selber nachzudenken einfach nicht abgewöhnen sollten, ist alles in Ordnung.

Letzten Endes lassen wir uns ja von anderen Menschen, Wissenschaftlern, Politikern und Fachleuten der verschiedensten Arten (zu denen die Politiker aber eben in jedem andere Gebiet als der Politik in aller Regel genau nicht gehören) das Denken oft und weit genug auch willfährig abnehmen.

Ob der Unterschied dazu, dass wir uns das jetzt auch mehr und mehr von "AI" gefallen lassen, wirklich so groß ist?

Und ohne das Urteil und das Wissen von Fachleuten, was willst du denn heutzutage außerhalb deines eigenen kleinen Wissensbereiches noch wirklich selbstständig entscheiden?

Drum bin ich Stefan Pohl für seine News und seine Anleitungen sehr wohl auch dankbar, je mehr ich da von ihm lese, desto sicherer bin ich allerdings, dass ich, wenn ich dann eine ordentliche neue Graphikkarte für etwas LC0-artiges doch auch irgendwann werde brauchen, dass ich mir die dann sicher auch nicht allein aussuchen werde in der Kaufentscheidung, und ich werde sie mir sicher auch nicht in Eigenregie allein installieren und Leela- (wenn's dann nicht eh schon wieder eine anderes ähnliches Programm sein wird) optimieren.

Was das LC0- Programm angeht, ist ja die cuDNN-  Version davon ohnehin auch schon irgendwie ein Branch, wenn man so sagen will?

Die brave new world besteht eben nun einmal aus immer mehr Abhängigkeit von immer mehr Netzwerken, ob es tröstlich ist, dass innerhalb derer (den Networks, müssen gar keine neuronals sein ) die einzelnen Spezialisten auch immer weniger als Einzelne für sich allein können, nicht entscheiden, nicht systemerhalten, nicht verkaufen und nicht forschen, das ist die Frage, die aber eigentlich auch ohne "therapeutische Konsequenz" ist.

Was man für sich selbst entscheiden sollte können möglichst weitgehend weiterhin, das ist, was einem das eigene Geld, die eigene Zeit und die eigene Anstrengung wert ist, und das möglichst im Zusammenhang mit den anderen Leuten gemeinsam, die einem als Fachleute oder einfach als Personen wichtig sind.

Dann wird man die Abhängigkeit von Maschinen, Netzwerken, Verkaufsargumenten und Fachleuten (oder auch Familienmitgliedern ) schon so lange in den Griff bekommen, bis man halt vielleicht irgendwann doch sowieso von Gesetz wegen einen Sachwalter wird brauchen, weil man nicht mehr selbst geschäftsfähig sein wird oder einen Arzt, der für einen entscheidet, ob die Herzlungenmaschine noch weiter am Netz bleibt oder abgesteckt wird.
Parent - - By Thorsten Czub Date 2018-05-23 12:07 Edited 2018-05-23 12:45
Ich denke die Leute werden aus ihrer Abhängigkeit von diesem Elektroschrott erwachen wenn wir mal einen landesweiten Stromausfall haben und sie feststellen das sie ihren China scheiss nicht fressen und trinken können.

Wir kennen diese Leute doch. Sie laufen draußen herum und starren auf ihr Handy statt auf die Erde oder in die Natur.
Sie kommunizieren ohne zu sprechen. Sie machen das auch auf dem Handy oder im Auto
Starren auf diese Handys ohne die Welt wahrzunehmen.
Sie fahren nach navi und geht das kaputt wissen sie gar nicht mehr was sie machen sollen,
Parent - - By guest171218 Date 2018-05-23 16:22
Hallo,

irgendwie bekomme ich das alles nicht unter den hut.
hier schreiben sie:
(Zitate) "Elektroschrott", "China scheiss".


und dort:
http://www.talkchess.com/forum3/viewtopic.php?f=2&t=43212
zeigen sie wie viele dieser geräte sie selbst besitzen
und auch verwenden.
wie passt das zusammen?

Gruß MiKa.
Parent - - By Klaus S. Date 2018-05-23 17:37
Genau das kam mir beim Lesen auch schon in den Sinn.
Parent - - By Thorsten Czub Date 2018-05-23 18:16
Ich besitze die Geräte nicht, ich teste nur wie schnell sie sind und ob man sie für computerschach gebrauchen kann, das ist ein kostenfreier Service.
Parent - By guest171218 Date 2018-05-23 21:54
Hallo,

das erklärt alles, vielen dank für diesen service.
ich schaue dort öfters rein, früher in den alten
thread, und nun auch in den aktuellen!

Gruß MiKa.
Parent - - By Timo Haupt Date 2018-05-22 17:56 Upvotes 1
Hallo Stefan,

auch von meiner Seite ein "Herzliches Dankeschön" für dein Engagement hier im Forum, sei es bzgl. der wirklich gelungenen SALC-Eröffnungen (wir verwenden diese u.a. für unsere Ginkgo Parameter-Optimierungen) oder seit neuestem auch bzgl. deiner Berichterstattung inkl. der verständlichen Anleitungen, wie man Leela in allen möglichen Varianten unter verschiedenen GUIs zum Laufen bringt! Das ist für mich sehr wertvoll, da ich leider nicht mehr die Zeit habe, all das Geschehen im LCZero-Forum, bei Talkchess usw. nachzulesen. Deshalb bin ich dir sehr dankbar, dass du hier im Forum regelmäßig die News zu Leela veröffentlichst und beschreibst, wie man sinnvoll optimieren kann. Gerade die Einrichtung mit CUDA ist ja nicht ganz einfach, deshalb denke ich, dass ohne deine Anleitungen 90% der Anwender aus Frust aufgeben würden. Dank deiner Vorarbeit ist es jedoch möglich, dass alle Leser hier im Forum in den Genuss kommen, LCZero in seiner aktuell schnellsten Ausbaustufe zu Hause ausprobieren zu können - einfach Spitze!

Ich hoffe, dass dich Postings wie dieses dazu motivieren weiterzumachen, damit wir auch weiterhin die Leela-News sinnvoll gefiltert und auf das Wesentliche reduziert von dir zu lesen bekommen. Ich stimme dir zu, dass Leela das interessanteste Projekt im Computerschach-Bereich seit vielen Jahren ist. Vor ein paar Monaten (vor AlphaZero, welcher den Stein ins Rollen gebracht hat) dachten wir hier noch alle, dass unser Hobby langsam aber sicher "ausblutet", aber nun ist wirklich wieder frischer Wind drin. Es wird sehr spannend sein zu sehen, wann LCZeros "Lernkurve" sich so stark abflacht, dass kaum noch ein Spielstärkezuwachs zu verzeichnen ist. Ich hätte damit gerechnet, dass dies schon weit vor ca. 3000 CEGT-Elo passieren würde. Doch danach sieht es ja erst einmal nicht aus, wenn jetzt schon ein Gegner wie Houdini 1.5a in den Fokus rückt und Leela ein Match mit diesem fast ausgeglichen gestalten kann.

Viele Grüße
Timo

P.S.: Ich bin mit dem (Grid-)Ginkgo Team dieses Jahr bei der ICGA-WM in Stockholm dabei. Möglicherweise ist dies das letzte Mal, dass ein Programm mit "klassischem Ansatz" Weltmeister wird - wobei man sich bei Komodo ja nicht sicher sein kann, ob nicht ggf. schon ein Hybrid aus Alpha-Beta- und MCTS-Suche spielen wird (wer weiß schon, was das Team hinter verschlossenen Türen alles noch ausgetüftelt hat). Wenn noch andere Entwickler den Ansatz von LCZero aufgreifen, dann wird im nächsten Jahr möglicherweise ein "KI-Programm" den Weltmeister-Titel gewinnen. Auch für dieses Jahr würde ich mir schon wünschen, dass sich jemand aus dem LCZero-Team noch für die WM anmeldet - denn mit der jetzt schon erreichten Spielstärke muss man sich keinesfalls verstecken. Außerdem sind es ja noch ein paar Wochen bis die Veranstaltung beginnt - falls sich die Lernkurve jetzt nicht extrem abflacht, könnten noch mal weitere 3-stellige Elozuwächse hinzukommen und dann wird es schon gefährlich für die anderen Teilnehmer...
Parent - By Stefan Pohl Date 2018-05-22 18:07 Edited 2018-05-22 18:12 Upvotes 1
Danke!

Dir viel Spaß und Erfolg bei der WM.
Ich stimme dir zu, auch ich hätte nicht gedacht, daß Leela auf einer normalen Grafikkarte laufend, so weit nach oben kommt. Ich dachte, die limitierte Hardware würde die Taktik so schwach bleiben lassen, daß 3000 Elo Engines Leela zu Hackfleisch verarbeiten (Leela hat auch als CUDA-Version immer noch Mühe, 4-5 zügige Matts zu sehen(!)).
So kann man sich täuschen. Aber es ist doch fabelhaft, daß dieses tolle Projekt selbst alte Hasen wie mich noch so überraschen kann! Das belebt das Computerschach ungemein. Und der Spielstil von Leela ist auch noch toll und einzigartig. Besser gehts doch nicht.

Grüße - Stefan

PS: Schön, daß ihr meine SALC-Eröffnungen fürs Parametertuning benutzt. Eigentlich wollte ich primär den Spaß- und Spannungsfaktor im High-End-Computerschach erhöhen. Daher freut mich so eine “ernsthafte“ Nutzung von SALC ganz besonders.
Parent - By Thomas Plaschke Date 2018-05-22 18:10 Upvotes 2
Ich schließe mich Timo's Lob an. Ich trainiere zwar gerne das LCZero-NN, möchte andererseits aber die Zahl meiner "Registrierungen" im Internet möglichst gering halten, um den Überblick nicht zu verlieren. Dabei riskiere ich natürlich im Allgemeinen, bei wichtigen Dingen den Anschluss zu verlieren.
Bezüglich LCZero kann ich mich aber darauf verlassen, dass Stefan Pohl von den Meilensteinen und Eckpunkten der Entwicklung berichtet. Dafür noch einmal schönen Dank!

Viele Grüße
Th. Plaschke
Parent - - By Lothar Jung Date 2018-05-23 10:44
Guten Morgen Stefan!

Hier noch 3 Tips unseren Notebook für LCZero noch ein bisschen schneller zu machen:

1. Overclocking, ich habe die 960m mit MSI Afterburner, den Core mit 135 MHz und den Speicher um 500 MHz leicht übertakted.

2. Ausschließliche Verwendung der Intel HD-Grafik für die Bildschirmausgabe (sonst wir für die Bildschirmausgabe auch die 960m benutzt und LCZero muss sich die GPU teilen).

3. Ausführung von LCZero unter Linux. Leela GO soll unter Linux schneller als unter Windows laufen.

Viele Grüße

Lothar Jung
Parent - - By Stefan Pohl Date 2018-05-23 12:02
Danke für diese Tipps. Da meine Rechner fast im Dauerbetrieb (über Jahre) laufen, mache ich kein overclocking. Die paar Prozent, die das bringt, ist mir die erhöhte Belastung, auch mit Wärme, nicht wert.
Und mit Linux hab ich keinerlei Erfahrung, sorry.
Aber Punkt 2 klingt interessant. Kannst du kurz erklären, wie du das machst?

Aber deine Tipps sind für andere Nutzer sicher interessant und wertvoll!

Grüße - Stefan
Parent - - By Stefan Pohl Date 2018-05-23 14:14
Habe über die Nvidia Systemsteuerung umgeschaltet, also alle Grafikoperationen auf der Nvidia-Karte abgeschaltet. Aber der Effekt ist gleich Null. Leela Cuda wird dadurch nicht schneller. Was irgendwie auch einleuchtet, denn solange nur die FritzGUI läuft, hat die GPU ja praktisch nichts zu tun, schon gar keine 3D-Operationen.
War einen Versuch wert.
Parent - - By Lothar Jung Date 2018-05-28 13:12
Hallo Stefan!

Wie sieht es mit Deinen - von mir mit Spannung erwarteten - LC0-Tunier aus?

Viele Grüße

Lothar
Parent - - By Stefan Pohl Date 2018-05-28 14:27
Lothar Jung schrieb:

Hallo Stefan!

Wie sieht es mit Deinen - von mir mit Spannung erwarteten - LC0-Tunier aus?

Viele Grüße

Lothar


Höchstwahrscheinlich sind morgen die 300 Partien durch. Ich hoffe, daß ich auch morgen noch das Ergebnis in meine Website einarbeiten kann. Ohne Gewähr...

Momentan hat Leela Cuda gut 40% Erfolgsscore, also so ca. 2930 Elo-Performance.
Parent - - By Stefan Pohl Date 2018-05-29 17:26 Edited 2018-05-29 17:36 Upvotes 3
So, der Testrun bzw. das 300 Partien long thinking-time Turnier (12'+5'') mit LC Zero CUDA (180521) Net 322 ist nun durch. Ergebnis + Partiendownload sind online.

https://www.sp-cc.de

Elo-performance von Leela gegen die 10 Gegnerengines mit einem CEGT-Eloschnitt von 3000: 42%, also 2944 Elo (laut Elotabelle).

LC0 Cuda(180521) N 322 (size: 15x192)(date: 180520): 300 (+ 68,=116,-116)
42.0 % (opponent-Elo: 3000) Elo-performance: 2944

Damit ist es wohl nun so, daß Leela Cuda auf einem ganz normalen 900€-Notebook, mit langweiliger mobile-Grafikkarte (Nvidia Cuda Gforce GTX 950M), so stark geworden ist, daß sich selbst die allerstärksten Menschen wohl sehr warm anziehen müssen.

Zum Vergleich: dies war das letzte Ergebnis der "normalen" GPU-Leela von vor 2 Wochen:

lczero v0.8 (GPU) N 251 (size: 15x192)(date: 180505): 320 (+164,= 73,- 83)
62.7 % (opponent-Elo: 2524) Elo-performance: 2614

Leela Cuda spielt ja bei mir mit drei Parameter-Änderungen, die ein User per CLOP-tuning ermittelt hat (wobei ich Scale thinking time etwas gesenkt habe)
FPU reduction = -0.068300
Cpuct MCTS = 3.168000
Scale thinking time = 2.500000

Um festzustellen, wieviel dieses Setting ausmacht (positiv (hoffentlich...)) spiele ich gerade auf meinem Reserve-Notebook zwei Gauntlets, nämlich einmal Leela Cuda mit default-settings und einmal mit diesen Spezial-Settings jeweils gegen Komodo 5, mit 5'+3'' Bedenkzeit. Je 250 Partien (also 500 Partien insgesamt). Nach momentan je 50 gespielten Partien liegt das Spezial-Setting knapp unter +30 Elo besser. Das ist natürlich noch ein recht früher Zwischenstand. Aber es scheint so, daß das Spezial-Setting im praktischen Spiel wirklich etwas bringt. Das Endergebnis werde ich dann voraussichtlich nächste Woche auf der "Experiments"-Unterseite bekanntgeben.
Parent - By Lothar Jung Date 2018-05-29 21:01
Hallo Stefan,
vielen herzlichen Dank für Deine Erkenntnisse und Arbeit.
Die erzielte Elowertung ist auf Deiner Hardware sehr erfreulich und gleichzeitig erstaunlich.
Die Abschlussergebnisse von LCZero und andere MI-Projekte sowie die Entwicklung zukünftiger GPU-Versionen werden uns wieder/noch in Erstaunen versetzen.

Liebe Grüße

Lothar
Parent - - By Michael Scheidl Date 2018-05-30 17:26
Danke sehr für Dein großartiges, informatives Engagenment in dieser Sache. Eine GTX 950M hat, wenn ich meinen Recherchen trauen darf, 128 ALus (Arithmetisch-logische Einheiten). Die Datenblätter die man auf Wikipedia (en/de) findet sind kompliziert und führen oft die Anzahl der ALUs gar nicht an. Ob sie wie die GPU getaktet sind - 950M 914 MHz - oder nicht, weiß ich nicht.

Entscheidend ist jedoch, ob es die Anzahl der ALUs ist welche performance-entscheidend für LC0 ist, neben deren Taktfrequenz natürlich. Ich nehme es an, habe aber dafür keine Bestätigung. Ich darf mir schmeicheln daß ich vor einem Jahr ein Notebook mit einer GTX 1050 erwarb - ohne damals im Entferntesten an eine Schachanwendung dafür zu denken - die 640 ALUs hat und mit 1354 MHz läuft...

Aber die LC0-Entwicklung ist für meinen Geschmack noch zu sehr in heftiger Bewegung, weiters hätte ich gerne eine plug-and-play Installation wie bei jeder normalen Engine wo ich nicht viele Zusatzinfos einholen muß, irgendwas benchmarken oder rumeditieren muß. Da hab ich leider eine altersbedingte Hemmschwelle denn Zeit ist Gold.
Parent - - By Stefan Pohl Date 2018-05-30 17:59 Edited 2018-05-30 18:03
Meine Notebooks habe ich ausschließlich fürs Computerschach gekauft, die Grafikkarte war für mich überhaupt kein Thema... insofern kann ich von Glück sagen, daß sie wenigstens Cuda-kompatibel ist. Aber dennoch ist sie natürlich eher langsam. Daher teste ich Leela auch nur mit längerer Bedenkzeit (12'+5“), denn bei wirklich kurzen Bedenkzeiten ist der Spielstärkeabfall einer so hochselektiv operierenden Engine, auf einem relativ langsamen System wie meinem, doch sehr heftig.
Da meine drei Notebooks aber alle noch recht neu sind, kaufe ich jetzt nicht wegen Leela wieder neue mit schnellerer Grafikkarte. Das sehe ich nicht ein und erstmal will ich auch abwarten, wie sich das ganze Leelaprojekt weiterentwickelt. Es ist eben alles noch sehr neu.
Parent - - By Lothar Jung Date 2018-05-30 18:07
Hier kannst Du die einzelnen Grafikkarten umfangreich vergleichen:

https://compubench.com/result.jsp

Viele Grüße

Lothar
Parent - - By Michael Scheidl Date 2018-05-30 23:32
Nein, ich glaube nicht daß "mPixels/s" relevant für das sind was wir hier besprechen. Es geht hier um keine Grafikleistung sondern um eine künstliche Schachintelligenz.
Parent - - By Thomas Zipproth Date 2018-05-31 11:27 Upvotes 2
Dieser Benchmark sollte die Eignung für Schach halbwegs korrekt abbilden:
https://browser.geekbench.com/cuda-benchmarks
Parent - - By Peter Martan Date 2018-05-31 11:46 Edited 2018-05-31 11:49
Danke, Thomas!
Was macht Sirius?
Wenn der Cerebellum- Algorithmus einmal Engine- unabhängig funktionieren wird, spricht etwas dagegen, dann auch auch LC0 einzubinden?
Wenn schon nicht gleich um die Eröffnungstheorie völlig neu zu schreiben, dann wenigstens um gute (Anti)-LC0-Cerebellum-Bücher zu erstellen?
Parent - By Thomas Zipproth Date 2018-06-25 00:35 Upvotes 1
Mußte die Arbeit an Sirius (abgesehen von den Berechnungen) leider für ein paar Monate unterbrechen, vorraussichtlich kann ich im August wieder weitermachen.
Der Cerebellum Algorithmus ist Engine unabhängig, man könnte also ohne weiteres auch LCO verwenden.

Aus heutiger Sicht wäre es vielleicht eine interessante Idee, LC0 dort wo Stockfish nur geringe Unterschiede bei den besten Zügen sieht die Auswahl zu überlassen.
Damit würde man sich auch eine Menge Rechenzeit sparen.

Sobald ich meine neue Grafikkarte habe (ich warte auf eine GTX 1180) werd ich mal testweise ein kleines Cerebellum-LC0 Buch berechnen, um zu sehen welchen Varianten LC0 bevorzugt.

Thomas
Parent - - By Guenter Stertenbrink Date 2018-06-25 10:08 Edited 2018-06-25 10:13
ich hab mal die evals der letzten 10*2*45 Partien extrahiert aus Stefan's Datei Leela-all.pgn .
http://magictour.free.fr/leela4.eva
und dann die eval-Durchschnitt-charts geplottet :
http://magictour.free.fr/lee2g.GIF

Leela denkt sie baut stetig einen Vorteil auf bis Zug ca. 25
Die gegnerischen engines sehen das in der Regel nicht so.
Ausser vielleicht in den Partien mit Weiss gegen Texel und Nirvana mit Schwarz gegen Houdini.

Danach sinkt Leela's eval meist, aber nicht wegen der viel zitierten Endspielschwaeche,
sondern weil die eval vorher einfach zu optimistisch war.

Die Endspielschwaeche ist kaum zu sehen, ausser evtl. in den Partien mit
Weiss gegen Stockfish,Protektor und mit Schwarz gegen Critter
Parent - By Stefan Pohl Date 2018-06-25 13:59
Guenter Stertenbrink schrieb:

ich hab mal die evals der letzten 10*2*45 Partien extrahiert aus Stefan's Datei Leela-all.pgn .
<a class='ura' href='http://magictour.free.fr/leela4.eva'>http://magictour.free.fr/leela4.eva</a>
und dann die eval-Durchschnitt-charts geplottet :
<a class='ura' href='http://magictour.free.fr/lee2g.GIF'>http://magictour.free.fr/lee2g.GIF</a>

Leela denkt sie baut stetig einen Vorteil auf bis Zug ca. 25
Die gegnerischen engines sehen das in der Regel nicht so.
Ausser vielleicht in den Partien mit Weiss gegen Texel und Nirvana mit Schwarz gegen Houdini.

Danach sinkt Leela's eval meist, aber nicht wegen der viel zitierten Endspielschwaeche,
sondern weil die eval vorher einfach zu optimistisch war.

Die Endspielschwaeche ist kaum zu sehen, ausser evtl. in den Partien mit
Weiss gegen Stockfish,Protektor und mit Schwarz gegen Critter


Da hast du Recht. Das Endspiel ist mittlerweile nicht mehr so desaströs, wie noch vor einiger Zeit. Die überoptimistischen Bewertungen von Leela führen auch manches Mal in die Katastrophe, nämlich dann, wenn eine Stellung mit starrer Bauernstruktur und etlichen Figuren auf dem Brett eigentlich totremis ist. Leela aber glaubt, deutlich besser zu stehen und bricht dann kurz vor dem 50-Zug-Remis die Stellung auf und verliert dann recht zügig. Das sieht man immer wieder.

Stefan
Up Topic Hauptforen / CSS-Forum / LC Zero CUDA 9.2

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill