Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / Komodo / Stockfish auf 72-Core-Server
- - By Deep Moisture Bodylotion Date 2015-10-18 17:55 Upvotes 1
Hallöle,

habe zur Zeit Zugriff auf einen schnellen Server: Einen 4 x E7-8890 v3 mit 72 cores (4 x 18) mit 256 GB RAM. Turbo-Boost ist enabled und läuft so auf allen Cores gleichzeitig mit 2,9 GHz.

Am Anfang war das ziemlich enttäuschend, da unter "Windows Server 2012" von Komodo/Stockfish nur 36 Core erkannt wurden, da nur zwei NUMA-Nodes liefen (im Task Manager und Resource-Manager zu sehen)- die anderen beiden waren tot. Wir haben alles Mögliche probiert, bis wir auf den simplen Umstand kamen, dass unter oben genanntem OS nur 64 physikalische CPU/Cores genutzt werden können. Warum dann aber zwei NUMA-Nodes quasi komplett brachlagen? Keine Ahnung. Wurden im BIOS einige Cores abgestellt, kamen wir immerhin auf 44 Cores.

Jetzt haben wir durch Einrichten mit Hyper-V immerhin 64 Cores geschafft mit allen physikalischen Resourcen. Dieser virtuelle Kram (HT, usw.) ist ja für Schach nicht besonders nützlich, hier scheint es aber zu funktionieren.

In der Startstellung sind bei Komodo so ca. 67.000 kn/s drin und bei der neuesten Develop Stockfish so ca. 48.000 kn/s. Allerdings nicht nach 1 sek, man muss schon ein bisschen warten.
Komodo scheint mit 64 Cores deutlich besser zu skalieren als Stockfish (kn/s und depth)

Nach ein paar weiteren Tests werde ich wohl doch auf Linux umsteigen. Auch wenn ich mich damit nicht auskenne, verspreche ich mir davon die Ausnutzung aller 72 Cores und noch ein zusätzliches Plus. Die Komodo-Leute sagten mir, unter Linux ginge es noch ein bisschen fixer zu Sache.

Welche GUI ist unter Linux empfehlenswert? Scid vs PC habe ich schon mal unter Windows ausprobiert. Ich weiß auch, dass man unter Arena eine Remote-Engine einrichten kann - wenn man das denn kann... Aber ich würde auch gerne zwischen Engines wechseln, bzw. sie gegeneinander spielen lassen können. Wenn mir jemand die Scheu vor Linux nehmen könnte, wäre ich dankbar.
Kann man Schachdinge installieren ohne Befehle eintippen zu müssen?

Falls jemand über geeignete Stellungstests verfügt, die man mal über die Kiste jagen könnte oder andere Anregungen/Wünsche hat: Her damit Hab den Server noch eine ganze Weile im Zugriff.

Gruß
Parent - - By Benno Hartwig Date 2015-10-19 08:00

> habe zur Zeit Zugriff auf einen schnellen Server: Einen 4 x E7-8890 v3 mit 72 cores (4 x 18) mit 256 GB RAM.


Wie kommt man denn für Computerschach an solch einen Zugriff?
Haben die Eigner auch noch mehr zu verschenken?
Benno
Parent - By Thomas Müller Date 2015-10-19 08:48

um die zahl mal hervor zu heben...
Ein prozessor kostet ca. € 7.500.-  x4 plus das Board (schätze > € 1000.-) und RAM/Platten usw.
Tolle Kiste für schlappe € 50.000.- ?!? 

gruß
thomas
Parent - - By Deep Moisture Bodylotion Date 2015-10-19 21:15 Upvotes 1
Das war schon Aufwand. Ich schaue schon seit Jahren immer mal wieder nach Rechenpower im Netz, die man remote mieten kann. Mit Softlayer aus den USA hatte ich dann endlich einen Anbieter gefunden, der auch stundenweise vermietet. Ohne initiale Kosten oder irgendwelchen versteckten Gebühren - Vorlaufzeit so 1-2 Stunden. Das Schnellste, was da zur Zeit stundenweise geht, ist ein 2 x E5-2690 v3 mit 24 Cores. Da steht zwar bei "hourly" immer nur der E5-2690 (ohne v3 und nur 16 Core), wenn man aber London oder Melbourne als Serverstandort anklickt, kriegt man immer den Schnelleren Kosten sind gut 2 Dollar pro Stunde. Den Server hat man dann komplett, also "dedicated" für sich allein, inkl. aller Resourcen. Man kann sogar booten und minutengenau canceln.

Kriege ich jetzt hier einen auf den Deckel, weil ich Werbung mache? Ist nicht meine Absicht. Ich habe nichts mit solchen Firmen am Hut und es gibt auch andere. Amazon EC2, XLHost, CPU 24/7, um nur einige zu nennen. Und weil ich offensichtlich leicht abgerastet bin, halte ich von Zeit zu Zeit auch Ausschau nach so richtig schnellen Dingern.

Der 72-Core war dann mehr ein Zufall, weil der gar nicht im Standardangebot der Firma (nicht eine der aufgezählten) ist. Macht ja auch für so ´ne Firma kaum Sinn, sich so ein Ding dahin zu legen. Zu teuer, zu viel Stromverbrauch, zu schneller Wertverlust usw. Und wohl auch zu wenig Anwendungsgebiete, aber davon verstehe ich beinahe nichts.

Jo. Und so kam es dann, dass ich einfach mal unverbindlich angefragt habe, so wie ich es schon dutzende Male tat. Die hielten das anfangs, wie alle, für eher schräg. Das mag mit meinem holprigen Englisch zu tun haben, wohl aber auch damit, dass ich als Privatperson und ausschließlich für Schachzwecke anfrage... Na ja, jedenfalls kamen die mir kostenmäßig sehr entgegen - weniger mit dem Preis, sondern eher mit der Mietdauer. Und so habe ich das Ding jetzt für vier Monate.

Ich bin mir bewusst, dass die Maschine auch nicht anders Schach spielt als ein normaler PC, sondern eben nur die Züge schneller findet Was kann es für Ansätze oder Anreize geben, Spaß daran zu entwickeln? Die einen haben Freude daran, Engineturniere zu veranstalten und herauszubekommen, welche Engine die beste ist, die größten Fortschritte macht oder am "interessantesten" spielt. Der angenehme Zeitgenosse Clemens Keck hat meines Wissens z. B. daran Spaß und damit einhergehend auch Vergnügen an großen Kisten) Das kann ich gut nachvollziehen. Andere (wenige) hier im Forum halten das vielleicht für sinnentleert. Wieder andere wollen im Maschinenraum der King sein - das fand ich vor 10 Jahren auch mal geil, hat aber trotz schneller Kisten nie geklappt. Wieder andere spielen Freestyle-Schach und sehen mehr den Wettkampf, in einer oder zwei Stunden, das (derzeit) bestmögliche Schach zu spielen.

Bei mir ist es ein wenig von Allem. Und die technische Neugier, wie das mit dem Skalieren ist. Ist ja schön und gut: kn/s, depth, benchmarks, Teststellungen, Elozuwachs. Ist schwierig. Wie hängt was mit wem zusammen? Was da in den Foren steht, mannomann. Aber eben auch interessant.

Kleines Beispiel:
Der Stockfish-Benchmark von Sedat Canbaz. Teststellung, GUI, Zeit, Hash, Engine - alles vorgegeben. Wenn die Engine Dg4 ausführt, solle man die kn/s notieren. SMP lässt grüßen, bei mir will der Server mit richtig hohen kn/s Dc5 ziehen. Das kriege ich mit halb so schnellen Rechnern mit doppelter Rechenzeit nicht hin.

Meine Güte, ich will nicht so viel sülzen... Ich mache aber mehr Absätze als Peter Martan!!

Hier noch ein Bildchen, wie sich die Komodo-Rechentiefe bei der Startstellung verhält. Wie schon erwähnt, ich lasse vermutlich auf Linux umrüsten. Es ist mir einiges nicht geheuer. Ich vermute mal, das hat mit den "bottlenecks" im RAM zu tun. Bei 4 Sockeln kommt sich schnell was in die Quere. Übrigens hat das Komodo-Team eine nette E-Mail geschrieben. Ich hatte sie gefragt, warum ihr Sch...-Programm nicht läuft auf der tollen Maschine. Die haben nett und schnell reagiert und schrieben zuletzt das:

65 million nps on the start position. That is the fastest I have ever seen for Komodo on the start position.
Might I ask where you rented the machine and how much. We should check consider that for big matches!




Schachliche Grüße

PS: Dazu etwas aus "Wer wird Millionär"

Bei Frage zwölf geriet Caroline dann ins Straucheln: "Wobei handelt es sich um eine gängige Schlussformel in der Korrespondenz bestimmter Freizeitsportler?" A: Mit golfischen Grüßen, B: Mit schachlichen Grüßen, C: Mit anglischen Grüßen, D: Mit skatischen Grüßen. Die Kandidatin setzte den Publikumsjoker ein, doch - wie Jauch ihr verriet - konnten weniger als zehn Kandidaten die Frage beantworten, weshalb das Ergebnis eigentlich wertlos war.

Caroline zog den Zusatzjoker, und erst nach einer langen Weile des Wartens stand ein junger Mann auf, den Jauch beinahe barsch mit "Hallo, Herr Opfer!" begrüßte. Das "Opfer" gab dann auch gleich zu, nur aufgestanden zu sein, weil es kein anderer getan habe und die Antwort auch nicht zu wissen. Er entschied sich für Antwort C.

Der 26-Jährigen war das Ganze jedoch zu unsicher und sie tat das einzig Richtige und stieg aus. Richtig wäre Antwort B gewesen. Mit 32.000 Euro kann sich Caroline ihren Hauptwunsch erfüllen und endlich ihre Bafög-Schulden locker abbezahlen. Der ein oder andere Zusatzwunsch ist dabei auch noch drin.



[img][/img]
Parent - By Ralf Mueller Date 2015-10-19 21:31
Naja, "gängige" Schlussformel ist auch stark übertrieben meiner Meinung nach. Habe gerade meine E-Mail-Korrespondenz von Vereinsmitgliedern durchsucht, da hat niemand auch nur ein einziges Mal "Mit schachlichen Grüßen" oder "Schachliche Grüße" verwendet.
In 7 Jahren CSS-Forum wurde diese Schlussformel nur ganze elf Mal verwendet (gleiche Personen mehrmals mitgezählt).
Parent - - By Robert Richter (Mod.) Date 2015-10-19 21:34
Deep Moisture Bodylotion schrieb:
.. Ich mache aber mehr Absätze als Peter Martan!!


Parent - By Peter Martan Date 2015-10-19 21:56
Na, soo lustig fand ich das aber auch wieder nicht.
Parent - - By Tom Paul Date 2015-10-19 08:06
https://stockfishchess.org/get-involved/

Melde dich da mal an, dann wird das Stockfish Team ganz schön staunen.
Und teile ihnen gleich mit: Komodo so ca. 67.000 kn/s, Stockfish so ca. 48.000 kn/s.
Parent - By Benno Hartwig Date 2015-10-19 09:02
Wenn jemand enorme Performance braucht, ist das Beschrieben natürlich eine Supermaschine.
Und es wäre sicherlich sehr interessant zu sehen, welche Engine wie gut mit diesen sehr vielen Kernen skaliert.
Was diese große Kernanzahl denn überhaupt noch für die Spielstärke bringt.

Für SF-Testzwecke (bei überschaubarer Thread-Zahl) kommt man aber mit einigen Normal-Rechnern vermutlich deutlich billiger zu einem ähnlichen Testdurchsatz.

Benno
Parent - - By ? Date 2015-10-19 08:11
Deep Moisture Bodylotion schrieb:

Wenn mir jemand die Scheu vor Linux nehmen könnte, wäre ich dankbar.


Wer wäre für diese Aufgabe geeigner als unser Schachfreund K.U. aus der Schweiz?  

Nette Grüße

Ulrich
Parent - By Ralf Mueller Date 2015-10-19 16:31
Wo ist der eigentlich? Seit 17 Tagen kein Post mehr?
Parent - - By Kurt Utzinger Date 2015-10-22 11:20
[quote="?"]
Deep Moisture Bodylotion schrieb:

Wenn mir jemand die Scheu vor Linux nehmen könnte, wäre ich dankbar.


Wer wäre für diese Aufgabe geeigner als unser Schachfreund K.U. aus der Schweiz?  

Nette Grüße

Ulrich


Bin noch immer Linux-Fan, obwohl ich zur Zeit damit nicht mehr arbeite. Als Schach-GUI für Linux
sehe ich eigentlich nur Shredder und SCID. Mit beiden sind Engine-Matches möglich. Natürlich
geht auch (das relativ komplizierte) X-Board, wobei man hier auf die stärksten Engines verzichten
muss. Die Scheu vor Linux kann ich Dir nicht nehmen, denn ohne gewissenhafte Einarbeit in
dieses OS wird man als Windows gewohnter User nicht glücklich werden. Und nur wegen ein
bisschen mehr Geschwindigkiet von Schach-Engines auf Linux umzusteigen, scheint mir doch
gar etwas übertrieben.
Mfg Kurt
Parent - - By Chess Player Date 2015-10-22 12:33
Ach Kurt,

du bist nicht mehr auf dem aktuellen Stand...

Nimm einfach nur Linux Mint, einfach zu bedienen, selbst meine Oma kommt damit klar. Unkaputtbar!!!!

Wenn ich das mal mit Windows vergleiche, das konnte sie blitzschnell zerlegen....
Parent - - By Kurt Utzinger Date 2015-10-22 13:11
Chess Player schrieb:

Ach Kurt,

du bist nicht mehr auf dem aktuellen Stand...

Nimm einfach nur Linux Mint, einfach zu bedienen, selbst meine Oma kommt damit klar. Unkaputtbar!!!!

Wenn ich das mal mit Windows vergleiche, das konnte sie blitzschnell zerlegen....


Keine Frage, aber auch Linux Ubuntu ist einfach zu bedienen. Es geht hier nicht um
Bedienen, sondern Einrichten. Und bei Linux ist so vieles anders, dass kein normaler
Windows-User ohne einen gewissen Aufwand an Einarbeitung mit dem neuen
OS zurechtkommen wird. Gegenteilige Aussagen widersprechen einfach den Tatsachen.
Mfg Kurt
Parent - - By Chess Player Date 2015-10-22 14:12
Du hast vielleicht Probleme unter Linux gehabt bestimmte Hardware einzubinden... Ja, machmal ist es zum Ko....

Aber gibt es unter Windows xyz nicht auch mal Probleme???

Linux krankt meiner Meinung nach an der ungeheuren Vielfalt an Kombinationsmöglichkeiten...

Wenn ich nur an die diversen Derivate etc. ... und Desktops denke... u.v.a.m. ...

Mit schachlichen Grüßen C.P.
Parent - By Kurt Utzinger Date 2015-10-22 16:21
Chess Player schrieb:

Du hast vielleicht Probleme unter Linux gehabt bestimmte Hardware einzubinden... Ja, machmal ist es zum Ko....

Aber gibt es unter Windows xyz nicht auch mal Probleme???

Linux krankt meiner Meinung nach an der ungeheuren Vielfalt an Kombinationsmöglichkeiten...

Wenn ich nur an die diversen Derivate etc. ... und Desktops denke... u.v.a.m. ...

Mit schachlichen Grüßen C.P.


Nach meinen (bescheidenen) Erfahrungen war es so, dass - sobald unter Linux alles gelaufen ist - es mit
Linux Ubuntu unter Gnome nie mehr ein einziges Problem gegeben hat. Das kann ich für meinen Mac Book Pro
mit OS X Yosemite 10.10.5 so nicht bestätigen, da der (zwar sehr selten) verlangt, dass man Hand anlegt, wenn
wieder mal eine Programm einfriert oder sich auf dem Bildschirm nichts mehr bewegt. Und selbst Windows 8.1
verdient mein Lob, weil dieser Notebook mit einer einmaligen Ausnahme immer wie geschmiert läuft. Generell
glaube ich, dass die Zeiten unter jedem OS vorbei sind, wo man sich als Anwender noch gross ärgern muss,
vorausgesetzt natürlich, man macht keine verrückten Dinge im Sinne von Experimenten.
Mfg Kurt
Parent - - By Dithyrambus Date 2015-10-22 13:29
Ich benutze ja seit jahren Ubuntu mit der oberfläche Gnome.
Da ich aber immer für neues und eventuell besseres aufgeschlossen bin, hätte ich die frage, ob man Mint besser als MATE- oder als Cinnamon-edition ausprobieren sollte, wenn man Unity NICHT mag.
Welche edition ist Gnome ähnlicher?
Parent - - By Jörg Oster Date 2015-10-22 14:09
Dithyrambus schrieb:

Ich benutze ja seit jahren Ubuntu mit der oberfläche Gnome.
Da ich aber immer für neues und eventuell besseres aufgeschlossen bin, hätte ich die frage, ob man Mint besser als MATE- oder als Cinnamon-edition ausprobieren sollte, wenn man Unity NICHT mag.
Welche edition ist Gnome ähnlicher?

Als Gnome-User kommt dir wahrscheinlich die MATE-Edition eher entgegen.
Du kannst ja aber beide einfach mal von einem USB-Stick ausprobieren.
Parent - By Dithyrambus Date 2015-10-22 14:34
Danke!
Ich lade mir bei Bittorrent gerade beide versionen runter.
Parent - By Thomas Müller Date 2015-10-19 09:02
Windows 2012 R2 unterstützt phys. 64 Prozessoren und bis zu 640 cores ohne hyper-v mit dann 320!
Das sollte also schon gehen mit der kiste.
https://en.wikipedia.org/wiki/Windows_Server_2012

Ihr habt aber schon versucht die anzahl thread von hand auf z.b. 64 zu erhöhen?
Bei mir nehmen sich SF & K9 auch erst nur die hälfte automatisch.

evtl. wäre auch esx was für die HW um dann diverse VMs laufen zu lassen?
Echt der wahnsinn was es in der zwischenzeit gibt 

Kannst ja das stage 3 von TCEC mit 24T auf ponder on laufen lassen

gruß
thomas
Parent - - By Ludwig Buergin Date 2015-10-19 10:28
Auch Hallöle

  Lass doch mal die Workstation bei CB im Maschinenraum oder bei Infinity ein paar Spiele bestreiten. Würde mich interessieren, wie sie spielt und welche Leistung zu erwarten ist.

Gruß Ludwig
Parent - - By Thomas Müller Date 2015-10-19 12:16
stimmt, da könnte man am schnellsten sehen was damit geht ?!

Gibt es eigentlich noch genügend turniere auf dem server? Wenn ja wann?
War letztens mal öfters online und da war "nix" los!
Auch die anzahl hat stark abgenommen....so max 70 online am WE. Früher >100.
Weisst du da was ?

gruß
thomas
Parent - - By Ludwig Buergin Date 2015-10-19 16:27 Upvotes 1
Hallo Thomas

  Ja bei CB ist mit Turnieren kaum noch was. Bei Infinity dagegen gibt es meistens täglich zwei Turniere.14Uhr und dann etwa 19.30 Uhr.Die Teilnehmer verfügen teilweise über sehr starke Maschinen.
  bei Infinity ist die Teilnahme kostenlos.

  Gruß Ludwig
Parent - By Thomas Müller Date 2015-10-19 19:40
ok, danke!
Dann schau ich bei gelegenheit da mal vorbei.
Muss aber erst den client wieder installieren.

bis dann
thomas
Parent - By Dirk Triebel Date 2015-10-19 20:34
Hallo,

wahrscheinlich braucht er dann ne Starkstromleitung und ein eigenes Kraftwerk hinten dran. Ist mir auch neu, das HT bei Schach nix bringen soll. Hab da andere Erfahrung gemacht, allerdings nicht bei 72cores mit HT dann wahrscheinlich 144. 

Gruß,
Dirk
Parent - - By Jörg Oster Date 2015-10-19 21:29
Wenn du möchtest, kannst du dir von hier https://www.dropbox.com/s/bm5375hs56fo2fe/stockfish_071015_lazy.exe?dl=0
die TCEC_Version von Stockfish mit Lazy-SMP herunterladen und mal laufen lassen.
Mit der erreichst du mit Sicherheit höhere kN/s-Werte. Würde mich schon mal interessieren.

Für Engine-Engine Matches nicht unbedingt zu empfehlen, weil da der easy-move bug noch drinne ist.
Für Analysezwecke aber uneingeschränkt nutzbar.
Parent - By Deep Moisture Bodylotion Date 2015-10-19 22:48
Danke.
Parent - - By Deep Moisture Bodylotion Date 2015-10-20 19:16
Das ist ja heftig. Habe deinen mir netterweise zur Verfügung gestellten Lazy-Stockfish mal geladen (64 Core) und bin über das Ergebnis sehr erstaunt. Der geht ja ab... Kann man den kn/s glauben? Der normale Stockfish vom Oktober macht gerade mal 48.000

[img][/img]
Parent - - By Thomas Plaschke Date 2015-10-21 17:52
Ist der "Tiefenfortschritt" (time to depth) genauso rasant(er) geworden?

Die aktuelle Stockfish-Version ist jetzt übrigens auch auf Lazy-SMP gewechselt.

Viele Grüße
Th. Plaschke
Parent - By Deep Moisture Bodylotion Date 2015-10-21 18:16
Nee, da liegt der Hase wohl auch im Pfeffer. Hab ich im ersten Überschwang gar nicht gemerkt, aber die Suchtiefe kommt bei Weitem nicht mehr so schnell voran. Es müsste einen Schnelltest geben, um festzustellen, welche Stockfish-Version bei 64-Core die bessere ist...

Gruß
Parent - - By Jörg Oster Date 2015-10-22 10:51
Deep Moisture Bodylotion schrieb:

Das ist ja heftig. Habe deinen mir netterweise zur Verfügung gestellten Lazy-Stockfish mal geladen (64 Core) und bin über das Ergebnis sehr erstaunt. Der geht ja ab... Kann man den kn/s glauben? Der normale Stockfish vom Oktober macht gerade mal 48.000

[img][url][/url][/img]

Ja, die Knotenzahlen sind richtig.
Ist aber wirklich der pure Wahnsinn, oder? 

Aber du und Thomas habt richtig bemerkt, dass der Tiefenzuwachs langsamer wird.
Ich denke aber, auch an diesem Problem kann man noch was machen.
Vielen Dank fürs Antesten!

Gruß,
Jörg.

P.S. Hier http://abrok.eu/stockfish/ kannst du dir übrigens immer die aktuellen Stockfish-Devs fertig kompiliert herunterladen.
Parent - By Tom Paul Date 2015-10-22 12:42
Jörg Oster schrieb:

Deep Moisture Bodylotion schrieb:

Das ist ja heftig. Habe deinen mir netterweise zur Verfügung gestellten Lazy-Stockfish mal geladen (64 Core) und bin über das Ergebnis sehr erstaunt. Der geht ja ab... Kann man den kn/s glauben? Der normale Stockfish vom Oktober macht gerade mal 48.000

[img][url][/url][/img]

Ja, die Knotenzahlen sind richtig.
Ist aber wirklich der pure Wahnsinn, oder? 

Aber du und Thomas habt richtig bemerkt, dass der Tiefenzuwachs langsamer wird.
Ich denke aber, auch an diesem Problem kann man noch was machen.
Vielen Dank fürs Antesten!

Gruß,
Jörg.

P.S. Hier <a class='ura' href='http://abrok.eu/stockfish/'>http://abrok.eu/stockfish/</a> kannst du dir übrigens immer die aktuellen Stockfish-Devs fertig kompiliert herunterladen.


Ja klar kann man da was machen.
Z.B. Lazy SMP tunen.
Oder einfach das bekannte NUMA Verfahren (siehe Houdini) übernehmen.
Parent - - By Benno Hartwig Date 2015-10-20 08:53
Danke für deine Berichte,
und auch dafür, dass sie etwas länger sind (und mehr Absätze haben ).

Über solche Hardware-Gegebenheiten wird nicht oft berichtet.
Und ich fand auch interessant, dass solches Anmieten für überschaubare Zeiträume möglich und letztlich dann sogar auch leidlich erschwinglich ist.

Hast du was dazu erkennen können, welche Engines besonders gut oder besonders schlecht skalieren, wenn sie sehr viele Threads erhalten?

Benno
Parent - By Peter Martan Date 2015-10-20 09:58
Benno Hartwig schrieb:

(und mehr Absätze haben ).

Ist

ja

gut.

Up Topic Hauptforen / CSS-Forum / Komodo / Stockfish auf 72-Core-Server

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill