Leela chess zero

Discutez d'informatique ici !
beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Leela chess zero

par beagle » 11 Mai 2018, 12:33

C'est l'histoire d'un RDV raté, d'un évènement raté,
alpha chess zero dont on a parlé sur le fil alpha go zero.

Le zero signifiant sans apport humain dans l'apprentissage. Le logiciel apprend par lui-même comment on joue au mieux, au jeu de go, puis cela a été les échecs.
Alors le rdv raté c'est que le monde des échecs méritait mieux qu'un vulgaire papier interne des gens de alpha go zero.
certes l'humain battu par l'ordinateur c'était déjà fait avec deep blue contre Kasparov.
Mais toutes ces années de programmation "classique" des chess engines, balayées par la révolution neuronale, cet évènement méritait un vrai match.
Le meilleur mot étant celui de Ben314, si tu veux montrer que ta moto va plus vite qu'une voiture, tu ne le fais pas en enlevant 2 roues à la voiture.Beau sens de l'image, bon résumé de Ben314.

Un best du monde et bien c'est du spectacle, c'est de l'évènementiel,
aux échecs on a eu la guerre froide Fischer-Spassky, on a eu Karpov - Kasparov les réformes en URSS, on a eu d'autres championnats du monde qui opposaient des styles des personnailtés différentes.
Le monde des échecs aurait du avoir le droit à un vrai match.Donc à des conditions établies par les deux intervenants.Il n'appartient pas au nouveau champion de faire de la bricole dans un coin d'ordinateur portable.

Mais passons. Cela a donné l'idée à d'autres de faire un projet similaire, = du neuronal qui apprend tout seul.
Et cela donne Leela chess zero.

Presentation ici:
https://en.chessbase.com/post/leela-che ... for-the-pc

le site officiel ici:
https://lczero.org/
Modifié en dernier par beagle le 11 Mai 2018, 16:00, modifié 3 fois.
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.



beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 11 Mai 2018, 12:37

Le programme est jeune, pour autant il bat la majorité des humains.
Comme logiciel d'ordi il reste encore faible.
On voit meme sa courbe de progression qui a rechuté c'est intéressant pour les programmeurs.

Le logiciel est open free.Et on peut devenir testeur ou plutôt participant au projet en louant son ordi pour que le logiciel fasse son apprentissage.
Et nos amis meilleurs en informatique que moi expliqueront que ce n'est plus un bon CPU mais un bon GPU qu'il faut ...comme pour tout gamer...
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 06 Juin 2018, 10:36

alpha go ZERO, Leela chess ZERO,
le zero signifie que c'est le neuronal tout seul qui va apprendre, l'humain ne mache aucun travail.
Et c'est surprenant tout de même.
Donc quelqu'un connait un peu la logique derrière, et pourquoi la connaissance, les connaissances antérieures ne peuvent servir de support à l'élaboration des connaissances futures.

On se retrouve un peu comme dans les débats sur pédagogie frontale et pédagogies où l'apprenant comme ils disent construit lui-même ses apprentissages.Sans ètre contre une part de cette dernière je suis persuadé que c'est une énorme perte de temps que de recommencer l'histoire à zéro.

Donc pour Leela chess zero on voit le logiciel apprendre tout lui-même.
or les règles , issues de situations de base devraient orienter la prise de conscience des règles déjà connues bien plus vite.
Alors s'agit-il d'idéologies, s'agit-il de l'impossibilité ou de difficultés à mixer les deux (le neuronal apprend de lui-même Et il apprend à partir de règles déjà connues)

des avis informatiques?
des avis non informatiques , pédagogiques?
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 06 Juin 2018, 12:27

exemples d'apprentissage aidé:
en plus de faire des parties, pourquoi ne pas rentrer des situations et laisser le neuronal faire ses essais random et conclusions a partir de ces situations:
situations tactiques: positions avec échec à la découverte,...
situations de finales: tel ou tel type de finales de pions , finales de tours,...

Bref l'aider à apprendre plus là où il ya matière a apprendre?

On laisserait le neuronal apprendre mais sur des bibliothèques de positions également,
pas seulement apprendre le neuronal tout seul en parties contre lui-même avec le random
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 06 Juin 2018, 13:51

Salut beagle, une réponse possible, celle donnée sur le forum Leela chess:
"
All sorts of people are making suggestions for different ways of doing things - Leela is one experiment. Parallel or comparable experiments are possible to test alternative ideas, but there are not the resources to do everything people suggest. I think that, when resources come down in price, chess might be an area where experiments with different approaches will help human beings to understand how to optimise machine learning. Giraffe and Alpha have given some pointers away from "what we first thought of" as the optimal approach."
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 06 Juin 2018, 13:55

ah d'acc, merci beagle, je ne connaissais pas giraffe.
j'ai trouvé cela:
https://arxiv.org/abs/1509.01549

"This report presents Giraffe, a chess engine that uses self-play to discover all its domain-specific knowledge, with minimal hand-crafted knowledge given by the programmer. Unlike previous attempts using machine learning only to perform parameter-tuning on hand-crafted evaluation functions, Giraffe's learning system also performs automatic feature extraction and pattern recognition. The trained evaluation function performs comparably to the evaluation functions of state-of-the-art chess engines - all of which containing thousands of lines of carefully hand-crafted pattern recognizers, tuned over many years by both computer chess experts and human chess masters. Giraffe is the most successful attempt thus far at using end-to-end machine learning to play chess. "
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 06 Juin 2018, 14:00

L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 27 Juin 2018, 10:42

Bonjour à tous.
Quelques nouvelles de Leela chess.
Sa courbe de progression est assez marrante, cela monte en flèche, cela redégringole, et cela repart.C'est rigolo à suivre.

Petits tests perso.
Comme on peut jouer contre Leela sur leur site.
d'abord moi, bon depuis le début je suis battu par Leela mais il ya 1 ou 2 mois j'arrivais à de bonnes positionset même à gagner sur on le verra après toujours ces histoires d'échecs à la découverte non vu.
Bon maintenant même au niveau faible je n'obtiens guère de bonnes positions.
Leela versus mon ordi perso.j'ai Houdini 4 je crois, version 2016, je le mets contre Leela en mode partie de 30mn, donc parties rapide.leeela sur le site d'ailleurs ne réfléchit pas plus de 1 secondes, 2 secondes de reflexion parfois, bref Leela repond du tac au tac, ce qui est surprenant.Et requestionne le mode opératoire du match entre alpha go zero et Stockfish puisque stockfish n'était pas réglé sur un mode classique où il répond vite ou non selon les moments de la partie.
Bon alors il ya deux mois Leela ne faisait pas le poids face à Houdini2016.Toujours battue.
actuellement Leela obtient de meilleures positions, doit même avoir fait nul une fois, mais ce qui me surprend est ceci:
dernière partie jouée, Leela domine, puis cela semble se neutraliser, mais à la fin
Leela se donne % de gain 70%, donc se voit mieux, au moment où Houdini lui plante un mat en 1 coup!!!!!
Et toujours soit l'échec à la découverte, soit ici un clouage qui empèche de se défendre,
mais je trouve incroyable d'avoir une évaluation gagnante et se faire mater le coup suivant.

Donc pour moi se repose la question,
c'est quoi apprendre?
pour un humain
pour un ordinateur,
pour les réseaux de neurones

Je trouve surprenant de laisser faire l'ordi ses expériences tout seul avec du random pour établir ses règles,
sans jamais l'orienter en lui mettant le nez sur les endroits tactiques de base,
en le laissant faire son expèrience lui-même Ok mais en lui sélectionnant des moments d'apprentissage.
En plus de le laisser jouer tout seul.

bref je trouve que cela questionne le c'est quoi apprendre, et c'est quoi un prof.
C'est à dire un prof cela permet de mettre le doigt sur tel ou tel domaine difficulté, nouvel apprentissage. Mème sans ètre directif, mais en orientant là où le prof veut aller...
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 03 Juil 2018, 12:25

quelques éléments de réponse sur démerde totale méthode Montessori ou apprentissage type plus pédagogie frontale,
avec le machine learning:
https://fr.mathworks.com/discovery/mach ... rning.html
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 04 Aoû 2018, 12:10

Des nouvelles de Leela.
Il ya peu Leela a fait le WCCC = world computer chess championship 2018
c'est un championnat avec peu de participants, 8 , qui se rencontrent une seule fois!!!! =7 parties!!!!!
mais il y avait deux des très bon, Komodo surtout et Shredder
Leela termine 7 iem sur 8 donc
mais a connu des déboires techniques
premiere partie perte au temps du fait des manipulations de l'homme dans une partie qui était égale contre le grand Komodo.Deuxième partie perdue pour aussi problème technique, remplacement de la personne qui représentait Leela, enfin bref 3 défaites, 4 nulles, mais c'est plutôt prometteur.
L'avantage et l'inconvénient aussi , du WCCC c'est que tu viens avec le matos que tu veux.

Actuellement Leela est engagé dans le TCEC.
Tournoi mieux organisé, en 4 divisions, Leela est en quatrième division , mais les deux premiers auront le droit d'aller en troisième division., et ainsi de suite,
autre intérèt on essaye de gommer l'avantage du matos et on met les machines à égalité de matos,
assez facile pour les softs de l'ancien temps, c'est du CPU et nombre de core, hastables et point barre.
Mais les neuronaux eux fonctionnent sur du GPU,
et il a fallu trouver un accord d "equivalence".
Donc on trouve en neuronal la fameuse Leela et un "clone de Leela que je ne connaissais pas Deus X.
J'explique message suivant la différence.
Pour le moment en TCEC Leela est à 2,5/3 points et DeusX à 2/3 points.
Ils ont bien démarré.
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 04 Aoû 2018, 12:23

Difference Leela et deus X
Leela on en a déjà parlé c'est Leela zero (comme l'était alpha go zero, alpha chess zero),
le zero c'est zero intervention de l'homme dansl'apprentissage.
Leela apprend toute seule en jouant contre elle-même.

deus X est idem en neuronal que Leela, la mème base?,
mais un privé a donné en apprentissage au logiciel une banque de parties déjà jouées.
Et deus doit faire ses règles en apprenant de ce que les autres ont déjà joué.

Alors quel intérèt?
Ben c'est de savoir quel apprentissage est le meilleur.Si on définit le meilleur.
Est ce l'apprentissage le plus rapide ou celui qui permet d'aller le plus loin.

Il se dit, mais le savent-ils?, que l'apprentissage sans intervention de l'homme le zero, qui en principe était pour des phénomènes non ou peu connus de l'homme,
ben il se dit que sans intervention de l'homme c'est plus long mais cela permet de progresser régulièrement à l'infini?????
Deus X lui a appris de parties humaines ou non, de trucs préexistants qu'on lui a donné à digérer pour établir ses règles = il va jouer aussi mal que l'homme, ah , ah, ah, ah!!!!

Bon sur ce que j'ai compris sur le forum Leela.
a suivre.

PS: j'ai cru lire que Leela en 3 mois était à la moitié des apprentissages de alpha chess zero qui avait appris les échecs en 30 mn avec la puissance de feu de google. Pour dire que apprendre en 30 mn c'est du relatif …

reste que d'apprendre de zero, c'est quand même un choc, on se sent peu de choses,
et vous les profs du site ,
vous servez à quoi???
C'est moins bon l'apprentissage quand c'est l'homme qui fait apprendre.
On vit une époque formidable, non?
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 04 Aoû 2018, 16:19

sur le peu que j'en ai vu:
Leela positionnel, manœuvres à n'en plus finir.
Deus, ouverture avec les blancs e4! , la française , attaque de roque , le neuronal humain ! Enfin connait ses classiques humains!!!ça fait du bien!
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 04 Aoû 2018, 18:17

dans le match leela deus, c'est leela qui a gagné avec les blancs
Faudrait analyser la partie, mais leeela avait un avantage mais ne pouvait pas continuer, on tournait en rond avec des coups qui ne donnaient rien.
Et c'est là où c'est à revoir, mais au lieu de répéter les coups pour provoquer la nulle, deus a continué de varier les coups, incroyable jusqu'à ce que la variation soit inférieure.J'ai déjà vu leela faire cela contre mon Houdini perso de la maison. Si tu es moins bien c'est pas à toi de proposer de continuer le jeu.
de ce fait Leela est en tète et bien partie pour s'imposer en division 4, certes, mais tout de même...
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 17 Aoû 2018, 16:33

des nouvelles du front. Les résultats du TCEC on peut suivre sur leur site avec les évaluations des machines elles-mêmes ou sur chessbomb avec les évaluations de stockfish.

En quatrième division 3 machines dominaient, Leela de peu la plus forte suivie de Deus donc les deux NN, puis de wasp.
Les deux neuronaux étaient qualifiés pour la troisième division.
En troisième division dominait rapidement Ethereal de loin le meilleur et derrière Deus arrivait à suivre le rythme des suivants , pas contre Leela zero était à la ramasse faisant nulle sur nulle.
On a eu l'explication plus tard, et c'était lié à une surchauffe de la machine, l'évacuation de la chaleur de l'une allait sur l'autre????enfin bref cela ne plaisait pas au GPU qui pour protester répondait rapidement, enfin bref.
Du coup certaines parties ont été carrément rejouées et la Leela s'est remise à gagner des parties assez facilement.
Leela est remontée à la deuxième place mais ex aequo avec arasan qui est qualifié car meilleur score contre Leela.

Et les échecs là-dedans.
J'aime beaucoup Deus x qui n'est pas orienté zero, et a fait apprentissage sur des parties humaines déjà jouées.Résultat il connait ses classiques, il sait attaquer un roque, il ya eu de belles parties de sa part.Il est peut ètre réglé en mode trop agressif je sais pas, il a perdu des parties où il fallait sans doute pas se lancer là où il s'est aventuré.mais du beau jeu.

Leela chess zero difficile de juger j'ai surtout vu les parties nulles, c'est du jeu positionnel qui fait pas réver, on a Petrossian + Karpov + kramnik, c'est déjà du beau monde, une conception des échecs, mais bof il s'agit en premier d'empécher le jeu adverse, et si a un moment le sien propre est possible alors on y va. Bref du béton. Je préfère deus x qui recherche avant tout l'initiative, avant tout lui doit jouer et l'autre doit suivre.Oui Kasparov fait réver un spectateur.

Bon les progrès sont notables. mais j'aime toujours pas l'esprit zero.
Pour rappel c'est zero intervention de l'homme, la machine doit tout apprendre d'elle-même.
Déjà comme étre humain cela me déprime, mais en plus je ne comprends pas si c'est la fin de l'histoire, fin du progrès???? dans 6 mois , 1 an 5ans pour faire une machine plus performante parce que on aurait d'autres réseaux de neurones on refera une machine qui recommence de zero.Oh que cela me perturbe.
Rien que pour cela je suis du coté de deusX qui apprend de parties réelles.
C'est à dire que le processus d'appentissage on le nourrit d'informations pertinentes = déjà de quoi tirer ses propres règles, mais là où l'info est pertinente.Comment penser que avec du random de monte carlo on peut ètre supérieur, en tirant expérience de moments ininformatifs.
Bref je ne suis pas informaticiens programmeurs , je ne connais rien aux neuronal,
mais bon j'espère qu'il ya aura des gens pour montrer qu'un apprentissage plus efficace permet un apprentissage avec moins de ressources et donc une allocation des ressources ailleurs sur du plus.
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

pascal16
Membre Légendaire
Messages: 6663
Enregistré le: 01 Mar 2017, 13:58
Localisation: Angoulème : Ville de la BD et du FFA. gare TGV

Re: Leela chess zero

par pascal16 » 17 Aoû 2018, 18:08

Google a simulé 450 000 parties pour faire son IA d'échecs qui bat tout le monde.
Je te cause pas de l'énergie électrique dépensée.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 18 Aoû 2018, 14:49

pascal16 a écrit:Google a simulé 450 000 parties pour faire son IA d'échecs qui bat tout le monde.
Je te cause pas de l'énergie électrique dépensée.


tu es sur, cela ne parait pas beaucoup en regard de ce que les gars de Leela ont déjà fait et ils ne sont pas encore au niveau d'entrainement d'alpha zero.
Sinon dans les logiciels d'échecs du commerce, souvent c'est vendu avec une database de plus de 6 millions de parties.
Et Deusx s'est entrainé sur ce genre de base semble-t-il.

Une belle partie de deusX est la dernière partie de la division4 contre senpai.Senpai est un logiciel solide qui ne gagne pas souvent mais ne perd pas souvent, et pourtant là senpai va se montrer gourmand prendre les pions empoisonnés blancs de l'aile dame, et deusX va monter une attaque de roque à l'aile roi de toute beauté.
1. e4 c6 2. d4 d5 3. e5 c5 4. Nf3 cxd4 5. Nxd4 e6 6. f4 Nc6 7. Be3 Nge7 8. Nd2 Nxd4 9. Bxd4 Nc6 10. Bf2 Qa5 11. Bd3 Qb4 12. c4 Qxb2 13. cxd5 exd5 14. Rb1 Qa3 15. Rb3 Qxa2 16. O-O Bb4 17. Nf3 Bg4 18. Bb1 Qa5 19. h3 Bxf3 20. Qxf3 O-O 21. Kh2 g6 22. h4 Bc5 23. h5 Bxf2 24. Qxf2 Qc7 25. Rh3 Qe7 26. Re1 Kg7 27. Ree3 Rae8 28. Reg3 Rh8 29. Rg4 a5 30. Qg3 Reg8 31. Ba2 Rd8 32. Rg5 a4 33. Bb1 Rdg8 34. f5 Kf8 35. f6 Qc7 36. Rh4 b5 37. Qc3 Qb6 38. Qa3+ b4 39. Qh3 Qc7 40. hxg6 Rxg6 41. Bxg6 fxg6 42. Qe6 h6 43. Rg3 Nxe5 44. Rxb4 Rh7 45. Kh1 Qc1+ 46. Kh2 Qc7 47. Rxa4 Qb8 48. Kh3 Nf7 49. Qe7+ Kg8 50. Qa3 Ng5+ 51. Kh2 Qc7 52. Ra8+ Kf7 53. Ra7 Qxa7 1-0

a voir dans archives sur le site TCEC ou sur le site chessbom pendant quelques temps TCEC13 division4 c'est la dernier partie
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

pascal16
Membre Légendaire
Messages: 6663
Enregistré le: 01 Mar 2017, 13:58
Localisation: Angoulème : Ville de la BD et du FFA. gare TGV

Re: Leela chess zero

par pascal16 » 18 Aoû 2018, 16:30

Je pense me tromper sur le nombre en effet.
Les IA récentes n'enregistrent plus les parties existantes, elles jouent IA contre IA pour créer une base.
Google a même fait celle qui apprend à jouer en regardant les parties.

Google en 2017 a tout dominé au Go et aux Echecs mais l'apprentissage de l'IA était très mauvais (des millions de parties simulées avec un apprentissage dit "amélioré"...).

En 2018, l'IA a sans doute vraiment été amélioré coté auto-apprentissage.
450 000 parties, c'est le nombre pour Quake 3 - capture the flag.
Je n'ai pas retrouvé le chiffre pour les échecs

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 18 Aoû 2018, 17:13

Perso sur les échecs je suis très mauvais joueur,
je ne reconnais pas la supériorité de google et de l'IA.
C'est un papier INTERNE à google, aucun match avec des gars qui disent ce qu'ils veulent faire
ce qu'on veut prouver
et comment on le fait.
Ils bricolent un pseudo match
Ils ont enlevé la bibliothèque d'ouverture de stockfish qui n'a pas de neurones spéciaux pour les premiers coups puisqu'on lui donne et qu'il n' apas à les chercher.
Alpha zero s'est entrainé contre son adversaire mais pas l'inverse.
Et le support technique ne peut pas ètre éliminé de la discussion, c'est quoi la puissance hardware à attribuer à stockfish lorsqu'on utilise le hard de google??????
Si le hardware ne peut pas ètre mis à l'identique puisque GPu contre CPU au moins essayons d'égaliser.

Bref lorsque google dit on s'est entrainé quelques heures, oui d'accord, mais les gars de Leela qui reconstituent le truc avec une armée de bénévoles ils ont fait la moitié du chemin de alphazero en 3 mois!!!

bref sur Leela ils sont beaucoup à ètre sectaires et affirmer que l'approche zero est la meilleure,
mais y compris en IA de NN ben c'est pas prouvé,
et deusX qui a été éduqué sur des parties humaines en très peu de temps (par rapport aux 3 mois de Leela et sur beaucoup moins de hardware faisait dans la compétition presque jeu égal cette année.
Donc perso j'espère qu'il sera montré qu'éduquer est plus efficace lorsque la recherche et l'apprentissage se fait sur des données informatives plutôt que des données issues de l'aléatoire.
De toutes façons si pas le cas je demanderais que soient cassés tous les ordinateurs et enfermés tous les humains surpris avec une puce.Nous retournerons dans la forèt, nan mais...
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 20 Aoû 2018, 13:12

Salut Pascal,
pour info ils en sont pour Leela à 56 millions de games.

Et les mecs continuent, tu parles quand t'es prof d'ordinateurs en mode zero,
c'est vraiment la glandouille quoi,
tu fais tourner les ordis.
ptain la planque
a mon avis ça va ètre l'élite qui sera prof d'ordis pour le learning mode zero!
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 15:14

Re: Leela chess zero

par beagle » 21 Aoû 2018, 16:45

hardware comparaison: pris sur le web lors de alpha zero-stockfish:

"Visit Talkchess Forum to know more, there is where you will find some 3000 programmers. This was all a scam. Alpha played on 30 times bigger hardware than SF, 4TPUs vs 64 cores. 4TPUs is around 1000 cores or even more. Alpha had simulated opening book, trained on countless top GM winning games. SF had very little hash. TC was fixed at 1 minute per move, which is again detrimental to SF, which has advanced time management. TPUs lack the SMP inefficiencies with more cores, so the hardware advantage was even bigger. Etc, etc., so basically, this was just a huge publicity stunt on the part of Google. "

"From the original paper hardware used for initialising and training -

Training proceeded for 700,000 steps (mini-batches of size 4,096) starting from randomly initialised parameters, using 5,000 first-generation TPUs (15) to generate self-play games and 64 second-generation TPUs to train the neural networks

and hardware used for the games -

AlphaZero and the previous AlphaGo Zero used a single machine with 4 TPUs Stockfish and Elmo played at their strongest skill level using 64 threads and a hash size of 1GB.

So, AlphaZero used special hardware developed by Google. It used specialized Tensor Processor Units (TPUs) rather than general Central Processing Units (CPUs) as are available commercially.

This is how Wikipedia describes the second generation TPUs they used -

The second generation TPU was announced in May 2017. Google stated the first generation TPU design was memory bandwidth limited, and using 16 GB of High Bandwidth Memory in the second generation design increased bandwidth to 600 GB/s and performance to 45 TFLOPS. The TPUs are then arranged into 4-chip 180 TFLOPS modules

They used 4 TPUs for the games, so a processing power of 180 TFLOPS. Note TFLOPS = 1000 billion floating point operations per second.

For comparison Intel's latest most powerful chip is the Core i9 Extreme Edition processor which clocks in at 1 TFLOP. A top of the line I7 that you would find in a gaming machine would typically be about 100 GFLOPs (i.e. one tenth of a TFLOP).

I think it's fair to say that AlphaZero was using an 800 pound gorilla of a hardware configuration compared to Stockfishes mouse."
Modifié en dernier par beagle le 21 Aoû 2018, 16:54, modifié 1 fois.
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

Retourner vers ϟ Informatique

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 13 invités

Tu pars déja ?



Fais toi aider gratuitement sur Maths-forum !

Créé un compte en 1 minute et pose ta question dans le forum ;-)
Inscription gratuite

Identification

Pas encore inscrit ?

Ou identifiez-vous :

Inscription gratuite