Leela Zero

User avatar
Dan.A
Posts: 464
Joined: Mon Jan 19, 2015 12:58 pm
Location: Bucuresti
Rang: 3Kyu

Re: Leela - software bazat pe retele neurale

Postby Dan.A » Tue Mar 06, 2018 12:38 am

Mic Update:

S-a trecut oficial la Network de 10x128.

- Acest network are 36 MB, spre deosebire de cel de 6x128 care avea 23 MB

- La antrenament s-a trecut de la optiunea de playouts (-p ) la optiunea de visits (-v)

- S-a marit procentul de abandon de la 1% la 10% in autogtp. Lelaz are default 10%

- Transferul de la 6x128 la 10x128 s-a facut tot cu transfer net2net.

- GCP a precizat ca va testa si 20x128 si 10x256.

- Viteza la generat partide a scazut si ea. La mine cel putin la cel de 6x128 facea o mutare in 3-4 sec acum face in 11s. :)

Am facut si eu 2 teste cu noul network vs Leela 11, la paritate de data asta. Unul cu 12s/mutare si altul cu 5s/mutare si in ambele a castigat LeelaZero.

"There are times when the only choices you have left are the bad ones."

User avatar
MihaiL
Posts: 281
Joined: Mon Jan 19, 2015 12:24 pm
Rang: 2d

Leela Zero - netbench

Postby MihaiL » Tue Mar 06, 2018 9:00 am

Nu stiu daca stiati, dar si Leela Zero stie comanda netbench. Am descoperit si eu azi.

*LATER EDIT* Apropo de scalabilitate, Leela Zero pe ultima retea (5b90bd32) imi da netbench 79 (da...da...stiu, am o chiftea de PC :| ). A doua cifra - cea mare - vad ca nu mi-o mai da, dar pentru un benchmark e ok, pentru ca ne intereseaza comparatia pe acelasi hardware, nu ?
Cel mai bun Netbench de Leela l-am obtinut prin Leela 10 prin CPU (placa mea grafica e outdated), anume 63. E o crestere ! Care se simte si la handicap, dar nu-l spun. :)
Un alt avantaj este ca temperatura procesorului e mult mai scazuta cu Leela Zero.
Asa ca Leela Zero rulez. :D Thx GCP !

PS Iulian, cred ca ar fi bine sa deschidem un subforum special pentru Leela Zero, ca e un topic si interesant si cumva de sine statator. (Mie mi se pare ca GCP face ceva admirabil pentru Go, macar ca nu e specialitatea lui, ceea ce Google nu a facut. Presupun ca nu trebuie sa explic - diferenta dintre Linux si Microsoft). Si sa mutam toate interventiile cu Leela Zero acolo. Ajut si eu...nu e graba oricum.

User avatar
Dan.A
Posts: 464
Joined: Mon Jan 19, 2015 12:58 pm
Location: Bucuresti
Rang: 3Kyu

Re: Leela - software bazat pe retele neurale

Postby Dan.A » Tue Mar 06, 2018 12:52 pm

Asa ca Leela Zero rulez.


Subscriu. Am mai facut un test azi dupa ce am vazut ca unii pe net au reusit sa bata leela 11 la 2h. Am incercat tot la 12s/mutare si Leela Zero castiga la 2h cu Leela 11.

Pentru cine e interesat dece sa trecut de la playouts la vizite:

What is the difference between visit and playout?

If the tree is partly reused from a previous move (a feature introduced in LZ 0.11), then doing 1600 new playouts
means that the tree might actually have much more than 1600 playouts in it. So instead of adding 1600 new playouts
every move, we stop when the tree has 3200 visited nodes in total.

In practice, this means the self-play is much faster along forced variations,
but slower is there are several good options. We measured that this increases the program efficiency a lot,
while not requiring any kind of human input/knowledge.


Mie mi se pare ca GCP face ceva admirabil pentru Go

Intradevar. In special faptul ca a "Open-sourced" cam toata operatiunea (modul de antrenament , serverul , etc)

Plus ca acum de ex exista posibilitatea : I am fairly sure, for example, that simply replacing classic Leela's network at this point with one trained from combined human+latest zero data would be a nice improvement. Probably the same is true for programs like AQ.

P.S. Iar a cazut serverul la fel ca at cand au testat un network de 20x256. Deci o trecere la un net mai mare de 10x128 se va face cand reusesc sa imbunatateasca serverul. :)
"There are times when the only choices you have left are the bad ones."

User avatar
Dan.A
Posts: 464
Joined: Mon Jan 19, 2015 12:58 pm
Location: Bucuresti
Rang: 3Kyu

Re: Leela Zero

Postby Dan.A » Mon Mar 12, 2018 2:30 pm

Anunt:

Pe data de 15 - 03 -2018 la ora 21 UTC( tot 1am din calculele mele) Hajin Lee va juca , cu Leela Zero pe serverul de go OGS.

De data asta spre deosebire de meciul cu A.Q. unde s-a folosit un calculator modest acum configuratia va fi mult mai puternica.

Configuratia folosita este: Intel Xeon E5-2690 v4 CPU, 4 x NVIDIA GTX 1080 GPU.

- Este primul meci intre Leela Zero si un jucator de nivel Pro .

- De sanse nu stiu ce sa zic. Daca nu se pune in atari (destul de rar, dar se intampla) cu multe piese sau daca nu intalneste o scara pe care nu o vede (desi networkul nou e mai bun in a le recunoaste inca se mai incurca) are sanse. :)

Tot din colectia GCP rulez. La ingrijorarile unor contribuabili ca alt soft are sanse sa ajunga primul in top GCP a raspuns :
I don't care at all what bot or projects gets there first, I only care about the result being available.
"There are times when the only choices you have left are the bad ones."

User avatar
Dan.A
Posts: 464
Joined: Mon Jan 19, 2015 12:58 pm
Location: Bucuresti
Rang: 3Kyu

Haylee - Leela Zero

Postby Dan.A » Fri Mar 16, 2018 12:31 am

Leela Zero a reusit sa castige.

Partida o puteti vedea la acest link: https://online-go.com/game/12063810 (probabil e necesar cont) iar in cateva zile si pe contul de youtube a lui Hajin Lee.

- O deschidere total atipica pentru Leela Zero, dar probabil la 10000 n/s vede jocul altfel.

- Pe final a dat o gramada de puncte, reusind sa scoata si un seki dintr-un grup viu si tot a castigat. Aici devine complicat, in sensul ca nu stim daca greseste la calcul sau e asa de in fata incat nu-i pasa. :)
"There are times when the only choices you have left are the bad ones."

User avatar
Admin
Site Admin
Posts: 401
Joined: Sat Jan 17, 2015 6:30 pm
Rang: 1d

Re: Leela Zero

Postby Admin » Fri Mar 16, 2018 1:34 pm

Wow! Foarte interesant. Poate joaca si o serie de partide cu LeelaZero. Ar fi si mai interesant.
Haylee considera ca la mutarea 67 a LeelaZero situatia este echilibrata. In schimb LeelaZero considera ca a ajuns deja la 80% sanse de castig. Ceea ce pentru AlphaGo echivala cu victorie sigura (cel mai probabil e la fel si pentru LeelaZero).

*Later Edit:
Hardware: Xeon E5-2690 v4, 4x GTX 1080
Command: ./leelaz -w ed26f634 --gpu 0 --gpu 1 --gpu 2 --gpu 3 -v 150000 --gtp --logfile log.txt -r 10 -t 7
Iulian Lungu

User avatar
Dan.A
Posts: 464
Joined: Mon Jan 19, 2015 12:58 pm
Location: Bucuresti
Rang: 3Kyu

Leela Zero - ultimele "ispravi"

Postby Dan.A » Sat Mar 17, 2018 11:10 pm

Mic Anunt:

Peripetiile acestui mic robot nu s-au terminat cu Hajin Lee.

Recent a reusit sa castige la 2h la Fineart cu 50k playouts/ move.

Sursa: https://ameblo.jp/igomania/entry-12360522084.html

Si partida : http://gokifu.net/t2.php?s=1051521108583181

Alt rezultat este victoria la jucatorul chinez Zhang Li 6P (configuratia 4x TitanV)

Partida la acest link: https://share.yikeweiqi.com/onlinechess ... om=2856380
*Later Edit: Se pare ca pentru aceasta partida chinezii au folosit un hibrid intre 2 networkuri de Leela Zero.
Aceasta metoda este discutata aici: https://github.com/gcp/leela-zero/issues/814

- Urmeaza si alti jucatori.:)

Si asta cu un network de 10x128. Sper ca acest succes sa aduca mai multi contributori.
"There are times when the only choices you have left are the bad ones."

User avatar
Dan.A
Posts: 464
Joined: Mon Jan 19, 2015 12:58 pm
Location: Bucuresti
Rang: 3Kyu

Re: Leela Zero

Postby Dan.A » Sun Mar 25, 2018 12:49 am

Mic Update:

A aparut Leela Zero versiunea 0.13 cu Autogtp V 15

- Printre schimbari :

- imbunatatire la versiunea de CPU 10% viteza
- rezolvarea unor bug-uri
- curatarea automata a networkurilor cand apare unul mai bun. Probabil in pregatire pentru etapa AlphaZero cu promovarea celui mai nou.
- introducerea optiunii -benchmark
- Versiunea noua poate fi descarcata de la acest link: https://github.com/gcp/leela-zero/releases/tag/v0.13 . Iar autogtp v15 va deveni obligatoriu in cateva zile (probabil daca nu apar probleme)

Ce am observat la un test mic este ca sunt oferite mai multe informatii dupa fiecare mutare decat la versiunea precedenta.
"There are times when the only choices you have left are the bad ones."

User avatar
Dan.A
Posts: 464
Joined: Mon Jan 19, 2015 12:58 pm
Location: Bucuresti
Rang: 3Kyu

Re: Leela Zero

Postby Dan.A » Wed Mar 28, 2018 11:44 am

Mic Update:

Legat de versiunea 0.13.

- Odata cu aceasta versiune s-a rezolvat un mic bug. Pentru cine nu foloseste optiunea de timp si prefera sa specifice vizitele (-v ) e recomandat sa se foloseasta si optiunea de abandon ( -r )

- Am observat ca ambele optiuni - si cea de timp si cea fara timp cu vizite - folosesc "timpul inteligent" adica se opreste si muta inainte de limita fixata caz ca mutarea este evidenta (din punctul lui de vedere).

Progres

- S-a trecut la testarea a 2 networkuri in paralel. Unul Normal si unul cu SWA (Stochastic Weight Averaging) implementat. Habar nu am cum functioneaza, dar poate are succes

- Un entuziast a antrenat un network de 20x256 cu partide generate de networkurile "b8adb7da(78) to b3a80524(99)" si surprinzator networkul este destul de puternic.

- Pentru cine vrea sa-l incerce poate sa-l descarce de aici: https://drive.google.com/file/d/1m4rK06 ... sp=sharing sau de aici http://zero.sjeng.org/networks/93229e15 ... 949d15c.gz

- De mentionat ca este de 5-6 ori mai incet (poate chiar mai mult) decat networkul actial de 10x128 si are 260 MB.

- Momentan GCP incearca sa observe cum a avut succes.:
I already started dumping a 1.5M window to net2net 85c6 to 192x15 again. If anything, I'd like to understand what made this work.


- Daca merge vom avea un nou salt. Probabil intai 15x192.
"There are times when the only choices you have left are the bad ones."

User avatar
MihaiL
Posts: 281
Joined: Mon Jan 19, 2015 12:24 pm
Rang: 2d

Despre versiunea 93229e15

Postby MihaiL » Wed Mar 28, 2018 7:00 pm

Pe mine m-a dezamagit versiunea asta mamut. Am pus-o sa dea doua pietre versiunii celei mai tari "oficiale" (85c6f2ad).
Amanuntul nu are relevanta (putea fi de la +9H la -9H) pentru ca noua versiune (93229e15) a intrat intr-o scara si a jucat-o pana la capat. Scara nu mergea...
Am reluat de la mutarea care initia scara inversand culorile. Versiunea "oficiala" vazand ca scara nu merge, a jucat TENUKI.
Asa ca si cu versiunile astea "speciale" nu-s ce sa zic.


Pentru mine e de-a dreptul frustrant sa vad un AI jucand mutari de pro (unele inedite, geniale, "schimband fata GO-ului" etc) pentru ca apoi sa mearga ca oaia timp de 25 de mutari intr-o scara - EVIDENT perdanta pentru orice DDK uman - apoi sa cedeze !
Asta nu e GO, cel putin pentru mine. Very disappointing...:(

Si problema e, ca pentru mine, cel putin, asteptarea de la un AI este sa fie un profesor de nivel profesionist cat mai inalt (si deci cu decizii cat mai incontestabile) care sa-mi analizeze partidele si sa ma "lumineze". Ca ma bate cu n handicap este neinteresant, mai ales ca de ex LeelaZero joaca toate cele 4 SANSAN (daca avea mai multe le juca si pe alea) asa ca FUSEKI-ul e nespus de boring.

Rolul AI-ului in GO este de teacher/trainer in primul rand. Asta este parerea mea. (Iar un teacher care imi arata niste minunatii si apoi nu vede de 25 de ori ca o scara elementara nu merge - imi pare rau ca nu am pastrat partida sa v-o arat ! - este un prilej de mare frustrare. Plus ca ridica semne de intrebare apropo de CAND sa-l cred si cand nu in TOT ce zice).

Rezumat: prefer versiunea cu cateva sute de puncte mai putin la scorul ELO (intern oricum, ca nici ala nu stim ce inseamna DE FAPT). Macar nu intra intr-o scara care nu merge (vezi Kageyama :( ).

*LATER EDIT* It happened again ! Si chiar si dupa ce i s-au luat (fizic) piesele a continuat partida desi scorul era 0% !
[+] Cine nu stie scara...
(;DT[2018-03-28]
PB[85c6f2ad]BR[NR]
PW[93229e15]WR[NR]
KM[0.5]HA[2]RE[B+R]
AB[dp][pd]
;W[dd];B[pq];W[cq];B[cp];W[dq];B[fq];W[eq];B[ep];W[fr];B[cc]
;W[cd];B[dc];W[ec];B[eb];W[fb];B[fc];W[ed];B[gb];W[db];B[fa]
;W[cb];B[bq];W[br];B[gr];W[fp];B[gq];W[bp];B[bo];W[aq];B[fo]
;W[gp];B[hp];W[go];B[gn];W[ho];B[io];W[hn];B[hm];W[in];B[jn]
;W[im];B[il];W[jm];B[km];W[jl];B[jk];W[kl];B[ll];W[kk];B[kj]
;W[lk];B[mk];W[lj];B[li];W[mj];B[nj];W[mi];B[mh];W[ni];B[oi]
;W[nh];B[ng];W[oh];B[ph];W[og];B[of];W[pg];B[qg];W[pf];B[pe]
;W[qf];B[rf];W[qe];B[qd];W[re];B[rd];W[se];B[sd];W[rg];B[sf]
;W[qp];B[qq];W[pp];B[op];W[rq];B[rr];W[ro];B[sq];W[sp];B[rp])


*SI MAI LATER EDIT (si ultimul !)*
Am facut iar experienta schimbarii culorilor la mutarea 31. Amuzant e ca versiunea oficiala a castigat partida cu albul (vs 2H deci). Asa ca PROBABIL mai e de munca la versiunea cea "jmekera" :)


Return to “GO-ul si IT-ul/AI-ul”

Who is online

Users browsing this forum: No registered users and 1 guest

cron