7.4.3 Observations and Actions

Hanabi์˜ action space๋ฅผ ์‚ดํŽด๋ณด์ž๋ฉด, ๊ฐ agent๋Š” ๊ฐ ์นด๋“œ์— ๋Œ€ํ•ด ๋ฒ„๋ฆฌ๊ฑฐ๋‚˜, ๋“ฑ๋กํ•˜๋Š” Nhร—2 N_h \times 2 ์˜ ํ–‰๋™์„ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ, Ncolor+Nrank N_{\mathrm{color}}+ N_{\mathrm{rank}}์— ๋Œ€ํ•œ ํžŒํŠธ๋ฅผ ์ค„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ์ƒ๋Œ€์˜ ํŒจ์ค‘ rank๋‚˜ color์— ๋Œ€ํ•ด ์•Œ๋ ค์ค„ ์ˆ˜ ์žˆ๋Š”๋ฐ,(๋‘˜ ์ค‘ ํ•˜๋‚˜๋งŒ) ์ด๋Š” ํŒจ์˜ ๊ฐ™์€ rank ํ˜น์€ color์— ๋Œ€ํ•ด ๋ชจ๋‘ ์•Œ๋ ค์ค„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ฒ˜์Œ์— ๋ชจ๋‘์˜ ํ† ํฐ 8๊ฐœ๋ฅผ ๊ฐ€์ง€๊ณ  ์‹œ์ž‘ํ•ฉ๋‹ˆ๋‹ค. ํžŒํŠธ์— ๋Œ€ํ•œ ๋Œ€๊ฐ€๋Š” 1๊ฐœ์˜ ํ† ํฐ์ด๊ณ , ์นด๋“œ๋ฅผ ํ•˜๋‚˜ ๋ฒ„๋ฆผ์œผ๋กœ์จ ๋‹ค์‹œ ํ•˜๋‚˜๋ฅผ ์–ป์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ชจ๋“  agent๊ฐ€ ์นด๋“œ๋ฅผ ์†Œ์ง„ํ•˜๋ฉด, ์ž์‹ ์˜ ํ„ด์— ๋ฑ์—์„œ ์นด๋“œ๋ฅผ ๋ฝ‘์Šต๋‹ˆ๋‹ค. ๋งŒ์•ฝ ํ•œ agent๊ฐ€ ๋งˆ์ง€๋ง‰ ์นด๋“œ๋ฅผ ๋ฝ‘์œผ๋ฉด, ๊ทธ agent๋ฅผ ํฌํ•จํ•œ ๋ชจ๋“  agent๊ฐ€ ํ•œ๋ฒˆ์˜ action์„ ๋Œ์•„๊ฐ€๋ฉด ํ•œ ๋’ค ๊ฒŒ์ž„์€ ๋๋‚˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค.

๊ฒŒ์ž„์˜ ๋ชฉํ‘œ๋Š” ๊ฐ ์ปฌ๋Ÿฌ๋ณ„NcolorN_{\mathrm{color}}์— ๋Œ€ํ•ด rank 1๋ถ€ํ„ฐ ์˜ค๋ฆ„์ฐจ์ˆœ์œผ๋กœ rank NrankN_{\mathrm{rank}}๊นŒ์ง€ ๋ฐฐ์—ดํ•˜๋Š” ๊ฒƒ์ด ๋ชฉํ‘œ์ž…๋‹ˆ๋‹ค. ๋งŒ์•ฝ ํ•œ ์ปฌ๋Ÿฌ์— ๋Œ€ํ•ด NrankN_{\mathrm{rank}}๊นŒ์ง€ ์ฑ„์›Œ์กŒ๋‹ค๋ฉด, hint ํ† ํฐ์„ํ•˜๋‚˜ ๋” ๋ฐ›๊ฒŒ๋ฉ๋‹ˆ๋‹ค. agent๊ฐ€ ๋งŒ์•ฝ ์ž˜ ๋ชป ๋“ฑ๋ก์„ ํ•˜๊ฒŒ ๋œ๋‹ค๋ฉด, 3๊ฐœ ์žˆ๋Š” life point์—์„œ ํ•˜๋‚˜๋ฅผ ๋ฒ„๋ฆฌ๊ฒŒ๋˜๊ณ , ๊ทธ ์นด๋“œ๋„ ๋ฒ„๋ฆฌ๊ฒŒ ๋ฉ๋‹ˆ๋‹ค. ๋งŒ์•ฝ agent๊ฐ€ ๋“ฑ๋ก์„ ์ œ๋Œ€๋กœ ํ•œ๋‹ค๋ฉด, 1 ํฌ์ธํŠธ๋ฅผ ์–ป๊ฒŒ ๋˜๊ณ , ์ด ๋•Œ, ์ตœ๊ณ ๋กœ ๋ฐ›์„ ์ˆ˜ ์žˆ๋Š” ์ ์ˆ˜๋Š” NcolorN_{\mathrm{color}}NrankN_{\mathrm{rank}} ์ž…๋‹ˆ๋‹ค.

Last updated

Was this helpful?