ตอนที่ 1 ย้อนรอยความพ่ายแพ้ของ Kasparov
(ในสัปดาห์หน้าจะเป็นตอนที่ 2 วิเคราะห์เกมส์หลังจากเหตุการณ์ 20 ปี)
สวัสดีครับเพื่อนๆ วันนี้ ในช่วงเวลาอันดีงามของ “คริสต์มาส” และ “ปีใหม่” นี้ทีมงาน ThaiKeras ขอมอบบทความที่ชอบมากๆ เพื่อเป็นของขวัญยามว่างให้กับเพื่อนๆ ครับ บทความสองตอนนี้จะเป็น “บทสนทนา” ที่น่าตื่นเต้นและน่าสนใจมากๆ ระหว่าง Lex Friedman อาจารย์หนุ่มไฟแรงด้าน AI จาก MIT และ Gary Kasparov อดีตแชมป์โลกหมากรุก ผู้ที่ได้รับการยอมรับว่าเป็นนักหมากรุกที่ยิ่งใหญ่ที่สุดตลอดการของโลกครับ
ก่อนจะเข้าเรื่องบทสนทนาในตอนที่ 1 นี้จะขอกล่าวถึง Lex Friedman และ Gary Kasparov สักหน่อยนะครับ
Lex Friedman อาจารย์หนุ่มไฟแรงแห่ง MIT นั้นสนใจเรื่อง AI ในมุม General อย่างมาก (ในแง่ที่ว่า AI จะขึ้นมาเป็นส่วนหนึ่งของมนุษยชาติ ไม่ใช่แค่เครื่องมือทางธุรกิจ) ซึ่งนอกจากได้เปิดคอร์สที่พวกเราก็สามารถเข้ารับฟังได้ฟรีๆแล้วก็ยังได้ไล่สัมภาษณ์คนดังระดับโลกในวงการคอมพิวเตอร์ วิทยาศาสตร์ สังคมศาสตร์ และธุรกิจมากมายเกี่ยวกับมุมมองด้าน AI ซึ่งนับว่าเป็นขุมทองที่พวกเราจะได้ฟังทรรศนะระดับโลกจากสุดยอดกูรูด้านต่างๆ ทั่วโลก ที่ในอดีตพวกเราไม่มีโอกาสได้ฟังกันง่ายๆ แน่นอนครับ เพื่อนๆ สามารถเข้าไปดูได้ที่ Youtube Channel นี้ครับ http://bit.ly/youtube-lex
ใน Channel นี้เพื่อนสามารถรับชม MIT AI lecture ได้และยังจะได้ชมการสนทนากับบุคคลระดับโลกมากมาย อาทิเช่น
- ธุรกิจและการเงิน - Elon Musk, Eric Schmidt และ Ray Dalio
- สังคมศาสตร์ - Noel Chompski และ Steven Pinker
- วิทยาศาสตร์คอมพิวเตอร์เชิงทฤษฎี - Judea Pearl, Michael Kearns และ Vladimir Vapnik
- ฟิสิกส์ - Michio Kaku, Leonard Susskind, Stephen Wolfram
- ปัญญาประดิษฐ์ - Ian Goodfellows, Peter Norvig, Sebastian Thrun, Yann LeCun, Yoshua Bengio
แต่บทสนทนาที่ผมสนใจเป็นพิเศษและไม่นึกว่าจะมีโอกาสได้รับฟังก็คือบทสนทนากับ Gary Kasparov ซึ่งเหมือนอยู่คนละหมวดหมู่กับบุคคลข้างต้นครับ!!
Gary Kasparov แชมป์โลกผู้ยิ่งใหญ่ หลายคนทราบดีว่าเป็นส่วนนึงในประวัติศาสตร์โลกเมื่อพ่ายแพ้กับ Deep Blue ในปี 1997 เหตุการณ์นี้สำคัญเทียบเท่า กับ Alpha Go ปราบ Lee Sedol เมื่อปี 2016 (และเป็นแรงบันดาลใจสำคัญของAlpha Go team อีกด้วย)
น้อยคนที่จะทราบรายละเอียดว่าการแข่งขันในปี 1997 นั้นเป็นการแข่งขันแบบ 6 เกมส์ และ Kasparov ชนะในเกมส์แรก แพ้ในเกมส์ที่สอง และเสมอในอีก 3 เกมส์ถัดมา ก่อนที่จะมาแพ้ในเกมส์สุดท้ายทำให้แพ้ไปที่คะแนน 2.5 ต่อ 3.5 และน้อยคนลงไปอีกที่จะทราบว่า Kasparov นั้นนอกจากจะสุดยอดด้านหมากรุก ยังมีความรู้ด้าน Chess AI เป็นอย่างดีมาก ทำให้วิเคราะห์จุดอ่อนและวางกลยุทธเพื่อเอาชนะ Deep Blue ในรูปแบบที่แตกต่างจากการวางกลยุทธเพื่อแข่งกับมนุษย์ทั่วไปอีกด้วย และจริงๆ แล้ว Deep Blue ท้าแข่ง Kasparov เป็นครั้งแรกในปี 1996 และก็พ่ายแพ้ให้กับKasparov ไปก่อนที่จะขอแก้มือในปี 1997
ในเกมส์ปี 1997 กติกาที่ตกลงกันก็คือ Deep Blue มีสิทธิปรับกลยุทธระหว่างแข่งทั้ง 6 เกมส์รวมทั้งเอาข้อมูล Kasparov มาวิเคราะห์ได้ แต่ทว่าในทางตรงกันข้าม Kasparov จะไม่สามารถนำข้อมูลของ Deep Blue มาวิเคราะห์ได้ อย่างไรก็ดีKasparov มั่นใจมากและปฏิเสธข้อเสนอที่ว่าผู้แพ้จะได้รับรางวัล 40% ผู้ชนะ 60% (นั่นคือ Kasparov เสนอเงื่อนไข “All or nothing - 100% สำหรับผู้ชนะและ 0 สำหรับผู้แพ้” )
โดย Kasparov เชื่อว่า Deep Blue จะไม่สามารถอ่านกลยุทธที่ “ลึก” มากๆ เช่นการยอมเสียสละหมากบางตัวที่จะส่งผลในอีกหลายสิบตาข้างหน้าได้ และทำให้ Kasparov เน้นกลยุทธด้านนี้เป็นพิเศษ อย่างไรก็ดีจุดพลิกผันเกิดขึ้นในเกมส์ที่สองของปี 1997 ซึ่ง Deep Blue ตอบโต้หมากของ Kasparov ในลักษณะเดียวกันกับ “มนุษย์” (อ้างอิงจากคำพูดของ Kasparov เอง) ซึ่งทำให้ Kasparov ตระหนกและสับสนกับกลยุทธที่ตนเองวางไว้มาก และด้วยเวลาที่จำกัดทำให้พ่ายแพ้ให้กับ Deep Blue ในเกมส์ที่สองและหก
โดย Kasparov ถึงกับกล่าวว่าทีม Deep Blue อาจมีการ “เล่นตุกติก” โดยมีมนุษย์เข้ามาช่วยในหมากนั้นๆ และได้ขอlog files ที่บันทึกการคำนวนต่างๆ ของ Deep Blue มาดู รวมทั้งยังขอแก้มือกับ Deep Blue อีกครั้งด้วย และเหตุการณ์ก็น่าสงสัยมากขึ้นเมื่อทีม Deep Blue ปฏิเสธการให้ดู log files และปฏิเสธการแก้มือของ Kasparov และยังตัดสินใจปิด project ลงอย่างถาวรอีกด้วย!
ในปี 2012 ภายหลังจากเหตุการณ์ 15 ปี Murray Campbell หนึ่งใน 3 นักวิทยาศาสตร์จากทีม Deep Blue ได้ออกมาเล่าว่าในปี 1997 ทีม Deep Blue ได้มีการปรับกลยุทธระหว่างเกมส์จริง แต่ส่วนใหญ่จะเป็นการแก้บั้กระหว่างเกมส์เท่านั้น อย่างไรก็ดีหมากในเกมส์ที่สองที่ Deep Blue ทำให้ Kasparov ตะลึงนั้นเกิดจากบั้กของโปรแกรม (!!) ที่ทำให้ ณ หมากนั้น Deep Blue ตัดสินใจเดินแบบ “random” และ Kasparov แปลความหมายผิดเข้าใจว่า Deep Blue มีกลยุทธที่“ฉลาด” มากในการตอบโต้หมากของ Kasparov และเหตุการณ์นี้ทำให้ Kasparov เสียสูญ (ไม่มั่นใจในกลยุทธของตนเองที่วางไว้) จนพ่ายแพ้ในเกมส์สุดท้ายในที่สุด
อย่างไรก็ดีหลังจากเหตุการณ์นี้ในปี 2003 , Kasparov เองก็ได้มีโอกาสแก้มือกับ AI ซึ่งได้ชื่อว่าเป็นผู้สืบทอดของDeep Blue ทั้งสองคือ “Deep Junior” และ “Fritz” และผลที่ได้คือเสมอทั้งสองการแข่งขัน (6 เกมส์ต่อหนึ่งการแข่งขัน)
Vladimir Kramnik แชมป์โลกคนถัดจาก Kasparov ก็มีโอกาสได้แข่งกับ Fritz ในปี 2002 ซึ่งผลคือเสมอและแพ้ไปสูสี4-2ในปี 2006 (โดยกติการอบนี้คือไม่มีการแก้โปรแกรมระหว่างการแข่ง และ Kramnik ยังมีสิทธิแข่งรวมทั้งวิเคราะห์การเล่นของ Fritz ก่อนการแข่งจริงอีกด้วย)
จากเหตุการณ์นี้อาจมองได้ว่ามนุษย์เองก็ยังไม่ด้อยกว่าคอมพิวเตอร์ซะทีเดียว หรืออาจมองได้ว่ามนุษย์อาจไม่สามารถเอาชนะคอมพิวเตอร์ได้อีกแล้ว ซึ่งจะนำมาสู่บทสนทนาที่น่าสนใจมากระหว่าง Lex และ Kasparov ในปี 2019 นี่เองครับ!!
อ้างอิง
(2) https://www.wired.com/2012/09/deep-blue-computer-bug/ (ในบทความนี้มีคำกล่าวของ Murray Campbell หนึ่งใน Deep Blue ที่บอกว่าเกิด Bug ขึ้นระหว่างแข่งขัน)
(3) https://time.com/3705316/deep-blue-kasparov/
(4) https://en.m.wikipedia.org/wiki/Garry_Kasparov#Chess_and_computers
ตอนที่ 2 บทสนทนาระหว่าง Lex และ Kasparov
สวัสดีปีใหม่ครับเพื่อนๆ ในวาระฤกษ์งามยามดีนี้เรามาเข้าเรื่องบทสนทนาระหว่าง Lex และ Kasparov กันครับ
จริงๆ แล้ว Lex กับ Kasparov ได้พูดคุยกันกว่า 1 ชม. แต่ในที่นี่เราขอตัดเฉพาะส่วนที่เกี่ยวข้องกับ Deep Blue ราวๆ 15 นาทีมาครับ (ดูคลิปได้ที่นี่ : https://youtu.be/hbtuHtrViPo)
Lex เริ่มต้นด้วยการกล่าวท้าวความว่า ถ้าเรามองภาพใหญ่ของประวัติศาสตร์มนุษยชาติ เหตุการณ์ที่ Kasparov พ่ายแพ้ในปี 1997 นั้นนับว่าเป็นก้าวย่างที่สำคัญของมนุษย์เป็นอย่างยิ่ง เสมือนเราได้คิดค้นเครื่องมือ “แห่งความฉลาด” ชิ้นหนึ่งได้สำเร็จเป็นครั้งแรกของโลก
Kasparov กล่าวว่าการพ่ายแพ้ในครั้งนั้นไม่เพียงเป็นการพ่ายแพ้ต่อคอมพิวเตอร์เป็นครั้งแรก แต่ยังเป็นการหยุดสถิติ “ไร้พ่าย” อันยาวนานของ Kasparov ลงอีกด้วย แต่เมื่อตั้งสติแล้วมองเหตุการณ์ย้อนหลังทั้ง 20 ปีแล้วเราได้ข้อคิดต่างๆ มากมาย
Winner Game vs. Loser Game
เรื่องแรกที่พวกเราทั้งหมดอาจจะเข้าใจผิดกันตั้งแต่แรกก็คือ การตั้งโจทย์ครับ โจทย์ที่ว่า “การพิชิตแชมป์โลกหมากรุก” คือตัวแทนของ “ความฉลาด” นั้น “ไม่จริง” (Winner Game - ใครฉลาดกว่าชนะ) เพราะแม้แต่โปรแกรมหมากรุกที่ดีที่สุดในโลกในปัจจุบัน (Kasparov กล่าวถึง Stockfish และ Komodo ซึ่งเป็นสุดยอดโปรแกรมหมากรุกในปัจจุบัน) นั้นก็ไม่ได้สร้าง “ตาเดินที่ดีที่สุด” โดยเพราะว่าการคำนวนตาเดินที่ดีที่สุดต้องคำนวนความเป็นไปได้ถึง 10 ยกกำลัง 46 รูปแบบซึ่งแม้แต่คอมพิวเตอร์ที่เร็วที่สุดในปัจจุบันก็ยังห่างไกลจากตัวเลขนี้
แต่สิ่งที่ Chess AI เหล่านี้ทำคือ “การเดินผิดพลาดให้น้อยที่สุด” ต่างหาก และทำให้หมากรุกเป็น “Loser Game - ใครพลาดมากกว่าแพ้” แทน ซึ่งท่ามกลางความกดดันในเวลาที่กำหนด แม้นแต่นักหมากรุกระดับโลกอย่าง Kasparov หรือแม้กระทั่งแชมป์โลกคนอื่นๆ ก็ยังไม่สามารถเอาชนะความกดดันที่ทำให้เดินหมากผิดได้ครับ และคอมพิวเตอร์เองซึ่งถูกโปรแกรมมาให้ผิดพลาดน้อยที่สุดก็จะฉกฉวยความได้เปรียบเล็กๆ น้อยของความผิดพลาดแต่ละครั้งของมนุษย์ (Capitalize each mistake) จนกระทั่งกลายเป็นความพ่ายแพ้ของมนุษย์ในที่สุด
Kasparov กล่าวติดตลกว่าในการถ่ายทอดสดเกมส์หมากรุกในปัจจุบันนั้นแตกต่างจากเดิมมาก ในอดีตผู้บรรยายจะบรรยายแต่ละหมากอย่างเผ็ดร้อน เช่น “โอ้วว ในเกมส์ที่ 5 หมากนี้ Kasparov วางได้สุดยอดจริงๆ ครับ!” ในปัจจุบันคำบรรยายจะเกิดจากเอาหมากของผู้แข่งขันเข้าโปรแกรมคอมพิวเตอร์และบรรยายอย่างเรียบง่าย (หรือน่าเบื่อ) ว่า “ในเกมส์ที่ 5 นี้ ผู้เข้าแข่งขันคนแรกเดินผิดไป 5 ครั้ง ในขณะที่ผู้เข้าแข่งขันคนที่สองเดินผิดไป 7 ครั้งซึ่งทำให้คนแรกได้เปรียบ” แทน
Kasparov กล่าวอย่างน่าสนใจว่า Chess AI “เอาชนะเกมส์” (Game Solving) ในระบบ Closed System ซึ่งมีกฏ กติกาตายตัว ไม่ยืดหยุ่น ไม่มีความไม่แน่นอน ไม่มีปัจจัยที่คาดไม่ถึงมาเกี่ยวข้อง ซึ่งไม่ใช่สถานการณ์ที่วัด “ความฉลาด” ที่แท้จริงของมนุษย์ ซึ่งอาศัยอยู่ในโลกของ “Open System” ซึ่งไม่มีกฏอะไร และมีความไม่แน่นอน ผันผวนสูง ปัจจุบันปัญหาเรื่องการตีความหรือทำความเข้าใจภาษาอย่างแท้จริง คอมพิวเตอร์ยังห่างชั้นจากมนุษย์มาก
( เสริมโดย ThaiKeras : แม้เราจะได้เห็นงานวิจัยทางภาษาใหม่ๆ ที่อ้างว่าทำได้ดีเทียบเท่ามนุษย์แล้วอยู่บ่อยๆ อย่างไรก็ตามงานเหล่านั้นล้วนเป็นงานที่ทำได้เฉพาะใน context สั้นๆ เท่านั้น เช่น AI ที่ดีที่สุดในปี 2019 เกี่ยวกับการอ่านบทความยาวๆ แล้วสามารถย่อความ หรือตอบคำถามได้ ยังมีข้อจำกัดอยู่มาก อาทิเช่น
(1) คำถามที่ถามจะเป็นคำถามตรงๆ เท่านั้น เช่น ใคร อะไร ที่ไหน ถ้าเป็นคำถามเชิงวิเคราะห์ จะตอบไม่ได้ หรือตอบมั่ว (เพราะไม่มีข้อมูลสอน) ยกตัวอย่างเช่น อ่านนิยายคดีฆาตกรรม แล้วจะหวังให้ AI วิเคราะห์ให้เราว่าใครเป็นฆาตกร AI ไม่สามารถทำได้ (และยังห่างไกลจากจุดนี้มากๆ)
(2) บทความที่ยาวที่สุดที่นำมาทดสอบยังเป็นบทความบนวิกิพีเดีย ซึ่งก็ถือว่ายาวระดับนึง แต่ยังห่างชั้นจากมนุษย์ที่สะสมองค์ความรู้ตั้งแต่เด็กจนโต และสามารถตอบคำถามที่อยู่บนองค์ความรู้ทั้งหมดได้ (เทียบเท่าการตอบคำถามที่ซับซ้อนจากหนังสือหลายร้อยเล่ม) )
Alpha Zero เป็นของจริง
นอกจากนั้น Kasparov ยังให้ความเห็นอย่างเฉียบคมว่า Machine Learning ปัจจุบันทีเรียนรู้จากข้อมูลก็ยังเป็นลักษณะเรียนรู้แบบตรงๆ ไม่สามารถจัดลำดับความสำคัญได้ โดยไม่สามารถทราบ “Teritories of dinishing return” (เป็นแนวคิดรูปทางเศรษฐศาสตร์ หมายถึง ส่วนเนื้อหาที่เรียนไปก็แทบไม่ได้ประโยชน์อะไรเพิ่มจากความรู้ที่มี) และยังไม่สามารถ “Ask the right question” หรือวิเคราะห์คำถามหรือสิ่งที่ควรจะเรียนรู้ได้ด้วยตัวเอง
กล่าวโดยสรุป Computer Chess รุ่นใหม่ทั้งหมด (ยกเว้น Alpha Zero ของ DeepMind ซึ่งจะกล่าวถึงภายหลัง) อาจเรียกตาม Claude Shannon ได้ว่าเป็นเพียง Type-A System เท่านั้น
Type-A System คือ โมเดลที่โดยเนื้อแท้แล้วเพียงพยายามพิจารณาทุกเส้นทางและทำผิดพลาดให้น้อยที่สุด (เสริมโดย ThaiKeras : ความหมายของ Type-A system ดูได้จากเอกสารอ้างอิง 2. — จะเห็นได้ว่า Kasparov มีความรู้และเข้าใจใน Computer Science เป็นอย่างดีมากครับ) มีเพียงระบบเดียวที่ Kasparov เห็นได้ว่าเป็นจุดเริ่มต้นอนาคตของ AI จริงๆ ก็คือ Alpha Zero ของ Deep Mind (ซึ่งมี version หมากรุกด้วย ดูเอกสารอ้างอิง 3.) ซึ่ง Alpha Zero นั้นเรียนรู้ Pattern ใหม่ๆ ที่เลยออกไปเกินกว่าการคำนวนของคอมพิวเตอร์ได้จริง จากการทดลองเล่นซ้ำแล้วซ้ำเล่าหลายล้านกระดาน ซึ่งเป็นครั้งแรกของสิ่งที่ Kasparov เรียกว่า “Machine produces knowledge” และ Lex เรียกว่าเสมือนเป็น “Intuition” หรือ “สัญชาติญาณ” ของมนุษย์นั่นเองครับ
อย่างไรก็ดี Alpha Zero ก็มีจุดอ่อนที่สำคัญ! โดย Kasparov ที่ถูกเชิญไปเยือน DeepMind Lab และได้ร่วมวิเคราะห์จุดอ่อนของ Alpha Zero กับทางทีมก็ได้พบบางหมากที่ Alpha Zero เดินผิดพลาด ซึ่งจากการพูดคุยกับทางทีม DeepMind นั้น ผลปรากฏว่ากว่าที่ Alpha Zero จะเรียนรู้ความผิดพลาดนี้ได้ ยังต้องแพ้หมากนี้อีกนับแสนกระดาน!!
ซึ่งที่กล่าวมาทั้งหมดก็เป็นมุมมองอนาคตโดย Kasparov ว่าคนและ “AI” ต้องคอยเกื้อหนุนกันเพื่อผลลัพธ์ที่ดีที่สุด ไม่ใช่แข่งกันเองครับ
พบกันใหม่สัปดาห์หน้า ขอให้มีความสุขและประสบความสำเร็จในปี 2563 นี้ครับเพื่อนๆ
อ้างอิง (1) คลิปที่ Kasparov และ Lex พูดคุยในบทความนี้ https://youtu.be/hbtuHtrViPo
(2) เรื่อง Type-A System ของ Claude Shannon https://www.chessprogramming.org/Claude_Shannon
(3) Alpha Zero เวอร์ชั่นหมากรุก https://en.m.wikipedia.org/wiki/AlphaZero#Chess
