https://substackcdn.com/image/fetch/w_1456,c_limit,f_webp,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ff0bd6e20-284a-4364-86cf-078a8e87c024_1223x683.png

- ฝึกตั้งคำถาม พูดคุยกับโมเดล AI ให้ได้คำตอบดีที่สุด (Prompting)

- เขียนโปรแกรมครอบโมเดล AI ให้ทำงาน routine หรือ งานหลากหลายได้สะดวก (Agentic AI)

- ศึกษาโมเดล AI อย่างลึกซึ้ง ทั้งในแง่สมการคณิตศาสตร์ และการเขียนโปรแกรมสร้างมันขึ้นมา

Level

ระดับผู้ใช้งาน (User Level) : สำหรับงานส่วนตัวและธุรกิจทั่วไป ต้องเชี่ยวชาญเรื่อง Prompting และติดตามเรียนรู้ tools และ technology ใหม่ๆ สม่ำเสมอ เพื่อให้ได้คำตอบจาก AI ที่สมบูรณ์ มีเหตุผล ตรงตามความต้องการมากที่สุด

Level

ระดับโปรแกรมเมอร์ (Programmer Level): สำหรับการนำ AI ไปต่อยอดสร้าง Applications หรือการใช้งาน AI กับปัญหาที่มีความซับซ้อนมากขึ้น โดยปัญหาเหล่านี้ต้องมีการปรึกษา AI ซ้ำหลายรอบ (iterations) หรือมีการตรวจหรือพัฒนาคำตอบ ต้องมุ่งเน้น Agentic Programming เพื่อให้การติดต่อ AI หลายรอบนี้ทำได้อย่างง่ายและประสิทธิภาพสูง

Level

ระดับนักพัฒนา (Developer Level): สำหรับบริษัท นักวิจัย นักวิทยาศาสตร์ วิศวกรด้าน AI ที่จริงจังและต้องการปรับเปลี่ยนพฤติกรรมและความรู้ของ AI อย่างมีนัยสำคัญ การนำ AI ไปช่วยเหลือในงานผลิตภัณฑ์เฉพาะทาง เช่น ออกแบบโมเลกุลยา เป็นต้น ควรต้องศึกษา AI Fundamental อย่างลึกซึ้ง เนื่องจากต้องมีการออกแบบโปรแกรมการสอน และข้อมูลสอน AI ให้ถูกต้อง

Level

ระดับนักพัฒนาขั้นสูง (Advanced Level): สำหรับองค์กรขนาดใหญ่ ที่ไม่เพียงต้องการปรับความรู้และพฤติกรรมของ AI แต่ยังต้องการรีดเค้นให้ AI มีประสิทธิภาพสูงที่สุด (แม่นยำ เร็ว และประหยัดที่สุด) ต้องเรียนรู้ตลอดเวลาเพื่อประยุกต์ใช้เทคนิคขั้นสูง และดัดแปลงงานวิจัยใหม่ๆ ที่ได้รับการพิสูจน์และยอมรับในวงกว้าง โดยอาจต้องมีการแก้ ดัดแปลงโค้ด จาก OpenSource อย่างมีนัยสำคัญ

Level

ระดับดาราในวงการ (Star Level) : หรืออาจเรียกว่า นักวิจัยระดับโลก สำหรับนักวิจัยที่อยู่ในวงการและมีส่วนร่วมในการขับเคลื่อนทิศทางด้วยการคิดค้นนวัตกรรม AI ในระดับสากล ต้องมีพื้นฐาน Level 3 และ 4 อย่างแข็งแรง รวมทั้งเข้าใจงานวิจัยในงานประชุมวิชาการด้าน AI ที่ดีที่สุด เช่น ICLR, NIPS หรือ ICML อย่างลึกซึ้งทั้งภาคทฤษฎี สมการคณิตศาสตร์ และการ Implementation

1) OCR (Optical Character Recognition) หรือการอ่านตัวหนังสือ (ลายมือหรือตัวพิมพ์) จากรูปภาพ นั้นเป็นงานที่พัฒนากันมาหลายสิบปีและมีโมเดลดีๆ ให้ใช้มากมาย ยกตัวอย่างเช่น EasyOCR หรือ TransformerOCR โมเดล OCR บางครั้งต้องนำมาใช้ก่อนจะนำไปเข้า Document AI ประเภทอื่นๆ

---

2) Document Classification หรือ การจำแนกประเภทเอกสารต่างๆ เช่น เอกสารเป็นบันทึก เป็นจดหมายราชการ หรือเป็น email เป็นต้น

วิธีการที่ง่ายที่สุดในการทำ Doc Classification คือนำเอกสารต่างๆ เข้า OCR ก่อนที่จะฝึกและจำแนกด้วย Text Model เช่น BERT เป็นต้น

อย่างไรก็ดี "รูปแบบการจัดเรียง" หรือ layout ของเอกสารเหล่านี้ มักมีเอกลักษณ์เฉพาะตัว (ดูรูปที่ 1 และหัวข้อถัดไป) ดังนั้นถ้าเรานำการจัดเรียง หรือ layout มาพิจารณาด้วย (นอกจากข้อความจาก OCR) จะทำให้การ classification ง่ายขึ้นอย่างมาก จึงเป็นที่มาของโมเดลเช่น LayoutLM, LayoutLMv2 และ LayoutLMv3 เป็นต้น

ใน dataset มาตรฐาน OCR+BERT นั้นทำทำความแม่นยำ 89% ในขณะที่ LayoutLM3 นั้นแม่นยำถึง 95% จากการใช้ Layout

----

3) Layout Analysis : การวิเคราะห์ layout คือการจำแนกแต่ละบล็อกของเอกสาร (ดูรูปที่ 2) เช่น บล็อกตาราง บล็อกรูปภาพ หรือบล็อกข้อความ รวมทั้งตำแหน่งของแต่ละบล็อก เป็นต้น

งาน layout analysis นี้สามารถมองเป็นงาน image object detection ได้ดังแสดงในรูปที่ 2 ซึ่งจะทำให้ได้คลาสและตำแหน่งของบล็อกที่ต้องการ

สามารถใช้งาน LayoutLMv3 จัดการงานนี้ได้ครับ

---

4) Document Parsing : คือขั้นต่อจาก Layout Analysis นั่นคือนอกจากจะ detect แต่ละบล็อกได้อย่างถูกต้องแล้ว ยังสามารถดึงข้อมูลในบล็อกแต่ละประเภทได้อย่างเหมาะสมอีกด้วย ลองใช้โมเดล Donut หรือ ErnieLayout ได้ครับ

---

5) Table Detection, Extraction and Recognition : งานดึงข้อมูลจาก Table อาจต้องใช้โมเดลอื่นที่มีความแม่นยำมากกว่าโมเดล Document Parsing ทั่วไป โมเดล Table Transformers ถูกออกแบบมาเพื่องานนี้โดยเฉพาะครับ

---

6) Document Q&A : ขั้นถัดไปของ Document AI คือไม่ใช่แค่บันทึกข้อมูลในเอกสารลงคอมพิวเตอร์อย่างถูกต้องเท่านั้น แต่เรายังสามารถถามคำถามต่างๆ เกี่ยวกับเอกสารเหล่านั้นได้ โดยเป็นคำถามภาษามนุษย์ ไม่ใช่ภาษาคอมพิวเตอร์เช่น SQL ดูตัวอย่างในรูปที่ 3 ครับ

โมเดลเช่น Donut สามารถจัดการงานเหล่านี้ได้และลองเล่นได้ที่นี่ครับ https://huggingface.co/spaces/impira/docquery

---

เพิ่มเติม 1. โมเดลเช่น LayoutLM เวอร์ชั่นต่างๆ ไม่อนุญาตให้นำไปใช้งานได้แบบ commercial ก่อนจะใช้งานโมเดลเหล่านี้ในทาง commercial ให้ตรวจสอบ licence ดีๆ

เพิ่มเติม 2. ในการสร้าง Database ของ Document เหล่านี้เพื่อ query ในการใช้งานในอนาคต เราสามารถใช้โมเดลใดก็ได้ข้างบน ประมวลผล Document ให้เปลี่ยนเป็นรูป Vector และสามารถสร้าง Vector Fast Query System เช่น FAISS ในการค้นข้อมูลได้ครับ

.

เพิ่มเติม 3 : ดูตัวอย่าง notebook การใช้งานโมเดลต่างๆ ได้ที่นี่ครับ

https://github.com/NielsRogge/Transformers-Tutorials


อ้างอิง

EasyOCR : https://huggingface.co/spaces/tomofi/EasyOCR

Transformer OCR : https://huggingface.co/docs/transformers/model_doc/trocr

LayoutLMv3 : https://huggingface.co/docs/transformers/main/en/model_doc/layoutlmv3

Donut : https://huggingface.co/docs/transformers/model_doc/donut

ErnieLayout : https://huggingface.co/spaces/PaddlePaddle/ERNIE-Layout

Table Transformers : https://huggingface.co/docs/transformers/main/en/model_doc/table-transformer

FAISS : https://github.com/facebookresearch/faiss

ThaiKeras and Kaggle - 9 Jan 2022

สวัสดีครับ ถ้าถามถึงโมเดล Deep Learning ที่คนส่วนใหญ่ใช้งานมากที่สุด รวมทั้งให้ประสิทธิภาพความแม่นยำสูงสุด เชื่อว่า Convolution Neural Networks (CNNs) และ Transformers น่าจะเป็น 2 โมเดลที่พวกเรานึกถึงเป็นอันดับแรก เนื่องจากสองโมเดลนี้ใช้งานได้กับประเภท Data ที่พบกันได้มากที่สุด เช่น รูปภาพ วิดิโอ ข้อความ และเสียง (Image, Video, Text และ Speech) เป็นต้น

อย่างไรก็ดียังมีข้อมูลอีกหลายประเภทที่มีโครงสร้างเฉพาะ ทำให้ CNNs หรือ Transformers ไม่สามารถใช้ประโยชน์จากโครงสร้างเฉพาะนั้นได้ในประโยชน์สูงสุด เช่น

• ข้อมูล Social Media เช่น Pinterest ที่มี data อยู่สองประเภทคือ "Pin" (รูปภาพ) และ "Board" (คอลเลคชั่นของรูปภาพ) โดยแต่ละ Pin อยู่ได้หลายบอร์ด และแต่ละบอร์ดมีได้หลาย Pins ตามรูปที่ 1 และเราต้องการให้โมเดลทำนายความสัมพันธ์ระหว่าง Pin และ Board 

  

สังเกตว่าปัญหานี้ input จะประกอบไปด้วยรูป pin หลายๆ รูปเชื่อมโยงกัน ซึ่งต่างจากกรณีใช้งานของ CNNs ปกติ ที่มักใช้ทำนายคุณสมบัติของรูปภาพ หรือ Pin ทีละรูป

• ข้อมูลทางเคมี เช่น ปัญหาการคิดค้น "ยา" ประเภทใหม่ (Drug Discovery) โดยตัวยานั้นแท้จริงแล้วคือ "โมเลกุล" ของอะตอมต่างๆ ทางเคมีที่มาอยู่รวมกันด้วยพันธะทางเคมีต่างๆ ซึ่ง Transformers หรือ CNNs ไม่สามารถนำโครงสร้างของ "พันธะ" เหล่านั้นมาคำนวนในโมเดลได้โดยตรง ดูรูปที่ 2

  

• ข้อมูลทางชีววิทยา เช่น สายสตริง RNA ซึ่งประกอบไปด้วยตัวอักษร A G U C ซึ่งในการโมเดลและทำนายคุณสมบัติของ RNA นั้นเราอาจจะมองว่า RNA เป็น string ธรรมดาเรียงต่อกัน และใช้โมเดลเช่น Recurrent Neural Networks (RNNs) หรือ Transformers ก็ได้ ทว่าแท้จริงแล้วสายสตริง RNA นั้นมี "รูปร่าง" การขดตัวเฉพาะตัวอยู่ ดังแสดงในรูปที่ 3 และข้อมูลที่จุดที่แต่ละตัวอักษรสัมผัสกันนั้น ไม่สามารถป้อนให้ RNNs หรือ Transformers ตรงๆ ได้

ตัวอย่างทั้ง 3 และข้อมูลที่เจอใน applications อื่นอีกมากมายนั้นสามารถ represent ได้ด้วย "กราฟ" ทางคณิตศาสตร์ ซึ่งประกอบไปด้วยเซ็ตของ Nodes และเซ็ตของ Edges โดย edge ก็คือเส้นเชื่อมระหว่าง 2 nodes ใดๆ ในกราฟ ซึ่งจะเห็นได้ว่าไม่ว่าจะเป็น พันธะเคมี การเชื่อมระหว่าง Pin/Board หรือตัวอักษรที่ติดกันในสาย RNA สามารถโมเดลด้วย edge ในกราฟได้

นั่นคือในปัญหาดังกล่าว เราสามารถระบุ input ให้อยู่ในรูปกราฟได้นั่นเอง ดังนั้นจึงเป็นจุดกำเนิดโมเดล deep learning ประเภทใหม่ที่สามารถรับกราฟเป็น input เพื่อทำนายในสิ่งที่เราสนใจได้ ซึ่งโมเดลที่ว่านั้นก็คือ Graph Neural Networks (GNNs) นั่นเอง

(ทบทวนทฤษฎีกราฟที่นี่ https://en.wikipedia.org/wiki/Graph_theory )

.

Graph Neural Networks (GNNs)

GNN ก็คือโมเดล neural network ที่รับกราฟเป็น input และ output เป็นคำทำนาย ซึ่งโดยปกติทำนายได้ 3 รูปแบบ คือ Graph prediction, node prediction และ edge prediction เช่น

• Graph prediction ใน Drug Discovery : ทำนายว่า "กราฟ" ของโมเลกุลนั้นสามารถทำหน้าที่เป็น "ยา" (ฆ่าเชื้อ หรือยับยั้งเชื้อ ฯลฯ) ได้ดีหรือไม่ ดังแสดงในรูปที่ 4
• Node prediction ใน RNA string : ทำนายว่าแต่ละโหนดในกราฟของ RNA นั้น "ทนทาน" ต่อความร้อนในมากแค่ไหน (ทำนายทุกโหนดในกราฟ)
• Edge prediction ใน Pinterest : ทำนายว่า Pin ใหม่ที่ user เพิ่ง upload เข้ามาควรจะถูก recommend ใน board ใดหรือไม่ (มี edge เชื่อมระหว่างโหนด pin และโหนด board หรือไม่)

https://i.ibb.co/kmW6cyh/4-drug-prediction.png

.

ว่าด้วยเรื่องการระบุ input ให้อยู่ในรูปกราฟ

ใน CNNs หรือ Transformers , inputs นั้นจะอยู่ในรูปของ vectors หรือ matrix หรือ tensor ขึ้นกับจำนวนมิติของ input เช่น image 1 รูปอาจเป็น 3D tensor ขนาด 512x512x3 ส่วน texts อาจเป็น sequence of vectors (หรือ matrix = 2D tensor) อาทิ เช่น 2,048 x 500,000 โดย 2048 คือจำนวน "คำ" สูงสุดในข้อความและ 500,000 คือ 1-hot vector ที่ระบุ vocabulary หรือคำศัพท์ทั้งหมดที่โมเดลรู้จัก เป็นต้น

เมื่อ input เราเป็นกราฟนั้น ตามนิยาม inputs ก็มักจะประกอบไปด้วย input สองส่วน นั่นคือ node-input และ edge-input นั่นเอง ดั่งแสดงในรูปที่ 5

นั่นคือเรา represent Graph G = (X, A) โดย X แทน vectors ทั้งหมดของทุกโหนดในกราฟ ,  ส่วน A ระบุ edges ในกราฟ

ในรูปที่ 5 แสดงกรณีเรามี input 3 กราฟ ซึ่งแทนด้วย G_1สีส้ม G_2เขียว G_3น้ำเงินตามลำดับ

https://i.ibb.co/7RmLcBM/5-graph-representation.png

สังเกตกราฟ G_1 สีส้ม

• X_1 ก็คือ matrix ที่แต่ละแถวประกอบไปด้วย vector ของแต่ละโหนด
• A_1 คือ Adjacency-matrix หรือ Edges-matrix ที่ระบุว่าโหนดใดเชื่อมต่ออยู่กับโหนดใด เช่น ในตัวอย่างนี้มีโหนดทั้งหมด 5 โหนดแทนด้วย x0, x1, x2, x3, x4 สังเกตจากสีได้ว่า A_1 ระบุว่า node x_0 เชื่อมกับ x_1 และ x_3 เป็นต้น โดย A_i อาจเป็น 0/1 หรืออาจเป็น real number ซึ่งแสดง weight ของ edge ก็ได้

.

ในการเขียนโค้ดเช่น keras  เนื่องจากกราฟนั้นแทนด้ย 2 input tensors, แทนที่เราจะเรียก model.fit(X,y) ตามปกติเหมือนโมเดลอื่นๆ

เราก็จะต้องเตรียม 2 inputs X,A และเรียกใช้งานแบบนี้ครับ

model.fit(, y)

(โค้ด keras ในบทความหน้า)

.

ในปัญหา drug discovery นั้น 1 กราฟแทนด้วย 1 โมเลกุลของยาที่เราต้องการทดสอบ ทำนองเดียวกันกับปัญหา RNA ที่ 1 กราฟแทนด้วย 1 RNA string

ในปัญหา Pinterest's edge prediction ที่อธิบายข้างต้นนั้น การออกแบบกราฟอาจจะไม่ชัดเจนเท่า 2 ปัญหาข้างต้น โดยในทางปฏิบัติเราอาจจัดหมวดหมู่ category ของรูปภาพตาม popular tags โดยอาจจะเจาะจง 10,000 tags ที่ได้รับความนิยมสูงที่สุด  และแทนให้แต่ละ tag คือ 1 กราฟ

โดยแต่ละ กราฟ นั้นก็จะมี pin และ board ทั้งหมดที่ถูก tag นั้นๆ อยู่ในกราฟ ซึ่งในกรณี pinterest นั้นแต่ละกราฟจะมีขนาดใหญ่มหึมา เนื่องจากแต่ละกราฟอาจประกอบไปด้วยรูป pin ถึงหลักแสน หลักล้าน หรือมากกว่า

.

เรา represent node-input ในรูป vector ได้อย่างไร?

ในกรณีของโมเลกุลและ RNA นั้นเราสามารถใช้ one-hot vector เพื่อระบุว่าแต่ละโหนดเป็น โมเลกุล/RNA-base ประเภทใด และเรียนรู้ embedding vector ของ 1-hot vector นั้นๆ อีกที (ใช้ tf.keras.layers.Embedding )

ส่วนตัวอย่าง Pinterest ซึ่งแต่ละกราฟประกอบไปด้วยโหนดซึ่งแทนด้วยรูปภาพ pin หลักล้านรูป และโมเดล GNN ต้องรับ input นี้เข้าไปเพื่อทำนายนั้น

อาจทำให้สงสัยว่าจะเป็นไปได้ในทางปฏิบัติหรือ เพราะในกรณี CNNs ปกตินั้นแค่รับ input ด้วยภาพขนาด 1 batch นั้นในแต่ละ batch ก็มักจะมีขนาดหลักร้อยหรือหลักพันเท่านั้น สำหรับ GPU ที่มีหน่วยความจำมาตรฐานขนาด 16GB-32GB

ในกรณีของ Pinterest และ GNN นั้นแต่ละรูปไม่จำเป็นต้อง input ด้วย raw image (เช่น ขนาด 512x512x3) แต่อาจจะเป็น processed vector หรือ image vector ที่ผ่านโมเดล Neural Networks อื่นมาก่อนแล้ว เช่นเป็น Pooling output ของ EfficientNet-B0 ซึ่งเป็น vector ขนาด 1280x1 เป็นต้น

(ยิ่งไปกว่านั้น ในกรณีนี้ Pinterest ยังออกแบบ Graph sampling หรือการสุ่ม sub-graph เพียงบางส่วนขึ้นมาทำนายเพื่อประหยัดขนาดของข้อมูลได้อีก ดูรายละเอียดได้ที่ Pinterest blog : https://medium.com/pinterest-engineering/pinsage-a-new-graph-convolutional-neural-network-for-web-scale-recommender-systems-88795a107f48 )

.

Message passing ใน GNN

หัวใจของโมเดล Deep Learning เช่น CNNs หรือ Transformers ก็คือการเปลี่ยน input ที่อยู่ในรูปแบบดั้งเดิม (raw) เปลี่ยนให้เป็นเวกเตอร์ทางคณิตศาสตร์ (เรียก embedding vector) เช่น EfficientNet เปลี่ยนรูปภาพ 512x512x3 ให้เป็น 1280x1  หรือ BERT Transformers เปลี่ยน 1-hot vector ของ "คำศัพท์" แต่ละคำเป็น 768x1 เป็นต้น

โดยการเปลี่ยนข้อมูล input จาก raw ให้เป็นเวกเตอร์นั้นถ้าพูดกันในภาพรวมจะผ่าน 2 กระบวนการดังนี้ (ดูรูปที่ 6)

https://i.ibb.co/0mX3jw5/6-deep-layers.png

นำ input เข้า non-linear transformation เมื่อได้ output แล้วก็นำ output นั้นไปเข้า non-linear transformation บล็อกถัดไป ทำอย่างนี้ต่อเนื่องหลายๆ ครั้ง (หลายๆ บล็อคสี่เหลี่ยมในรูปที่ 6) ซึ่งใน Deep Learning นั้น แต่ละ transformation block ก็คือ Neural Network layer นั่นเอง และการทำ transformation ต่อเนื่องหลายรอบนี้เอง ที่เป็นที่มาของคำว่า "Deep" (ลึก) เพราะ Neural network ที่เอา layers มาต่อกันนับสิบหรือร้อย layer เปรียบเปรยได้กับสมการที่มีความยาว หรือ "ความลึก" มากนั่นเอง

ตรงนี้สำคัญมาก -- ในแต่ละ transformation layer นั้น แต่ละโมเดลจะออก "กระบวนการ process input-ย่อย" ที่แตกต่างกัน -- หมายเหตุ input-ย่อย ของรูปภาพคือจุด pixel, หรือ input-ย่อยของข้อความก็คือ "แต่ละคำในข้อความ" เป็นต้น ส่วน input-ย่อยของกราฟ ก็คือโหนดนั่นเอง -- โดยทุกโมเดลที่เรารู้จักกันดีจะมีแนวคิดในการ process input-ย่อยด้วยแนวคิดที่เรียกว่า "Message Passing" หรือ "การกระจาย information จาก input-ย่อยหนึ่ง ไปยังอีก input-ย่อยหนึ่ง" ที่ต่างกันออกไป ดูรูปที่ 7 และรูปที่ 8 เช่น

1. 1. ใน CNN นั้น message passing ระหว่าง pixel นึงไปยังอีก pixel จะผ่านกระบวนการที่เรียกว่า convolution นั่นคือ, pixel นึงจะรับ information ( information ที่ส่งผ่านกันนิยมเรียกว่า "message") จาก pixel รอบข้าง
   2. ใน RNN นั้น message passing จะทำจากคำที่อยู่ติดกัน ส่งไปยังคำถัดไปเรื่อยๆ (ถ้าเป็น bi-directional ก็คือส่ง message ทั้งจากคำด้านหน้า และคำด้านหลัง)
   3. ใน Transformer นั้น message passing จะเป็นแบบ "fully connected" นั่นคือ ทุกๆ "input-ย่อย" (เช่น คำแต่ละคำในข้อความ) ก็จะกระจาย information หรือ message ไปให้ทุกๆ input-ย่อย นั่นคือคำอื่นๆ ทั้งหมด

การออกแบบ message-passing นี้ส่งผลอย่างมีนัยสำคัญกับประสิทธิภาพของแต่ละโมเดล โดยจะดีหรือไม่ขึ้นอยู่กับประเภทของข้อมูล input เช่น message passing ของ Transformer นั้นเหมาะสมกับข้อมูลข้อความ มากกว่า message-passing ของ RNN มาก เพราะ information นั้นสามารถกระจายถึงกันได้อย่างเหมาะสม (ตัวอย่างเช่นคำว่า "it" ในข้อความเช่น "Dog is a very good friend of mine. I love it." โยงกับคำว่า "Dog" ซึ่งมีตำแหน่งอยู่ 10 คำก่อนหน้า "it"

โดย RNN นั้น message จาก 10 คำก่อนหน้าจะไม่ส่งมาถึงคำปัจจุบันโดยตรงได้เหมือน transformer) นั่นทำให้ปัจจุบันโมเดล transformer นั้นมาทดแทน RNN ไปแทบจะสิ้นเชิง

ทว่าใน input ที่เป็นรูปภาพนั้น การกระจายข้อมูล local message passing ของ CNN ที่เน้นกระจายข้อมูลจาก pixel ใกล้ๆ กัน ก็ยังมีประสิทธิภาพดีกว่าของ Transformer ที่กระจายข้อมูลจากทุกจุดในภาพไปยังจุดอื่นๆ อีกทั้งหมดในภาพ เป็นต้น

https://i.ibb.co/T4HHqN8/7-cnn-gcn-convolution.png

รูปที่ 7

ซ้าย - message passing ใน convolution ของ CNN จะทำผ่าน pixel รอบข้าง

ขวา - message passing ของ GNN จะกระทำผ่านโหนดรอบข้าง ซึ่งพยายามทำให้ใกล้เคียงกับแนวคิดของ convolution นั่นเอง

รูปที่ 8 บน message passing ของ RNN จะทำจากคำที่อยู่ติดกัน

ล่าง message passing ของ transformer จะส่งจากทุกๆ คำไปยังทุกๆ คำ (ซึ่งพบว่าเหมาะสมกับ input ที่เป็นข้อความมากกว่า RNN)

สำหรับ GNN นั้นโมเดลก็จะประกอบไปด้วย neural network layers หลาย layers เช่นเดียวกันกับโมเดลอื่นๆ ส่วน message passing ในกราฟนั้นโมเดลส่วนใหญ่จะออกแบบให้ส่ง information หรือ message ผ่าน "edges" ในกราฟ ดังแสดงในรูปที่ 7 ครับ ซึ่งการกระจายข้อมูลแบบนี้สามารถแปลงเป็น programming code ได้อย่างง่ายดาย และถือได้ว่ามีการใช้ "โครงสร้างของกราฟ" ที่เราเกริ่นในตอนต้นของบทความได้อย่างเหมาะสม ซึ่งเราจะดูโค้ดกันในบทความหน้า

สำหรับแนวคิดการออกแบบ GNN ก็น่าจะมีราวๆ นี้นะครับ ซึ่งบทความนี้พยายามอธิบายให้ง่ายที่สุดแบบบ้านๆ  จึงอาจจะไม่เป็นทางการบ้าง ทว่าเพื่อนๆ สามารถศึกษาแนวคิด GNN "อย่างจริงจัง" เพิ่มเติมได้จากแหล่งอ้างอิง 2 ที่นี่นะครับ

• Intro to graph neural networks (ML Tech Talks) : https://youtu.be/8owQBFAHw7E
• รวม GNN architecture :  https://theaisummer.com/gnn-architectures/

ในคราวหน้าเราจะมาศึกษา GNNs ที่มาตรฐานที่สุดคือ Graph Convolution Networks (GCNs) และ Graph Attention Networks (GATs) พร้อม Keras code และ Keras library ที่ชื่อ Spektral กัน

Keras Cheminformatics - สร้างโมเลกุลกราฟด้วย GAN

Keras มี Tutorial ใหม่ล่าสุดสำหรับ cheminformatics คือการสร้างโมเลกุลด้วยเทคนิค WGAN-GP (Wassterstien GAN with Gradient Penalty) ครับ

แรงบันดาลใจของงานในฝั่งนี้คือ งานต่างๆ ที่ต้องการทดลองบนโมเลกุลใหม่ๆ เช่นการหา ยาชนิดใหม่ (Drug Discovery) นั้นต้องมีการสร้างโมเลกุลที่มีคุณสมบัติทางเคมีที่ใกล้เคียงโมเลกุลที่เราต้องการ

อย่างไรก็ดีการหาโมเลกุลใหม่ๆ ที่ว่านั้น ด้วยเทคนิคในปัจจุบัน (เช่น Graph Matching, Node ordering heuristics) นั้นทำได้ไม่ง่าย

จากความสำเร็จของงานด้าน Deep Learning บน Graph Structure เลยเป็นที่มาที่ทำให้นักวิจัยสามารถออกแบบ GAN ที่ สร้าง molecule graph ใหม่ๆ ได้โดยตรงโดยตัดเทคนิคที่ซับซ้อนดังกล่าวออกไปเลยครับ

ผู้สนใจสามารถดู Keras Tutorial อย่างละเอียดได้ที่นี่

https://keras.io/examples/generative/wgan-graphs/

Colab

https://colab.research.google.com/github/keras-team/keras-io/blob/master/examples/generative/ipynb/wgan-graphs.ipynb

Tutorial นี้ได้รับแรงบันดาลใจจากงาน MolGAN

https://arxiv.org/pdf/1805.11973.pdf

อย่างไรก็ดีงานในกลุ่ม MolGAN นี้ยังไม่สามารถกำหนดลักษณะทางเคมีที่เราต้องการได้ชัดๆ เหมือนงาน GAN อื่นๆ เช่นกรณี FaceGAN เราสามารถกำหนดได้เลยว่าจะสร้าง หน้าบุคคลที่มีลักษณะอย่างไรบ้าง (ผู้ช่าย ผิวคล้ำ มีหนวด ใส่แว่น)

ซึ่งการสร้าง Molecule graph ใหม่ๆ ที่มีคุณสมบัติทางเคมีที่เรากำหนดเป้ะๆ ก็จะเป็นงานวิจัยล่าสุดที่คนในวงการกำลังพัฒนากันต่อไป

ถ้ามีใครสนใจร่วมทำงานนี้สามารถ เมลไปคุยกับนักวิจัยที่เบลเยี่ยม ผู้เชียน Tutorial คนนี้ได้ที่นี่ครับ

https://github.com/akensert  (เป็นเพื่อนแอดมินเองครับ  :D )

ThaiKeras and Kaggle และเพจเรียนออนไลน์ก็เก่งได้ - 27 มีนาคม 2021

เคยสัมผัสประสบการณ์ไหมว่า ทำไมพยายามเท่าไรแต่รู้สึกไม่เก่งสักที หรือไม่ถึงจุดมุ่งหมายสักที

หลายๆ คนรวมทั้งตัวผู้เขียนในอดีตก็ได้ผ่านความรู้สึกนี้มาเป็นเวลานานหลายปี จนได้เจอแนวคิดที่เป็นคำตอบทำให้พัฒนาตัวเองได้จริงจัง และต่อเนื่อง ถึงแม้ไม่ได้เก่งกาจอะไรแต่ก็อยากแชร์แนวคิดดีๆ นี้เผื่อเป็นแนวทางให้เพื่อนๆ ครับ

สวัสดีครับเพื่อนๆ บทความนี้ บทความนี้เป็นการเขียนร่วมกันระหว่าง ThaiKeras ( https://fb.me/thaikeras ) กับเพจ "เรียนออนไลน์ก็เก่งได้" ( https://fb.me/onlinecourseth )  เพื่อแชร์แนวทางในการก้าวข้ามขีดจำกัด (ที่ไม่มีจริง) ของตัวเอง

เราลองเสนอแนวทางการพัฒนาฝีมือให้กับน้องๆ รุ่นใหม่ๆ  ที่อาจยังไม่สามารถ "พัฒนาตัวเอง" ได้เต็ม "ศักยภาพ"

ในภาพใหญ่ การพัฒนา "ศักยภาพ" ที่ว่านี้ หมายรวมถึงทุกทักษะอะไรก็ตามที่เราหลงใหล

เนื่องจากเขียนร่วมกับทีม ThaiKeras จะมีกรณีศึกษาเป็นเนื้อหาในฝั่ง IT โดยเฉพาะ Data Science เสริม แต่ก็สามารถปรับใชัได้กับทุกทักษะครับผม

เข้าเรื่องกันเลย

"ทำไมไปไม่ถึง?" จากที่ได้คุยกับน้องหลายคน อุปสรรคที่ได้รับฟังมาที่ทำให้พวกเราส่วนใหญ่ไม่สามารถพัฒนาตัวเองได้เท่าที่ควรมีอยู่ 4 ประเด็นหลักๆ คือ

1. ไม่มีเวลา
2. ไม่มีเงิน
3. ไม่เก่งภาษา
4. ไม่มีแนวทางที่ถูกต้อง

ในการจะสู้กับอุปสรรคทั้ง 4 นี้ก่อนอื่นให้เรายืนยันกับตัวเองว่า มีความชอบและหลงไหลทักษะที่เราอยากพัฒนา และจิตใจแน่วแน่ พร้อมที่จะให้ "ความสำคัญ" กับการพัฒนาทักษะนี้

เพราะการพัฒนา ต้องทำต่อเนื่องหลายสัปดาห์ หลายเดือน หรือกระทั่งหลายปี ถ้าไม่ชอบหรือไม่แน่วแน่ ก็จะทำให้เลิกกลางคันได้ครับ

.

ขอเริ่มจาก B. ซึ่งน่าจะแก้ง่ายที่สุดครับ

อุปสรรคข้อ B. เรื่องเงินไม่น่าใช่ปัญหาในยุคนี้

ในมุมมองของผม ในโลกออนไลน์ปัจจุบันที่เรามีแหล่งเรียนรู้ออนไลน์ดีดีมากมาย ทั้งภาษาไทยทั้งภาษาอังกฤษ โดยคอร์สดีๆ ส่วนมากสามารถเรียนได้ฟรีหรือราคาถูกมากๆ โดยสำหรับลูกเพจ ThaiKeras ตัวอย่างคอร์สด้าน AI หรือ Data Science ฟรีหรือถูกๆ มากมายดูที่ https://thaikeras.com/2019/onlinecourses/

สำหรับเพื่อนๆ ที่สนใจทักษะอื่นที่ไม่ใช่สาย IT อยากให้เพื่อนๆ ลองดู masterclass.com ที่มีสอนหลากหลายทักษะ เช่น การเขียน การทำหนัง การถ่ายภาพ การทำอาหาร ร้องเพลง ดนตรี ศิลปะ กีฬาต่างๆ ทั้งบาสเกตบอล เทนนิส เสก็ตบอร์ด

สอนโดยมืออาชีพระดับท้อป ตำนานที่ยังมีชีวิตของทักษะแต่ละด้าน!!

ค่าเรียนตลอดปี เหมาจ่ายกว่าร้อยคอร์ส อยู่แค่ราวๆ ห้าพันกว่าบาท ซึ่งน่าจะราคาถูกกว่าโทรศัพท์มือถือที่พวกเราใช้  (ยิ่งช่วงนี้มีโปรซื้อ 1 แถม 1 สามารถนำไปแชร์กับเพื่อนๆ  คนอื่นๆ เหลือแค่ไม่ถึงสามพันบาทต่อปีเท่านั้น)

ส่วนในสายวิชาการ คงไม่มีอะไรดีไปกว่า Khanacademy และ Coursera.org ที่เราเรียนจากมหาวิทยาลัยระดับโลกได้ฟรีๆ  ในแทบทุกวิชาทั้งสายวิทย์และสายศิลป์

คนที่อยากเจาะลึกด้าน AI และ Data Science ก็แน่นอนเพจเราแนะนำ Kaggle ที่ไม่เพียงให้เรียนรู้ฟรี ยังมีแถมเครื่องคอมพิวเตอร์ระดับสูงและสร้างโปรไฟล์การสมัครงานเจ๋งๆ ให้กับเราอีกด้วย

ไม่ว่าจะเป็นทักษะใดๆ ผมมั่นใจว่าในโลกออนไลน์มีแหล่งเรียนรู้ดีๆ ไม่แพง ให้เพื่อนๆ น้องๆ แน่นอน ถ้าใครมีทักษะที่ตนเองอยากพัฒนาแต่หาแหล่งเรียนรู้คุณภาพไม่เจอ ลองโพสต์เล่ากันได้นะครับ ผมจะช่วยหาครูดีๆ ออนไลน์ให้

พึ่งทราบว่า dek-d มีเพจรวมคอร์สเทพฟรี อัพเดตตลอดครับ เรียนเข้าไป วางแผนดีๆ ยังไงก็ประสบความสำเร็จ ชีวิตดีแน่ครับ https://web.facebook.com/OneMoreCoursebyDekD

กล่าวโดยสรุป ข้อจำกัดข้อ B. น่าจะตัดทิ้งไปได้เลยในยุคปัจจุบัน  

เราลองมาดูอุปสรรคข้ออื่นๆ กันต่อ

.

อุปสรรค C. ไม่เก่งภาษา --> ตั้งเป้าเรียนภาษาแบบพอฟังได้ และพัฒนาด้วยแหล่งเรียนรู้ภาษาไทยไปพลางๆ

แหล่งเรียนรู้ที่แนะนำไปในหัวข้อก่อนๆ ล้วนเป็นภาษาอังกฤษ ทั้งนี้เพราะภาษาอังกฤษเป็นภาษาที่คนทั่วโลกใช้เป็นสื่อกลาง จึงมีแหล่งเรียนรู้ดีดีๆ มากมาย

ดีแบบ "ทำไมเราไม่เรียนแบบนี้มานานแล้ว *ะ" :D

ในระยะยาวอุปสรรคด้านภาษา สำหรับน้องๆ หรือเพื่อนๆ ที่คิดว่าตัวเองไม่เก่งภาษา ผมอยากแนะนำให้ "ตั้งเป้า" พัฒนาทักษะด้านนีั้ "จริงจัง" ครับ

ตั้งเป้าให้ภาษาอังกฤษเราฟังครูรู้เรื่องก็โอเค ยังไม่ต้องถึงขั้นพูดเป็นไฟแลบกับฝรั่ง (แต่แน่นอน ถ้าเราพัฒนาไปเรื่อยๆ เราก็พูดไฟแลบได้)

ในการ ฟัง พูด อ่าน เขียน สำหรับการเรียนรู้ภาษาในเบื้องต้น อาจเน้นแค่ ฟัง กับ อ่านเป็นหลักไปก่อน และเอาแค่พอฟังผู้สอนรู้เรื่องก็พอ ไม่ต้องรอให้หูเทพมากๆ แบบฟังหนังฝรั่งรู้เรื่อง

ในคอร์สออนไลน์ที่กล่าวมาในหัวข้อที่แล้ว คุณภาพเสียงและความชัดของผู้สอนจะดีมากๆ ทำให้จริงๆ แล้วเราสามารถฟังภาษาอังกฤษเหล่านี้ได้ไม่ยากเลย "ง่าย" กว่าการดูหนังฝรั่ง sound track มากๆ ครับ 

ขอแค่เราค่อยๆ ไปทีละเสต็ป

โดยการพัฒนาภาษาอังกฤษ ผมคิดว่าใน youtube มี channels สอนภาษาดีๆ เยอะมากๆ  ตรงนี้ไม่น่าเป็นอุปสรรค รวมทั้ง app ฟรีต่างๆ เช่น duolingo หรือ mondly ก็มีสอนภาษาอังกฤษในรูปแบบภาษาไทย ก็ช่วยได้อีกด้านนึง

ดู app ภาษาอังกฤษดีๆ อีกมากมายที่นี่ครับ https://www.macthai.com/2016/08/23/8-apps-podcast-for-learning-english-on-iphone-ipad/

อย่างไรก็ดี ในระหว่างพัฒนาภาษาอังกฤษ ก็หาคนไทยเก่งๆ ในทักษะที่เราสนใจมาศึกษาประกอบไปด้วย คนไทยเราเก่งมากๆ ในหลายๆ ด้านและปัจจุบันก็น่าจะมี youtube channel ดีๆ ที่สอนทักษะแต่ละด้านเป็นภาษาไทย น่าจะครบแทบทุกทักษะ

เมื่อเราเริ่มเก่งภาษาอังกฤษแล้ว เราจึงสามารถต่อยอดความรู้ด้วยแหล่งเรียนรู้ภาษาอังกฤษได้ทันที

ตัวอย่างแหล่งเรียนรู้ภาษาไทยดีๆ ด้านวิชาการทั่วไป สำหรับน้องๆ ที่ยังเรียนอยู่และอยากพัฒนาเกรดให้ดี มีงบน้อยก็อาจลองดู startdee.com ที่มีติวเตอร์ชั้นเยี่ยมระดับประเทศในบ้านเรามาติวให้ทุกวิชา ในรูปแบบสมัยใหม่ เรียนสนุก เหมาจ่ายทุกวิชาตั้งแต่ป.4 ถึงม.6 ตกเดือนละไม่กี่ร้อยเท่านั้น

สำหรับสายเทคฯ หรือ IT การฝึก programming ตั้งแต่เบื้องต้น จนถึงงานด้านวิศวกรรม และ web programming ต่างๆ ฯลฯ ลองดูที่เพจ "ลุงวิศวกรสอนคำนวณ" หรือใน youtube ช่อง uncle engineer ซึ่งเป็นเพจที่สอนความรู้ดีๆ ให้พวกเราอยู่เสมอครับ

**หมายเหตุ ผมไม่ได้ค่า commission ใดๆ เลยนะครับ :D

.

อุปสรรค A. ไม่มีเวลา --> สู้ด้วยแนวคิด "ก้าวเล็กๆ ที่สม่ำเสมอทุกวัน คือระยะทางที่ยิ่งใหญ่"

บิ้กบอสที่แท้จริงของเจ้า A B C น่าจะเป็นเรื่อง "เวลา" นี่แหละครับ

การแก้โจทย์นี้ เคล็ดลับคือการปรับแนวคิดใหม่ ไม่มองว่าต้องมีเวลาหลายชั่วโมงต่อวันถึงจะพัฒนาทักษะได้

แต่ให้เน้นความ "สม่ำเสมอ" ฝึกหรือศึกษา "ทุกวัน" (consistency)

ครึ่งชั่วโมง "ทุกวัน" ดีกว่า วันเดียว 8-10 ชั่วโมง แล้วก็เหนื่อย เลิก ดังนั้นให้วางแผนทำสล็อตเวลาอย่างน้อยครึ่งชั่วโมงในการพัฒนาทักษะทุกๆ วัน

ถ้าหาเวลาไม่ได้ต้องตื่นเช้ากว่าเดิมครึ่งชั่วโมง หรือนอนดึกกว่าเดิมครึ่งชั่วโมง ก็ยังอยู่ในขอบข่ายที่ไม่ฝืนมากจนเกินไป

โดยถ้าวันไหนยุ่งมาก หรืองานด่วนเข้าจริงๆ อาจจะขอแค่ดูคลิปหรืออ่านหนังสือ "5 นาที" ก็ยังถือว่าโอเค

ใช้หลัก "ก้าวเล็กๆ ที่สม่ำเสมอทุกวัน คือระยะทางที่ยิ่งใหญ่" ปรมาจารย์หลายท่านได้กล่าวไว้

วันที่ติดธุระสุดๆ ก็ให้แอบไปศึกษาดูคลิปพัฒนาทักษะตอน "เข้าห้องน้ำ" สัก 5 นาที ทุกคนมีเวลาแน่นอนครับ :D

และในวันปกติ ให้ "ความสำคัญ" กับเรื่องพัฒนาทักษะนี้อยู่ใน "ระดับสูงสุด" (maximum priority) แบ่งเวลาให้ชัดเจน ใครถนัดตอนเช้าก็ฝึกตอนเช้า ใครหาเวลาได้ตอนค่ำก็ฝึกตอนค่ำ หลักสำคัญคือ อย่ายอมให้เรื่องอื่นๆ มาเบียดบังเวลาตรงนี้ไปได้

จุดสำคัญระหว่างคนที่ประสบความสำเร็จสุดๆ น่าจะเป็นเรื่อง การ "ให้ความสำคัญสูงสุด" แบ่งเวลาพัฒนาที่ทักษะที่สนใจอย่าง "สม่ำเสมอ" นั่นคือ Prioritizing กับ consistency นี้ครับ

คำว่า "สม่ำเสมอ" คือ ทุกวัน ไม่ว่าจะเป็นวันหยุด วันเกิด วันสงกรานต์ ปีใหม่ หรือแม้กระทั่งวันที่เราป่วยก็ตาม (ถ้าป่วยมากก็เอาแค่ 5 นาที)

ฝึกฝนและทำจนฝังอยู่ในสายเลือด พอเวลาผ่านไปสัก 1-2 ปี เราจะรู้สึกว่าเราพัฒนามากขึ้นอย่างไม่น่าเชื่อ 

หลักเดียวกับหนังสือชื่อดัง Outlier ของ Malcolm Gladwell ที่ว่าถ้าเราใช้เวลาฝึกทักษะเป็นเวลา 10,000 ชั่วโมงเราจะกลายตะลึงกับการพัฒนาของตัวเราเอง โดยจริงๆ เราจะสังเกตการพัฒนาของตัวเราเองได้ไม่ต้องรอถึงหมื่นชั่วโมงครับ

คนเก่งๆ บางคนอาจใช้เวลาไม่กี่เดือน แต่อย่าไปเปรียบเทียบกับคนอื่นครับ พวกเราทุกคนถ้ามีความอดทนฝึกฝนสม่ำเสมอ "ทุกวัน" เราจะเก่งขึ้นมากๆ และพัฒนาไปเรื่อยๆ

คนที่ควรเปรียบเทียบมีคนเดียว คือ ตัวเราเอง "เมื่อวาน" หรือ "สัปดาห์ก่อน" ให้เราเก่งกว่าเดิมสักนิดหน่อยก็ยังดี

.

อุปสรรค D. ไม่มีแนวทางที่ถูกต้อง --> ต้องหาอาจารย์ (mentor) และทำการบ้าน "ภาพใหญ่" จากนั้นให้ความสำคัญกับการเข้าใจ "เป้าหมาย" ที่แท้จริงและออกแบบเส้นทางใน “แต่ละขั้นตอน” ให้ชัดเจน

การ "ตั้งเป้าหมายที่แท้จริง" และมอง "ภาพใหญ่" ของทักษะที่เราต้องการพัฒนาให้ถึงจุดสูงสุดมีความสำคัญมากในการกำหนด "แนวทางที่ถูกต้อง" ซึ่งจะตัดสินเราได้เลยว่าจะทำสำเร็จหรือไม่  ในหัวข้อนี้จึงขอขยายความยาวหน่อยนะครับ

ก่อนอื่นเราต้องรู้ว่าเป้าหมายของเราในการพัฒนาทักษะคืออะไรกันแน่ และภาพรวมประกอบไปด้วยกี่ "ทักษะย่อย" ที่ต้องพัฒนา

ตัวอย่างเช่น การจะพัฒนาภาษาอังกฤษ ตอบตัวเองให้ได้ชัดๆ ว่าตั้งเป้าแบบไหน พัฒนาเพื่ออะไรกันแน่ อาทิ เช่น

• เตรียมตัวไปเรียนต่อและใช้ชีวิตในต่างประเทศ (ฟัง พูด อ่าน เขียน)
• คุยกับเพื่อนฝรั่งแถวบ้าน (พูด ฟัง)
• ฟัง lecture ภาษาอังกฤษจากแหล่งเรียนรู้ออนไลน์ให้รู้เรื่อง (ฟังและอ่านเป็นหลัก)
• อยากอ่านนิยายในเวอร์ชั่นภาษาอังกฤษได้คล่อง (อ่านเป็นหลัก)

จะเห็นว่า ในการบรรลุแต่ละเป้าหมายจะมีการพัฒนาทักษะที่อาจไม่เหมือนกัน และยากง่ายต่างกันไป โดยการเตรียมตัวไปเรียนต่อและใช้ชีวิตในต่างประเทศ ต้องพัฒนาทั้ง ฟัง พูด อ่าน เขียน ในระดับที่ค่อนข้างสูง  ในขณะที่การอ่านนิยายเรื่องโปรดอาจเน้นแค่ทักษะการอ่าน โดย เน้นจำคำศัพท์ และเข้าใจไวยากรณ์ภาษา แต่ไม่ต้องเน้นฟังและพูด

เมื่อได้เป้าหมายและภาพใหญ่แล้วก็ศึกษา "เส้นทาง" หรือ Roadmap จากความสามารถเราในปัจจุบันไปสู่ ความสามารถที่เราต้องการเป็น   โดยจะเป็นภารเจาะลึกทักษะย่อยที่จำเป็นให้ย่อยลงไปอีก ให้เรารู้ว่าเราจะพัฒนาตัวเองทีละขั้นได้อย่างไร

ตัวอย่างการเพิ่ม skill การอ่านนิยายข้างต้น อาจสามารถออกแบบ Roadmap ได้โดยดูจาก https://www.penguinreaders.co.uk/books/ ที่ได้แบ่ง skill การอ่านไว้เป็น 8 ระดับตั้งแต่ level 0 (ศัพท์ไม่กี่ร้อย) ถึง level 7 (ศัพท์หลายพัน) 

โดยเราสามารถประเมิน level ปัจจุบันของเราได้ว่า หนังสือใน level ไหน ที่เราสามารถอ่านได้อย่างไม่ติดขัด แล้วค่อยวางแผนไต่ระดับไปจนถึง level สูงๆ ก่อนที่จะไปสู่วรรณกรรมต้นฉบับ เป็นต้น 

โดยเราสามารถออกแบบได้เลยว่าใน 1 ปี เราควรอ่านได้กี่เล่ม level ใดบ้าง (ศึกษาจำนวนหน้าและจำนวนคำในแต่ละ level ก่อนออกแบบ) และออกแบบการอ่านแต่ละเดือน แต่ละสัปดาห์ จนถึงแต่ละวัน เพื่อให้บรรลุเป้าหมาย

ตัวอย่างข้างต้นเป็นตัวอย่างง่ายๆ ในการซอยภาพใหญ่เป็นภาพเล็ก และออกแบบ Roadmap ไปจนถึงสิ่งที่เราต้องทำในแต่ละวัน

กรณีที่เราไม่เห็นภาพใหญ่ หรือมอง Roadmap ไม่ออก จุดนี้เราต้องหาผู้เชี่ยวชาญมาแนะนำ นั่นคือหา mentor ที่ยินดีแนะนำเรานั่นเองครับ

ในกรณีส่วนใหญ่เราสามารถหา Roadmap สำหรับเป้าหมายด้านต่างๆ ผ่าน Google ได้ไม่ยากนัก หรือหา Facebook Group ที่มีกลุ่มคนและผู้เชี่ยวชาญที่สนใจเรื่องเดียวกัน เรื่องเดียวกันกับเราก็ได้ครับ

อนึ่ง ผมเพิ่งเข้าใจความสำคัญเรื่องนี้จริงจังก็ นู่น ตอนอายุเกือบ 30 (ควรจะรู้ตั้งแต่ 10 ขวบ) เมื่อมีโอกาสได้ไปทำงานที่ธนาคารใหญ่แห่งหนึ่งในบ้านเรา และหัวหน้าเป็นคนที่เก่งเรื่องนี้มาก ทำให้ได้เรียนรู้มุมมองที่พลาดมาตลอด

การแตกภาพใหญ๋ออกเป็นทักษะย่อยที่จำเป็นนั้น ชี้เป็นชี้ตายในเป้าหมายของเรา

เพราะว่าต่อให้เราวางแผนพัฒนาทุกวัน แต่ถ้าทักษะนั้นในภาพใหญ่ต้องการ ทักษะย่อย 10 ด้าน แต่เราวางแผนฝึกแค่ 5 ด้าน เพราะมองภาพใหญ่ไม่ครบ ฝึกทุกวัน ยังไงก็ไปไม่ถึงจุดหมาย

.

====กรณีศึกษา AI & DataScience===

ถ้าเราตั้งเป้าว่าจะพัฒนาทักษะโปรแกรมมิ่งในกรอบเวลา 1 ปี

เราต้องตั้งเป้าให้ชัดว่า "เรามีความสามารถอะไร เมื่อจบ 1 ปี" โดยเป็นเป้าที่เราควบคุมได้ ไม่มีปัจจัยภายนอกมาเกี่ยวข้อง

ไม่ควรตั้งเป้าหมายในทำนองเปรียบเทียบกับคนอื่นๆ เพราะเป็นปัจจัยภายนอกที่เราคุมไม่ได้

เช่น ตั้งเป้าชนะเลิศรายการ Hackathon ซึ่งต้องแข่งขันกับคนอื่น เราไม่สามารถควบคุมให้คนอื่นฝึกฝนน้อยกว่าเราได้

ตัวอย่างเป้าหมายที่ชัดและเราควบคุมได้ ขอยกเป้าด้าน Deep Learning เป็นกรณีศึกษา เช่นตั้งเป้าว่า

"ภายในสิ้นปีนี้ สามารถเขียนโปรแกรม "แปลภาษา" ด้วย Transformer โดยใช้ Tensorflow และต้องเข้าใจทุกบรรทัด"

จากนั้นออกแบบว่าถ้าจะทำตามเป้าได้ ต้องเข้าใจด้านไหนบ้าง แตกเป็นเป้าย่อย ในกรณีนี้ สามารถแบ่งเป้าได้ดังนี้

1) เข้าใจทฤษฎีและสมการคณิตศาสตร์ของ Transformers ทั้งหมด  2) พื้นการเขียนโปรแกรมด้วย Tensorflow ต้องแน่น 3) ศึกษา data pipeline ที่มาตรฐานที่สุดสำหรับงานแปลภาษา

จากนั้นเราสามารถซอยสองเป้าข้างบนให้ย่อยลงไปอีกได้ โดยแผนย่อยขึ้นอยู่กับแต่ละคนว่าทักษะด้านไหนที่ตนยังขาดอยู่

เช่น การจะเข้าใจทฤษฎีของ Transformers อาจต้องตั้งเป้าเรียนพื้นฐาน Deep Learning ก่อน ดังนั้นตั้งเป้าย่อยให้จบคอร์สของ deeplearning.ai ใน coursera ภายใน x เดือน 

อีกสองเป้าทีเหลือก็พิจารณาทำนองเดียวกันว่าต้องแตกขั้นตอนย่อยต่อไปอีกหรือไม่ เช่นจะเข้าใจ Tensorflow ก็ต้องมีพื้นฐาน Numpy ที่ดีมาก่อน เป็นต้น

เป้านี้อาจโยงไปสู่ปัญหาด้านไม่เก่งภาษา  คนที่ไม่มั่นใจภาษาอังกฤษอาจตั้งเป้าพัฒนาทักษะการฟังก่อน โดย Andrew Ng ผู้สอนคอร์สดังกล่าวเป็นคนที่พูดภาษาอังกฤษช้าและเข้าใจง่ายมากๆ ดังนั้นหาแนวทางฝึกการฟังสัก 1 เดือนก็น่าจะพอ โดยสามารถฝึกจากสื่อภาษาอังกฤษที่คนสอนพูดไทยได้ หรือมี subtitle เป็นต้น

ถัดไป เราจะได้แผนจากรายปี เป็นรายเดือน แตกรายเดือน เป็นรายสัปดาห์ จนถึงรายวัน เราจะรู้ว่าในแต่ละวันเราต้องทำอะไรบ้าง ซึ่งแนวคิด Roadmap นี้ก็จะสอดคล้องกับแนวคิด "การให้ความสำคัญสูงสุด" (Prioritizing) และ "ความสม่ำเสมอ" (consistency) ที่อธิบายในข้อ A. ด้วย

และเพื่อให้ผลลัพธ์วัดผลหรือจับต้องได้จริง อาจตั้งเป้าว่าผลลัพธ์สุดท้ายต้องอยู่ในรูป open source ที่ทุกคนสามารถเอาไปใช้ได้ อย่างนี้ก็ได้

.

==ทำไงดี พัฒนาจริง แต่ไม่ถึงเป้าหมาย==

ไม่เป็นไรครับ!

ถ้าเราได้ทำตามแผนทุกวันแล้ว แต่ไม่บรรลุเป้าหมาย 100% ก็ไม่ต้องเสียใจ  (เช่น งานอาจยากกว่าที่ออกแบบไว้ หรือติดธุระด่วยหลายวัน ทำให้ช่วงนั้นใช้เวลาได้ฝีกฝนได้แค่ไม่กี่นาทีในแต่ละวัน)

บรรลุเป้าหมายช้าไปนิดจาก 1 ปี เป็น 1 ปีครึ่ง หรือ 2 ปี ชีวิตเราก็ไม่ได้แย่อะไร  

มีแต่ดีขึ้นอย่างเดียวเพราะอย่างไรเราก็ก้าวหน้า

โดยถ้าเราทำสม่ำเสมอเราต้องบรรลุแน่นอนแม้จะช้าไปหน่อย

.

===แนะนำ แนวคิดดีๆ ===

สาเหตุที่แท้จริงของอุปสรรคในข้อ A และ D นี้น่าจะเป็นเรื่องของ "แนวคิดที่ถูกต้อง"

ถ้ามี "อาจารย์ (mentor) ที่ให้คำแนะนำในการพัฒนาตัวเองได้อย่างถูกต้อง" เราจะยิ่งฝึกฝนได้ดีขึ้น ในหัวข้อนี้เลยอยากแชร์หนังสือและคลิปเกี่ยวกับเรื่อง "แนวคิด" ที่่ถือได้ว่าเป็นแนวคิด "เปลี่ยนชีวิต" ทีเดียวครับ

• 7-Habits of Highly Effective People โดย Steven R. Covey หนังสือในตำนานที่ทุกคนรู้จัก ส่วนตัว แนะนำอ่านเวอร์ชั่นวัยรุ่น ซึ่งอ่านง่ายกว่ามาก คือ 7-Habits of Highly Effective Teens โดย Sean Covey ลูกชายของ Steven Covey เองครับ  ถ้าหาซื้อไม่ได้ให้ ลองซื้อ e-book ใน PlayBook หรือ Kindle ก็ได้ครับ
• 21 Irrefutable Laws of Leaderships โดย John C. Maxwell เพิ่งกลับมาแปลไทยใหม่ไม่นานมานี้ เล่มนี้ให้ 21 แนวคิดไม่ใช่เป็นประโยชน์แต่กับผู้นำองค์กร แต่เป็น 21 หลักในการใช้ชีวิตให้ถึงศักยภาพที่แท้จริงของพวกเราเองครับ แนวคิดทุกข้อต้องเอามาอ่านและคิดซ้ำทุกปีและจะพบว่าเมื่อเราอัพเกรดตัวเองแล้ว แนวคิดจะลึกซึ้งขึ้นเรื่อยๆ ให้เราพัฒนาต่อไปได้อีก ศึกษาแนวคิดเบื้องต้นของ John ได้ที่ https://www.youtube.com/watch?v=ntLjk8vELCA
• Start with Why และ The Infinite Game โดย Simon Sinek ว่าด้วยเรื่องของการเริ่มต้นที่เป้าหมายที่แท้จริงของชีวิต และการพัฒนาอย่าง "ไม่มีจุดจบ" (Inifinite) ซึ่งก็เป็นแนวคิดที่สอดคล้องกับเล่มอื่นๆ ด้านบน แต่ Simon Sinek เป็นนักเล่าเรื่องที่เก่งและสนุกที่สุดคนนึงในยุคนี้ เราจะเข้าใจแนวคิดในมุมมองที่ต่างออกไป แนะนำให้เพื่อนๆ ลองค้น youtube ของ Simon และฟังให้หมดทุกคลิปครับ
• (Growth) Mindset โดย Carol Dweck โดยแนะนำให้ฟังคลิป TED เพื่อเข้าใจแนวคิดหลักเรื่องที่ว่า ทุกคนสามารถพัฒนาความสามารถได้ทุกด้านถ้ามีการฝึกฝนที่ถูกต้องและสม่ำเสมอ https://youtu.be/hiiEeMN7vbQ

จริงๆ อาจมีอีกหลายเล่มที่อยากแนะนำ แต่ 4-5 เล่มข้างต้นถือเป็น "ที่สุด" สำหรับผมในหัวข้อนี้ครับ :D ทุกเล่มข้างต้นเข้าใจว่ามีแปลไทยทั้งหมด

ถ้าเพื่อนๆ มีหนังสือหรือแหล่งเรียนรู้ "เปลี่ยนชีวิต" อื่นๆ สามารถแชร์กันได้นะคร้าบบ

สรุปการแก้สมการ

ก่อนอื่นต้องแน่วแน่ ชอบ และให้ความสำคัญสูงสุดกับทักษะที่เราอยากพัฒนา

1. ไม่มีเวลา --> ปรับแนวคิดให้ถูกต้อง แล้วจะแบ่งเวลาได้แน่นอน
2. ไม่มีเงิน --> พัฒนา skills ผ่านแหล่งเรียนรู้ออนไลน์ราคาถูกหรือฟรี
3. ไม่เก่งภาษา --> ตั้งเป้าให้เรียนภาษาอังกฤษให้พอฟังรู้เรื่องก็พอไม่ต้องเก่ง และเรียนคอร์สภาษาไทยไปพลางๆ ก่อน
4. ไม่มีแนวทางชัดเจน --> ต้องชัดเจนในเป้าหมาย จากนั้นเรียนรู้ภาพใหญ่ และออกแบบ Roadmap ที่ถูกต้อง ถ้าจะให้ดีหา mentor ที่เชื่อถือได้ (ออนไลน์ก็ได้)

ปรากฏการณ์ "Clever Hans" บน NLP  (หรือ Deep NLP ไม่ได้เก่งอย่างที่คิด)

By ThaiKeras and Kaggle (28 Jan 2562)

สวัสดีครับเพื่อนๆ วันนี้ขออนุญาตเจาะประเด็นเรื่อง ‘’โมเดล AI กลุ่ม Deep NLP ที่ขึ้นชื่อว่าเก่งกาจด้านภาษาสุดๆ นั้นแท้จริงแล้วเข้าใจ ภาษามนุษย์จริงหรือไม่”

ในตอนที่แล้วเราได้พูดถึงปรากฏการณ์ “Clever Hans” หรือเจ้าม้าแสนรู้ฮันส์ไปแล้ว ( http://bit.ly/thaikeras-nlp-hans) โดยมีหัวใจสำคัญอยู่ที่ว่า เจ้าม้าฮันส์ที่ดูฉลาดมากตอบคำถามได้ทุกเรื่อง โดยที่ไม่มีการตุกติกอะไรทั้งสิ้น แท้จริงแล้วมันไม่ได้มีความรู้อะไรเลย!! ปรากฏการณ์นี้แสดงให้เห็นว่า “การวัดความฉลาด” นั้นยากกว่าที่คิด และไม่สามารถนำผลการทดลอง (ที่ไม่รัดกุม) มาวัดได้เลย

ล่าสุดในงานประชุมวิชาการ ACL 2019 ที่เป็นหนึ่งในงานประชุม NLP (งาน AI เกี่ยวกับการเข้าใจภาษามนุษย์) ที่ดีที่สุดในโลก ก็ได้มีนักวิจัยจากหลายแห่งชำแหละปรากฏการณ์เดียวกันนี้ของโมเดล AI หรือ Deep Learning ฝั่ง NLP ระดับสุดยอดเช่น BERT

(ดูเรื่้อง BERT ได้ที่ http://bit.ly/thaikeras-nlp-transfer ) ว่าแท้จริงโมเดลอัจฉริยะเหล่านี้อาจ “ไม่ได้รู้อะไรเกี่ยวกับภาษามนุษย์” เลย นอกจากมีความเชี่ยวชาญเรื่อง “สถิติ” ของคำต่างๆ เท่านั้น และทำให้นักวิจัยต่างกล่าวว่านี่คือปรากฏการณ์ “Clever Hans Moment ในวงการ NLP” เลยทีเดียว!! (ดูอ้างอิง 1.) เหตุการณ์นี้เป็นอย่างไรลองมาฟังรายละเอียดกันครับ

https://i.ibb.co/JrTXNjc/hans-bert.jpg

รูปที่ 1 ล้อเลียน BERT สุดยอดโมเดล AI ในงานด้าน NLP หรือด้านภาษามนุษย์ ว่าแท้จริงแล้วเปรียบเสมือนฮันส์ คือไม่ได้รู้เรื่องอะไรเกี่ยวกับภาษาอย่างแท้จริงเลย (ภาพจากอ้างอิง 1.) 

การวัดความฉลาดทางภาษาด้วยการตอบปัญหาทางตรรกะ

เหตุการณ์นี้เริ่มต้นจากการวัดความเข้าใจในภาษามนุษย์ของโมเดล Deep Learning นั้นจะวัดผลจาก Dataset ที่แล็บต่างๆ รวบรวมมาจากแหล่งข้อมูลทั่วโลก โดยตัวอย่าง Dataset หนึ่งที่ได้รับการยอมรับว่า “น่าจะ” วัดความเข้าใจภาษามนุษย์ของ AI ได้ก็คือ Dataset ขนาดใหญ่ที่มีชื่อว่า Multi-Genre Natural Language Inference (MNLI) ที่มหาวิทยาลัยระดับโลกอย่าง New York University เป็นผู้รวบรวมขึ้นมา โดย Dataset นี้จะมุ่งทดสอบปัญหาความเข้าใจ “ตรรกะ” ซึ่งอธิบายได้ดังนี้

กำหนดให้โมเดล AI เช่น BERT (ซึ่งถูกฝึกมาอย่างดี) อ่านประโยคสองประโยค แล้วต้องตอบว่า ”ประโยคที่สองนั้นเกี่ยวข้องกับประโยคแรกหรือไม่” โดยมีคำตอบที่เป็นไปได้สามแบบดังนี้

1. ประโยคสอง “สรุปได้“ จากประโยคแรก — (entailment)
ประโยคแรก: The doctor was paid by the actor
ประโยคสอง: The actor pays the doctor

2. ประโยคสอง “ขัดแย้ง” กับประโยคแรก — (contradiction)
ประโยคแรก: The doctor was paid by the actor
ประโยคสอง: The actor does not pay the doctor

3. ประโยคสอง “ไม่เกี่ยว” กับประโยคแรก — (neutral)
ประโยคแรก: The doctor was paid by the actor
ประโยคสอง: The doctor and the actor have fun together

โดย Dataset MNLI นี้มีขนาดใหญ่ถึง 433,000 คู่ประโยค มาจากหลายแหล่ง และแต่ละประโยค ค่อนข้างมีความหลากหลายและซับซ้อนทางไวยากรณ์กว่าตัวอย่างที่แสดงข้างต้นมาก (ผู้สนใจดูตัวอย่างที่เอกสารอ้างอิง 2. ) ทั้งนี้เพื่อใช้ทดสอบให้แน่ใจว่าโมเดลนั้นเข้าใจภาษาจริงหรือไม่ สมมติฐานก็คือถ้าโมเดลสามารถตอบคำถามในคู่ประโยคที่มีความซับซ้อนระดับนี้ เป็นจำนวนมหาศาลได้ถูกต้องจริง นั่นก็แปลว่า “โมเดลมีความเข้าใจภาษาอย่างแท้จริง”

แต่สมมติฐานนี้เป็นจริงหรือไม่?

ความทรงพลังของสถิติและจุดอ่อนของ Datasets

นักวิจัยสองกลุ่มจาก John Hopkins และ Taiwan ได้ทำการทดลองอย่างละเอียดและพบว่า “สถิติ” ของกลุ่มคำนั้นมีพลังมากกว่าที่เราคิด โดยจุดอ่อนของ MNLI ก็คือ ถึงแม้ว่าข้อมูลจะมีความหลากหลายและซับซ้อนสูง Datasets ชุดนี้ก็ยังมีจุดร่วมบางอย่างอยู่ที่ทำให้โมเดลสามารถสร้าง “กลวิธีในการเดาคำตอบ” (Heuristic) ได้

รูปที่ 2 ตัวอย่างวิธีการเดา (heuristic) ที่ทีมวิจัยพบว่า BERT นำมาใช้ 

ทีมวิจัยพบว่าแท้จริงแล้ว โมเดล “ค้นพบ” ถึง “วิธีการเดาอย่างง่ายๆ” (Heuristic) ดังปรากฏในรูปที่ 2 ตัวอย่างเช่น

ถ้าประโยคที่ 2 มี substring ที่สอดคล้องกับประโยคที่ 1 มาก ให้ตอบว่า ประโยคที่ 2 “สรุปได้“ (entailment) จากประโยคที่ 1
(ดูตัวอย่างในคอลัมภ์สุดท้ายของรูปที่ 2.)

วิธีการเดานี้แม้ไม่ถูกต้อง 100% แต่ก็ให้ผลลัพธ์ถูกต้องราวๆ 80% บน MNLI ซึ่งเพียงพอในการจะ “หลอก” มนุษย์อย่างพวกเราว่า ”AI นั้นเก่งจริง!!”

อย่างน้อยก็เก่งเหมือนเจ้าม้าฮันส์ที่สามารถคิดวิธี “เดา” เหล่านี้ได้เอง โดยวิธีการเดาเหล่านี้สามารถใช้ได้กับข้อมูลทั่วๆ ไปจริง แต่สามารถตอบผิดได้ 100% ถ้าผู้ถามทราบวิธีการเดาเหล่านี้

ทำไม Datasets ถึงมีจุดอ่อนง่ายๆ แบบนี้?

ถึงแม้ว่าทีม NYU ซึ่งเป็นผู้รวบรวม Dataset MNLI ได้พยายามรวบรวมรูปประโยคจากหลายแหล่งในโลก ทว่าก็ยังเป็นรูปประโยคที่พบได้ทั่วไป และ “ไม่ได้” ถูกออกแบบมาเพื่อ “ดักวิธีการเดาง่ายๆ“ เหล่านี้ ซึ่งแสดงให้เห็นว่าการออกแบบการทดลอง และ Datasets มีความสำคัญมาก

เจ้าม้า BERT ผู้ซึ่งถูกจับได้ และตอบผิดเกือบ 100%
ซึ่งทีมวิจัยได้ทดสอบด้วยการออกแบบและสร้าง Dataset NLI อีกชุดที่เรียกว่า HANS (ล้อเลียนเจ้าม้าฮันส์) ซึ่งย่อมาจาก “Heuristic Analysis for NLI System” โดยจงใจสร้างประโยคที่ 2 ให้ขัดแย้งกับประโยคที่ 1 ถึงแม้ประโยคที่ 2 จะเป็น substring ของประโยคแรกก็ตาม ดูตัวอย่างประโยคในคอลัมภ์สุดท้ายของรูปที่ 2 ครับ

และพบว่าเมื่อให้เจ้าม้า BERT ที่มีความแม่นยำสูงใน MNLI มาทดสอบใน Dataset HANS นี้ (ซึ่งมนุษย์เราตอบได้ถูกเกือบ 100%) ปรากฏว่าเจ้าม้า BERT จะตอบผิดเกือบ 100% เลยครับ!!!

แสดงว่า BERT ที่ปรากฏตามงานวิจัยที่ผ่านมาว่าเข้าใจภาษามนุษย์อย่างดีนั้น ไม่ได้เข้าใจภาษามนุษย์เลย!! (แบบเดียวกับม้าฮันส์เป้ะ)

ความสำคัญของการทำนาย “ข้อมูลที่ไม่ค่อยพบเจอ”
หลายคนอาจสงสัยว่า "แล้วความรู้ทางสถิติที่สอดคล้องจากข้อมูลมหาศาลมันไม่ดีตรงไหน มันยิ่งทำให้แม่นยำกับโลกความเป็นจริงไม่ใช่เหรอ"? คำตอบคือ ใช่ครับ มันอาจจะแม่นยำกับข้อมูล "ปกติ" แต่มันสามารถทำงานผิดพลาดได้ 100% (พูดภาษาบ้านๆ คือ ผิดแบบน่าอับอาย) ได้ตลอดเวลาถ้าเจอข้อมูลที่ "ไม่ค่อยได้พบเจอ" (หรือ “ไม่เคยเจอ”)

จุดนี้หลายคนอาจสงสัยต่อว่า เราต้องใส่ใจข้อมูลที่ “ไม่ค่อยเจอ” ด้วยเหรอ?

ขอตอบให้ชัดครับว่า เรา “จำเป็น” ต้องใส่ใจกับข้อมูลที่ “ไม่ปกติ” เหล่านี้ถ้าโมเดลของเราถูกนำไปใช้ในงานที่เกี่ยวข้องกับ "ความปลอดภัย" ต่างๆ

ลองจินตนาการถึงโลกอนาคตที่ AI ทำงานแทนมนุษย์เป็นเรื่องปกติ และเรายังไม่สามารถแก้จุดอ่อนนี้ได้ ย่อมเปิดโอกาสให้ผู้ไม่ประสงค์ดี หรือผู้ก่อการร้ายต่างๆ สามารถเล่นงานจุดอ่อนนี้ของ AI และทำให้ระบบความปลอดภัยต่างๆ ล้มเหลวได้ไม่เป็นท่าทันที ปัญหานี้จึงสำคัญมากๆ ในเหตุการณ์ที่ไม่ปกติแต่รุนแรงมากเหล่านี้ครับ

สำหรับผู้สนใจสามารถอ่านรายละเอียดเพิ่มเติมได้ในงานวิจัยฉบับเต็มในเอกสารอ้างอิง 3 และ 4 ครับ หรืออ่านบทความเพิ่มเติมในบทความเอกสารอ้างอิง 1. ครับ :D

UPDATE กค. 2020 นักวิจัยได้คิดค้นวิธี syntactic data augmentation เพื่อให้เจ้าม้า Bert มีความเข้าใจ syntax ที่หลากหลายมากขึ้น และทำให้ไม่หลงกลข้อมูลใน Dataset HANS นี้ง่ายๆ โดยหลังจาก augment ไปแล้ว ความแม่นยำของ Bert บน Dataset HANS นั้นเพิ่มขึ้นหลายเท่าตัว ผู้สนใจดูเพิ่มได้ใน https://arxiv.org/pdf/2004.11999.pdf

เอกสารอ้างอิง

1. https://thegradient.pub/nlps-clever-hans-moment-has-arrived/

2. Dataset MNLI : https://www.nyu.edu/projects/bowman/multinli/

3. Right for the Wrong Reasons: Diagnosing Syntactic Heuristics in Natural Language Inference : https://www.aclweb.org/anthology/P19-1334.pdf

4. Probing Neural Network Comprehension of Natural Language Arguments : https://www.aclweb.org/anthology/P19-1459.pdf