รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ - คุยกันภาษา AI

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Tue, 31 Jan 2023 09:40:15 +0000

Huggingface มีคอร์ส Deep Reinforcement Learning แล้วจร้า

Deep RL คือ machine learning ที่สอนให้ agent (นึกถึงผู้เล่นในเกมส์) เรียนรู้ว่าจะ action อย่างไรใน environment ที่อาศัยอยู่

โดย Deep RL สร้างปรากฏการณ์หลายครั้งนับตั้งแต่ AlphaGo ที่เอาชนะ "มนุษย์" ผู้เล่นโกะมือวางอันดับหนึ่งของโลก และในปี 2013 OpenAI Five ที่เอาชนะผู้เล่น Dota2 มือวางลำดับต้นๆ ของโลก

( อ่านเรื่อง virtual environment เพิ่มเติมที่นี่ https://bit.ly/thaikeras-kaggle-lux )

และนับตั้งแต่ปี 2018 ที่ผ่านมามีทั้ง virtual environments และ libraries มากมายให้เราทดลองสร้าง DeepRL agent อย่างง่ายๆ นั่นเป็นเหตุผลว่า ตอนนี้เป็นเวลาที่ดีที่สุดที่เราจะเริ่มต้นศึกษา DeepRL กันครับ โดยใน course ของ Huggingface นี้เราเรียนรู้ได้ฟรีผ่านบทความ หรือ Video รวมทั้ง Colab โดยไม่มีค่าใช้จ่ายใดๆ

• ใน Huggingface Course นี้จะเริ่มสอนตั้งแต่พื้นฐาน (แต่ควรมีความรู้ Python และ Deep Learning มาก่อน) สอนทฤษฎีตั้งแต่ Q-learning จนถึงขั้นสูงเช่น Proximal Policy Optimization (PPO) และ Decision Transformers

• ให้เราได้หัดใช้ libraries ชั้นนำ เช่น StableBaseline3, RL Baseline3 Zoo และ RLLib ในการสร้าง agents

• ทดสอบ agents ใน environment เช่น SnowBallFight, Huggy the Doggo, Space Invader และ PyBullet

• เก็บและเผยแพร่ agent ของเราได้ง่ายๆ ผ่าน Huggingface Hub หรือจะดาวโหลด agent เจ๋งๆ ของคนอื่นจาก Hub มาใช้ก็ย่อมได้

• พัฒนา Agent เพื่อแข่งกับเพื่อนๆ ทั่วโลก

• พัฒนาและแชร์ Environment ของเราเอง ผ่าน Unity และ GoDot

ถ้าเพื่อนๆ พร้อมแล้วก็สามารถเข้า Course huggingface สามารถเข้าดูได้ที่นี่ครับ

https://github.com/huggingface/deep-rl-class

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Sun, 18 Dec 2022 00:20:51 +0000

"Transformers United" คอร์สฟรีจาก Stanford : รวมพลพรรค Transformers

เพราะว่า AI ในยุคปัจจุบันขับเคลื่อนด้วยโมเดล Transformers คอร์สนี้จึงไม่สอนอย่างอื่น จัดเต็ม Transformers กันไปเลยอาทิเช่น Language, Vision, Reinforcement Learning, Audio & Speech และ interpretation

เนื้่อหาคอร์สอยู่ที่นี่ และ video lecture ลิงก์ราย lecture ดูได้ที่ด้านล่างครับ
https://web.stanford.edu/class/cs25/

📅 Catalog of Lectures :
*************************
ดูทั้ง playlist ที่ https://www.youtube.com/playlist?list=PLoROMvodv4rNiJRchCzutFw5ItR_Z27CM

หรือแยกดูราย lecture
🔹 1. Introduction to Transformers:
📑 : https://bit.ly/3HDJ4vO

🔹 2.Transformers in Language: GPT-3, Codex
📑 : https://bit.ly/3Ytx4CT

🔹 3.Applications in Vision
📑 : https://bit.ly/3PrO5cw

🔹 4. Transformers in RL & Universal Compute Engines
📑 : https://bit.ly/3FSP5Dl

🔹 5.Scaling transformers
📑 : https://bit.ly/3uPgLCS

🔹 6.Perceiver: Arbitrary IO with transformers
📑 : https://bit.ly/3W1mv8r

🔹 7.Self-Attention & Non-Parametric Transformers
📑 : https://bit.ly/3vaZWmh

🔹 8.GLOM: Representing part-whole hierarchies in a neural network
📑 : https://bit.ly/3BCK5k1

🔹 9. Interpretability with transformers
📑 : https://bit.ly/3uSwAZB

🔹 10.Transformers for Applications in Audio, Speech and Music: From Language Modeling to Understanding to Synthesis.
📑 : https://bit.ly/3V1jbJp

ขอบคุณ link จาก Ashish Patel

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Mon, 27 Dec 2021 00:36:40 +0000

Geometric Deep Learning 2021

https://youtube.com/playlist?list=PLn2-dEmQeTfQ8YVuHBOvAhUlnIPYxkeu3

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Sat, 17 Jul 2021 07:03:51 +0000

Deep Generative Model CS236 Stanford

https://deepgenerativemodels.github.io/syllabus.html

DeepMind 2021 course

https://youtube.com/playlist?list=PLqYmG7hTraZDVH599EItlEWsUOsJbAodm

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Sat, 17 Jul 2021 07:02:15 +0000

ถ้าอยากต่อ Reinforcement Learning ให้ลึกไปอีกจากข้างบน ให้ดู CS 234 stanford เหมือนเดิมครับ

https://web.stanford.edu/class/cs234/modules.html

https://youtube.com/playlist?list=PLoROMvodv4rOSOPzutgyCTapiGlY2Nd8u

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Sat, 17 Jul 2021 00:07:44 +0000

Andrew Ng Lectures

CS229 Stanford Machine Learning 2019

ล่าสุดที่บันทึกวิดิโอได้ก่อนโควิดระบาดรุนแรง

http://cs229.stanford.edu/syllabus-summer2020.html

CS230 2018 - Deep Learning มองว่าเป็นเวอร์ชั่นอัพเดตจาก coursera ได้ครับ

http://cs230.stanford.edu/lecture/

http://cs230.stanford.edu/syllabus/

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Fri, 16 Jul 2021 13:02:41 +0000

Reinforcement Learning by Andrew Ng (2018)

อยู่ช่วงหลัง นั่นคือ lecture ที่ 16-20 ของ Machine Learning Course

https://www.youtube.com/watch?v=YQA9lLdLig8

เริ่มนาทีที่ 49 เป็นต้นไปครับ

ดูลิสต์ทั้งหมดที่นี่ https://youtube.com/playlist?list=PLoROMvodv4rMiGQp3WXShtMGgzqpfVfbU

เสร็จแล้วต่อด้วย Deep Reinforcement Lecture ใน CS 230

https://youtu.be/NP2XqpgTJyo

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Mon, 04 Jan 2021 07:34:26 +0000

Machine Learning Street Talk :

https://www.youtube.com/channel/UCMLtBahI5DMrt0NPvDSoIRQ

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Tue, 17 Nov 2020 22:31:33 +0000

มาดู Nvidia - Kaggle Grandmaster Series

Nvidia เป็นหนึ่งในบริษัทที่เล็งเห็นศักยภาพของผู้เข้าร่วมการแข่งขัน Kaggle ทำให้ Nvidia ตัดสินใจสร้างทีม Kaggle ขึ้นมาโดยเฉพาะ

ในการสร้างทีมนี้ Nvidia ได้ดึงตัว Data/Machine-Learning Engineer/Scientists ระดับ Grandmaster จากทั่วโลก และทีมนี้มีภารกิจหลักคือคว้าแชมป์ Kaggle ให้ได้ รวมทั้งร่วมพัฒนา library Deep Learning ของทาง Nvidia เองด้วย

ล่าสุดทีมนี้ได้เริ่มทำ Youtube Series โดยในตอนล่าสุดนี้ทีมนี้ได้แชร์การทำ Large-Scale Image Classification บน Data เป็นล้านๆ รูป และจำนวนคลาสมหาศาลถึง 80,000+ คลาส -- ที่มาของปัญหานี้มาจากแข่งขัน Google Landmark Recognition ปี 2020 ที่สองสมาชิกในทีมนี้คว้าแชมป์ได้นั่นเอง https://www.kaggle.com/c/landmark-recognition-2020

โดยผู้นำเสนอนั้นมี ชื่อย่อใน Kaggle ว่า Dieter และ Psi ซึ่งเป็นมือวางสิบอันแรกของโลกในวงการ สามารถรับชมได้ที่นี่เลยคร้าบบ :D

https://www.youtube.com/watch?v=VxNDH6qLZ_Q&t=781s

RE: รวม Online Courses ดีดี, Local Meetups และ AI Channels อื่นๆ

The Neural Engineer — Thu, 09 Apr 2020 01:26:54 +0000

Unsupervised Deep Learning Course 2020 จาก UC Berkeley

เอาไว้ดูตอนกักตัวอยู่บ้านช่วงเดือนเมษายนนี้แทนเป็นทางเลือกแทน Netflix ครับ :D

https://sites.google.com/view/berkeley-cs294-158-sp20/home

มีครบทั้งสไลด์และ video lectures

โดยเนื้อหาครอบคลุม Generative Models, Self-supervised Learning และ Semi-supervised Learning

เพื่อนๆ ส่วนใหญ่รู้จัก Generative models เช่น GANs และรู้จัก semi-supervised learning คือ ปัญหาที่เราต้องสร้างโมเดลเมื่อเรามีทั้ง labels และ unlabeled data อยู่แล้ว แต่อาจจะไม่รู้จัก Self-supervised learning จึงขอฝากเกร็ดเล็กๆ น้อยๆ ไว้ครับ

Self Supervised Learning คืออะไร?

มันคือการ train แบบ supervised บน unlabeled data (data ที่มนุษย์ไม่ได้เตรียม label ไว้)

แต่อาศัย label ที่อยู่ในธรรมชาติของข้อมูลเอง เช่น

- ใน text data เรากำหนดเป้าหมายให้ model เรียนรู้ความสัมพันธ์ของการใช้คำในภาษาเองได้ โดยพยายามทำนาย label=“คำถัดไป” จากคำที่อ่านมาแล้วก่อนหน้า เรื่องง่ายๆ นี้เป็นเคล็ดลับความสำเร็จของ BERT ที่พลิกวงการ NLP ในไม่กี่ปีที่ผ่านมา

- ใน image data เรากำหนดเป้าหมายให้ model เรียนรู้ information ต่างๆ ในรูปภาพได้เช่น เราสามารถตัดภาพเป็น ส่วนๆ เสมือน jigsaw แล้วส่งให้โมเดลนำ jigsaw นั้นกลับมาเรียงกันให้ได้เหมือนเดิม นั่นคือ label=ลำดับที่ถูกต้องของ jigsaw นั่นเอง (model ต้องเรียนรู้ความ smooth ของรูปภาพ) ดูรูปแนบ

การเรียนรู้แบบ self-supervised learning นี้ใช้ประโยชน์จาก big data บน internet ที่มีมหาศาลทำให้โมเดลมีความรู้ได้เองโดยไม่ต้องการมนุษย์สอน

จากนั้นเมื่อเราต้องการปรับใช้โมเดลในงานใดงานหนึ่งโดยเฉพาะ เราก็ลงทุนสอน (สร้าง labels) เพียงจำนวนเล็กน้อย และ finetune จาก self-supervised model ซึ่งมักจะได้โมเดลประสิทธิภาพสูงทั้งๆ ที่มี labeled data น้อยมากครับ

งาน self-supervised learning นี้นับว่าเป็นอนาคตของ Deep Learning เลยทีเดียว ไว้ดู lecture ข้างบนจบแล้วจะมาขยายความต่อครับผม ;D