DEV Community

Nokka
Nokka

Posted on

สรุปคอร์ส Stanford CS329A, หลักสูตร 'AI Agent ที่ปรับปรุงตัวเอง' ที่เปิดฟรีบน YouTube

สรุปคอร์ส Stanford CS329A, หลักสูตร "AI Agent ที่ปรับปรุงตัวเอง" ที่เปิดฟรีบน YouTube

โดย Nokka (นก-กา), นักเขียนอิสระสายเทคโนโลยี ผู้เขียนบทความอธิบายเทคโนโลยีให้คนทั่วไปเข้าใจ 30+ บทความบน dev.to | 5 กันยายน 2026

บทความนี้เขียนโดย AI (glm-5.3 via ollama-cloud) ผ่าน Hermes Agent ภายใต้การควบคุมและตรวจสอบคุณภาพโดยมนุษย์, Nokka (นก-กา), อ้างอิงจากเว็บไซต์ทางการของคอร์ส cs329a.stanford.edu, คลิปบรรยายและ speaker bios ทางการบน YouTube ช่อง Stanford Online และบันทึกสรุปอิสระที่อ่านทั้งหมดจริง

Stanford CS329A

มีคอร์สหนึ่งที่กลายเป็นข่าวในกลุ่มคนทำ AI ต้นเดือนนี้: Stanford CS329A "Self-Improving AI Agents" หลักสูตรระดับบัณฑิตศึกษาที่สอนเรื่องเอเจนต์ AI ที่ปรับปรุงตัวเองได้ และที่สำคัญที่สุดคือ บรรยายทั้งคอร์สถูกเปิดฟรีบน YouTube โดยตัวผู้สอนคือคนที่อยู่ในสนามจริงมาก่อน [1]

คอร์สนี้สอนโดยสองคนที่ผมขอเล่าประวัติแบบเต็ม เพราะทั้งคู่ไม่ใช่อาจารย์สายบรรยายล้วน แต่คือคนที่สร้างผลงานที่เราใช้กันอยู่ทุกวันนี้จริงๆ [3]

Azalia Mirhoseini, จากคนออกแบบชิปด้วย AI ถึงผู้บุกเบิก test-time scaling

Mirhoseini ปัจจุบันเป็นอาจารย์ผู้ช่วยภาควิชาวิทยาการคอมพิวเตอร์ที่สแตนฟอร์ด และเป็นผู้ร่วมก่อตั้ง Ricursive Intelligence แล็บสายแนวหน้าที่ทำ recursive self-improvement ผ่านการให้ AI ออกแบบชิปที่ขับเคลื่อนมันเอง เธอเคยทำงานกับ Google Brain, Anthropic (ทีมพัฒนา Claude) และ Google DeepMind (ทีม Gemini) มาก่อน

ผลงานที่ทำให้เธอโดดเด่นมีสามชิ้นที่ผมคิดว่าคนทำ AI ต้องรู้จัก

หนึ่ง สถาปัตยกรรม Mixture-of-Experts ที่วันนี้กลายเป็นโครงสร้างหลักของโมเดล generative เกือบทุกตัว สอง AlphaChip งานใช้ reinforcement learning ออกแบบ layout ชิปที่ถูกนำไปใช้ในการผลิต TPU และ CPU ศูนย์ข้อมูลจริง ตีพิมพ์ในวารสาร Nature

สาม การบุกเบิก LLM Test-Time Scaling ซึ่งเป็นสาขาวิจัยทั้งสาขา ไม่ใช่แค่งานเดียว (งาน Large Language Monkeys ที่จะเล่าในบทความนี้คือหนึ่งในชิ้นสำคัญของแนวนี้) เธอยังเป็นหัวหน้า Scaling Intelligence Lab ของมหาวิทยาลัย และได้รับรางวัลระดับ MIT Technology Review 35 Under 35 กับ Okawa Research Grant

Akanksha Chowdhery, คนที่เทรนโมเดลใหญ่สุดในโลกด้วยตัวเอง

Chowdhery เป็นอาจารย์ผูกพันที่สแตนฟอร์ด (น่าสนใจว่า PhD ของเธอก็จากที่นี่เช่นกัน) และเป็นหนึ่งในนักวิจัยไม่กี่คนของโลกที่นำการเทรนโมเดล frontier ครบทั้งสถาปัตยกรรม dense และ MoE มาตลอดเส้นทาง

เธอเป็นหัวหน้าทีมเทรน PaLM 540B โมเดล dense ที่ใหญ่ที่สุดในโลกในยุคนั้น จากนั้นขับเคลื่อน pre-training และ scaling ของ Gemini แบบ MoE หลาย generation รวมถึงมีส่วนใน PaLM-E, Med-PaLM และโครงสร้าง Pathways ที่รองรับโมเดลใหญ่ทั้งหมดของ Google

หลังจาก Google เธอไปสร้างและนำทีม pre-training ที่ Reflection AI และ Meta ก่อนกลับมาสอนที่สแตนฟอร์ด เธอยังเป็น Program Chair ของงานประชุม MLSys 2026 อีกด้วย รายละเอียดชีวประวัติทั้งคู่อ้างจากข้อมูลทางการของบรรยายบน YouTube [3]

ด้วยพื้นหลังแบบนี้ สิ่งที่ทั้งคู่สอนในคอร์สจึงไม่ใช่ทฤษฎีจากหนังสือ แต่เป็นเรื่องเล่าจากคนที่ทำจริงมาก่อน

บทความนี้รวบรวมเนื้อหาโดยละเอียดของทั้งคอร์ส: ภาพรวมว่าสอนอะไรบ้าง บรรยายแรกพูดถึงอะไร และถ้าคุณอยากเรียนต่มีอะไรต้องรู้

ก่อนอื่น, ทำความเข้าใจศัพท์

  • Self-improving agent: เอเจนต์ AI ที่พัฒนาตัวเองต่อเนื่องผ่านการโต้ตอบกับสิ่งแวดล้อมและตัวเอง ไม่ใช่รอคนสั่งอัปเดตทีละครั้ง
  • Test-time compute: การอนุญาตให้โมเดล "คิดนานขึ้นหรือลองหลายรอบ" ตอนใช้งานจริง แทนที่จะตอบครั้งเดียวจบ
  • Verifier: ตัวตรวจคำตอบ เช่น ชุดทดสอบหรือเกณฑ์ที่บอกได้ว่าคำตอบนี้ถูกหรือผิดโดยไม่ต้องถามคน
  • RL (Reinforcement Learning): วิธีฝึกโมเดลแบบให้รางวัลเมื่อทำถูก

ถ้าให้อุปมา: คอร์สนี้คือการเรียนวิธีเลี้ยงพนักงานที่ "ยิ่งทำยิ่งเก่ง" เกินกว่าพนักงานที่เก่งตั้งแต่จ้างมาแล้วหยุดพัฒนา และเครื่องมือหลักของการเลี้ยงคือห้องทดสอบ (verifier) กับเวลาในการลองผิดลองถูก (test-time compute)

คอร์สนี้สอนอะไรบ้าง: โครงสร้างเต็ม 20 สัปดาห์

จากเว็บไซต์ทางการของคอร์ส หัวข้อเรียงเป็นเส้นทางต่อเนื่องกันอย่างชาญฉลาด [1]

ช่วง หัวข้อ แก่น
1-2 ภาพรวม + Test-time Compute ทำไมการให้โมเดลลองหลายครั้งพร้อมตัวตรวจถึงเทียบเท่าขยายขนาดโมเดล
3 Robust Verification หัวใจของทั้งคอร์ส: ตัวตรวจที่แข็งแรงคือเงื่อนไขของการเก่งขึ้นเอง
4 เรียนรู้จาก feedback ด้วยเครื่องมือ/โค้ด ReAct, RLEF, Constitutional AI
5 เหตุผลหลายขั้นและการวางแผน การต้นไม้ค้นหาแบบแปรผัน
6 ขยายการฝึกด้วย RL STaR, DeepSeekMath, DAPO
7 วิวัฒนาการแบบเปิดของ agent ที่ปรับตัวเอง AI Scientist, AlphaEvolve
8 ค้นหาแบบลึกและ Deep Research AlphaCode 2, Search-o1
13 เฟรมเวิร์ก agent สำหรับวิศวกรรมซอฟต์แวร์ CodeMonkeys, KernelBench
14 เสริม agent ด้วยความจำ MemGPT, Cartridges
17 การวัดผล agent และงานยาว METR, GDPVal
20 ทิศทางวิจัยอนาคต เปิดพื้นที่สำหรับโปรเจกต์นักศึกษา

สังเกตว่าแต่ละหัวข้อมาพร้อมรายชื่อ paper ที่นักศึกษาต้องอ่านจริง ทั้งหมดเป็นงานล่าสุดของวงการเช่น ReAct (2022), Let's Verify Step by Step (2023), AlphaEvolve (2025) และ Measuring AI Ability to Complete Long Tasks ซึ่งเป็นงานของ METR ที่ผมเขียนถึงในบท long-running agents ไปแล้ว [1]

อีกจุดที่น่าสนใจคือบรรยายรับเชิญ ซึ่งล้วนเป็นคนจากหน่วยงานจริง: Melvin Johnson จาก DeepMind พูดเรื่องวิวัฒนาการ post-training จากแชตบอตสู่ agent, Junchen Jiang (สร้าง LMCache) พูดเรื่องความจำ, Denny Zhou จาก DeepMind พูดเรื่องการให้เหตุผลของ LLM, Thang Luong พูดเรื่อง AlphaProof กับเหรียญทอง IMO, Misha Laskin จาก Reflection AI พูดเรื่องสร้างระบบ agent แบบอิสระ และ Danny Driess จาก Physical Intelligence พูดเรื่องหุ่นยนต์ [1]

บรรยายเปิดคอร์สสอนอะไร: เส้นเรื่องสี่องก์

บรรยายแรก (คลิป 1:09:42 นาที บน YouTube) เป็นการวางแผนที่ของทั้งวงการ ผมอ่านบันทึกสรุปอิสระที่จดรายละเอียดไว้ครบ [2] เนื้อหาเรียงเป็นสี่องก์

องก์แรก: ยุคขยายขนาด (2018-2024)

เรื่องเริ่มจากกราฟกฎการขยายที่คุ้นเคย: เพิ่มพารามิเตอร์ เพิ่มข้อมูล เพิ่มแรงคำนวณ แล้วค่าความผิดพลาดลดลงอย่างคาดการณ์ได้

ขนาดโมเดลไต่จาก BERT ที่ 340 ล้านพารามิเตอร์ ผ่าน GPT-3 ที่ 175,000 ล้าน จนถึงประมาณการล้านล้านของ GPT-4

สิ่งที่การใหญ่ขึ้นซื้อมาได้นอกจากคะแนนคือพฤติกรรมที่โผล่เอง (emergent behavior) ตัวอย่างคลาสสิกคือการกระตุ้นให้คิดเป็นขั้นๆ (chain of thought): โมเดลระดับ 7-8 พันล้านพารามิเตอร์ไม่ได้ประโยชน์อะไรเลยจากเทคนิคนี้ แต่โมเดลที่ใหญ่กว่าได้ประโยชน์ทันที ปรากฏการณ์ข้ามเพดานนี้เองที่ทำให้บริษัทต่างๆ ยังผลักดันขนาดต่อ เพราะความสามารถที่โผล่มานั้นคาดการณ์ไม่ได้ [2]

องก์สอง: สูตรลับของ ChatGPT

สิ่งที่ทำให้ ChatGPT ต่างจาก GPT-3 ไม่ใช่ขนาด แต่เป็นชั้นฝึกสามชั้นที่เพิ่มเข้าไป: การฝึกด้วยข้อมูลคุณภาพสูงที่บริษัทจ่ายเงินหลายร้อยล้านซื้อ, การฝึกให้ทำตามคำสั่ง และการเรียนรู้จากการจัดอันดับของมนุษย์ (RLHF) ที่สร้างโมเดลให้รางวัลเป็นตัวชี้นำ ทั้งสามชั้นเกิดก่อนการใช้งานและฝังอยู่ในน้ำหนักโมเดลทั้งหมด [2]

องก์สาม: การใช้งานก็เป็นแนวหน้าวิจัยด้วย

จุดหักเลี้ยวของวงการราวปี 2024-25 คือการค้นพบว่าคุณซื้อความเก่งได้ตอนใช้งานโดยไม่ต้องแตะพารามิเตอร์เลย

งานวิจัยที่ผู้สอนคนหนึ่งทำเองคือ Large Language Monkeys (ตั้งชื่อตามทฤษฎีลิงพิมพ์เขียนสำเร็จ): จับโมเดลเล็กอย่าง Llama 3 ขนาด 8B ให้ตอบโจทย์เดิมซ้ำถึง 10,000 ครั้ง แล้วใช้ตัวตรวจ (เช่น รัน unit test) คัดคำตอบที่ถูก ผลคือโมเดลเล็กที่ปกติแพ้ GPT-4o เกือบหมดสมอง กลับชนะได้เมื่อเปิดงบการลอง บางโจทย์มีคำตอบถูกเพียงสามถึงสี่จากสิบพันครั้งที่ลอง แต่นั่นก็เพียงพอ [2]

แล้วโมเดลตระกูล o1 ก็ปิดวงจรนี้ด้วยการย้ายการสุ่มนับพันให้เกิดข้างในตัวเอง กลายเป็นการคิดยาวขึ้นเพื่อเลือกสายเหตุผลที่ถูกในครั้งเดียว จากนั้นวงล้อวงล้อเก่งขึ้นเองก็เกิดเอง: การใช้งานยาวๆ สร้างข้อมูลตัวอย่างคุณภาพดีมหาศาลบนโจทย์ที่ตรวจได้ และข้อมูลชุดนั้นกลายเป็นชุดฝึกของโมเดลรุ่นถัดไป [2]

องก์สี่: จาก LLM สู่ agent

บรรยายนิยามความต่างแบบคมที่สุด: แชตบอตตอบคำถาม เอเจนต์มีเป้าหมาย วางแผน โต้ตอบกับสภาพแวดล้อม ใช้ผลตอบกลับแก้ตัวเอง และรู้ว่าเมื่อไหร่ทำเสร็จหรือทำไม่ได้ ในทางปฏิบัติระบบที่ใช้จริงส่วนใหญ่ไม่ใช่วงล้อเปิดแต่เป็นกราฟที่คนออกแบบไว้ มีห้าแพทเทิร์นหลัก: ต่อโซ่พรอมป์ต, จัดเส้นทางตามความยาก, ขนานแล้วรวมผล, ผู้คุมกลางสั่งแยกงาน, และผู้ตัดสิน โดยบรรยายยกเครื่องมือจริงอย่าง Claude Code และงานสาย deep research เป็นตัวอย่างของแพทเทิร์นเหล่านี้ในสนาม [2] [3]

สำหรับ agent เขียนโค้ด วงจรคือ: ไปใน repository ค้นไฟล์ แก้โค้ด รันคำสั่ง อ่านผล ตัดสินใจแก้ต่อ ผู้สอนพูดตรงๆ เรื่องเส้นเวลาว่าวงจรนี้ปีที่แล้วยังไม่เสถียรพอ และเพิ่งเริ่มเสถียรเมื่อปีนี้ สิ่งที่เปลี่ยนไม่ใช่แนวคิด แต่เป็นโมเดลที่เก่งขึ้นบวกกับการฝึกด้วยรางวัลที่ตรวจได้ [2]

สองคำสารภาพจากผู้สอนที่บอกอะไรมากกว่าสไลด์

ช่วงถามตอบของบรรยายมีข้อความสองอันที่ผมคิดว่าคุ้มค่าการจดจำมากกว่าเนื้อหาหลัก [2]

หนึ่ง คอขวดอยู่ที่ตัวตรวจไม่ใช่ตัวสร้าง โมเดลสร้างคำตอบคุณภาพดีได้ถูกๆ แต่การรู้ว่าคำตอบไหนมีประโยชน์ต้องมีวงจรตรวจสอบ ในโดเมนที่ตรวจได้ (คณิต โค้ด งานตามกฎ) ตัวตรวจถูกและวงล้อเก่งขึ้นเองหมุนได้ ในงานสร้างสรรค์ มนุษย์คือตัวตรวจและวงล้อก็หมุนช้าลง คำกล่าวนี้ตอบว่าทำไมความก้าวหน้า AI ระเบิดในโปรแกรมมิ่งก่อนอาชีพอื่น และคอร์สทั้งคอร์สอุทิศบรรยายทั้งบรรยายให้เรื่องตัวตรวจโดยเฉพาะ

สอง โมเดลชอบงานของตัวเอง ข้อมูลการฝึกที่ได้ผลดีที่สุดคือคำตอบที่โมเดลเขียนเอง ไม่ใช่ของโมเดลที่เก่งกว่า ซึ่งขัดกับสัญชาตญาณของผู้ฝึกเกือบทุกคน และเมื่อถามว่าความก้าวหน้ามาจากการฝึกแบบ RL หรือจากข้อมูลก่อนการฝึก คำตอบที่ให้คือไม่มีฉันทามติเดียวในวงการ ทั้งสองอย่างช่วย

ถ้าอยากเรียนต่อ ต้องรู้อะไร

ดูฟรีทั้งคอร์สได้: บรรยายถูกอัปโหลดขึ้น YouTube ช่อง Stanford Online ตามหลักสูตร (บรรยายแรกอยู่แล้ววันนี้ พร้อมบรรยายที่สองเรื่องการขยายการใช้งาน) [1] [3]

เว็บไซต์คอร์สเปิดพร้อมรายชื่อ paper: ที่ cs329a.stanford.edu มีตารางเรียนครบทั้ง 20 สัปดาห์พร้อมลิงก์ paper ที่ต้องอ่านทุกบรรยาย นี่คือหลักสูตรอ่านเองที่ดีที่สุดฟรีชุดหนึ่งของปีสำหรับคนทำงานสาย agent จริง [1]

การเรียนจริงในรั้วมหาวิทยาลัยมีเงื่อนไข: วิชานี้เป็นสัมมนาระดับบัณฑิตศึกษา การเรียนจริงมีงานสามชุด (ส่วนแบ่งคะแนน 50%) และโปรเจกต์วิจัยกลุ่มสองถึงสี่คน (อีก 50%) โดยโปรเจกต์ห้ามเป็นงานสรุปหรือแอปธรรมดา ต้องเป็นงานวิจัยจริงเช่นสร้างชุดวัดใหม่หรือวิจัยความน่าเชื่อถือของระบบ agent ทั้งหมดมีเครดิต API สนับสนุน และปีที่แล้วมีนักศึกษาตีพิมพ์งานวิจัยจากโปรเจกต์คอร์สนี้จริง [1] [2]

ทำไมคอร์สนี้ถึงสำคัญกับคนทำงานนอกห้องเรียน

ผมมองว่าคุณค่าของ CS329A ไม่ได้อยู่ที่วุฒิการศึกษา แต่อยู่ที่สามสิ่งที่มันทำให้เห็นชัด

หนึ่ง มันยืนยันเส้นทางที่บริษัทจริงกำลังเดิน หลักสูตรนี้ไม่ได้สอนเทคโนโลยีล้ำในห้องแล็บ แต่สอนสิ่งที่ใช้กันอยู่ตอนนี้: บรรยายเรื่อง verification ตรงกับแนวคิด evidence-bound ที่ผมเจอในโปรเจกต์ oh-my-hermes เรื่องการแยกสถานะงานจริงจากที่รายงานมา, บรรยายเรื่อง agent ทำงานยาวสอดคล้องกับงานวิจัย METR และกรณี long-running agents ที่เขียนไปเมื่อสัปดาห์ก่อน สถาบันการศึกษา บริษัท และโปรเจกต์โอเพนซอร์สกำลังมาบรรจบที่คำตอบเดียวกัน นี่คือสัญญาณว่าเรื่องนี้ไม่ใช่แฟชั่นชั่วคราว

สอง นี่คือแผนที่ paper ที่ประหยัดเวลาที่สุด ใครที่อยากตามงานวิจัยสาย agent อย่างจริงจังแต่ไม่รู้จะเริ่มจากไหน ตารางอ่านของคอร์สนี้คือการคัดแล้วคัดอีกโดยคนที่อยู่ในสนาม ครบทั้งเส้นเรื่องจากงานรากฐานจนถึงงานหน้าล่าสุด

สาม มันบอกทักษะที่จะแพงขึ้น ถ้าจุดยืนของคอร์สคือ "ตัวตรวจสำคัญกว่าตัวสร้าง" อาชีพที่จะเติบโตในโลก agent คือคนที่ออกแบบระบบตรวจสอบและเกณฑ์ความสำเร็จ ไม่ใช่คนที่เก่งเขียนพรอมป์ตเยอะที่สุด สิ่งนี้สอดคล้องกับข้อสรุปของ paper Agentic Software ที่ผมรีวิวไปว่ามนุษย์ยุคใหม่คือสถาปนิกของเจตนา

คำถามชวนคุย: จากตารางหัวข้อทั้ง 20 สัปดาห์ ถ้าให้เลือกดูแค่สามบรรยายก่อนคุณจะเลือกอะไร และถ้าให้เพิ่มหนึ่งหัวข้อที่คอร์สนี้ยังไม่มีแต่คุณคิดว่าต้องมีจริงๆ จะเป็นอะไร คอมเมนต์แลกเปลี่ยนกันได้ครับ

ถ้าชอบบทความแนวสรุปความรู้จากแหล่งจริงแบบนี้ ติดตาม Nokka ได้ที่ dev.to/sarantoon

📚 อ่านต่อในธีมเดียวกัน: บทความชุดที่ผมเขียนไปทั้งสัปดาห์เกี่ยวกับ long-running agents, benchmark ที่ต้องอ่านให้เป็น และ paper "Agentic Software" ทั้งหมดคือการขยายหัวข้อที่คอร์สนี้สอนในเชิงลึก อ่านเรียงกันจะเห็นภาพเต็มของวงการ

แหล่งอ้างอิง

[1] Stanford University. "CS329A: Self-Improving AI Agents" (เว็บไซต์คอร์สทางการ, ตารางเรียนและรายชื่อ paper ครบ). 2025-2026. https://cs329a.stanford.edu

[2] Sparse Notes. "Stanford CS329A: Self-Improving Agents, Course Overview" (บันทึกสรุปบรรยายแรกอย่างละเอียด). 2026. https://sparsenotes.com/posts/2026/08/stanford-cs329a-self-improving-ai-agents/

[3] Stanford Online (YouTube). "Stanford CS329A Self-Improving AI Agents, Part 1, Course Overview" (คลิปบรรยายจริง 1:09:42 พร้อม speaker bios ทางการ). 2025. https://www.youtube.com/watch?v=6YnLB0XbTnI


บทความนี้รวบรวมจากเว็บไซต์คอร์สทางการที่อ่านครบทั้งหน้า (ตาราง 20 สัปดาห์พร้อม paper ทุกบรรยาย), บันทึกสรุปบรรยายแรกฉบับเต็ม และคลิปบรรยายพร้อม speaker bios ทางการจาก YouTube ข้อมูล ณ 5 กันยายน 2026 Nokka

Top comments (0)