DEV Community

Nokka
Nokka

Posted on

ทำไมโมเดล AI เก่งๆ ยังพังกับงานจริง, และ 'harness' คืออะไรกันแน่

ทำไมโมเดล AI เก่งๆ ยังพังกับงานจริง, และ "harness" คืออะไรกันแน่

โดย Nokka (นก-กา) | 23 สิงหาคม 2026

บทความนี้เขียนโดย AI (deepseek-v4-pro via ollama-cloud) ผ่าน Hermes Agent ภายใต้การควบคุมและตรวจสอบคุณภาพโดยมนุษย์, Nokka (นก-กา)

ทำไมโมเดลเก่งๆ ยังพัง

ก่อนอื่น, ทำความเข้าใจศัพท์

ก่อนเข้าเรื่อง ขอปูศัพท์ 3 คำที่คนอ่านบทความนี้ต้องรู้ก่อน:

  • Harness (ฮาร์เนส): "ชุดสายรัด" ที่ครอบรอบโมเดล AI, ไม่ใช่ตัวโมเดล แต่เป็น "สภาพแวดล้อม" ทั้งหมดที่ทำให้โมเดลทำงานได้น่าเชื่อถือ เช่น ไฟล์คำสั่ง, ระบบตรวจสอบ, ระบบบันทึกความคืบหน้า
  • Capability Gap (ช่องว่างความสามารถ): ช่องว่างระหว่าง "คะแนน benchmark" กับ "ผลงานจริง" ของโมเดล
  • Verification Gap (ช่องว่างการตรวจสอบ): ช่องว่างระหว่าง "ความมั่นใจของ agent" กับ "ความถูกต้องจริง"

ถ้าให้อุปมา: โมเดล AI คือ "สมอง", harness คือ "ร่างกาย + เครื่องมือ + กติกา" ที่ทำให้สมองลงมือทำอะไรได้จริง

ปัญหาที่ทุกคนเจอ: โมเดลเก่ง แต่ทำงานจริงแล้วพัง

ณ ปลายปี 2025, coding agent ที่เก่งที่สุดบน SWE-bench Verified ทำคะแนนได้ประมาณ 50-60% ฟังดูพอใช้ แต่ตัวเลขนี้มาจาก "งานที่คัดมาอย่างดี", มีคำอธิบายชัดเจน มี test case สำเร็จรูป

พอคุณเอางานจริงไปให้, สเปกคลุมเครือ, ไม่มี test, กฎธุรกิจที่ไม่ได้เขียนไว้กระจัดกระจายทั่ว codebase, คะแนนยิ่งร่วงลงไปอีก

คุณส่งงานด้วยความมั่นใจ, agent รัน 20 นาทีแล้วบอกว่า "เสร็จแล้ว", พอคุณดูโค้ด: มันเพิ่ม feature แต่ทำ test พัง, แก้ bug แต่สร้าง bug ใหม่, และมันไม่ตรงกับที่คุณขอด้วยซ้ำ

ปฏิกิริยาแรกของคนส่วนใหญ่ (และทำไมมันผิด)

พอเจอแบบนี้ คนส่วนใหญ่คิดว่า "โมเดลไม่เก่งพอ, ลองตัวแพงกว่า"

แต่ก่อนจะควักกระเป๋า ลองคิดดูว่า ปัญหาอาจไม่ได้อยู่ที่โมเดลเลย

การทดลองที่พิสูจน์ทุกอย่าง: ม้าตัวเดียวกัน ชะตาต่างกัน

Anthropic ทำการทดลองควบคุมที่ชัดเจนมาก: prompt เดียวกัน ("สร้าง 2D retro game editor"), โมเดลเดียวกัน (Opus 4.5), รัน 2 ครั้ง

  • ครั้งแรก: เปล่าๆ ไม่มีอะไรช่วย, 20 นาที, $9, ฟีเจอร์หลักของเกมใช้ไม่ได้
  • ครั้งที่สอง: harness เต็มรูปแบบ (planner + generator + evaluator สาม agent), 6 ชั่วโมง, $200, เกมเล่นได้จริง

โมเดลไม่เปลี่ยน Opus 4.5 ก็ยังเป็น Opus 4.5 สิ่งที่เปลี่ยนคือ "สายรัด" (tack) [2]

OpenAI พูดตรงกว่านั้นอีก: Codex ใน repository ที่มี harness ดี เปลี่ยนจาก "ไม่น่าเชื่อถือ" เป็น "น่าเชื่อถือ", ไม่ใช่ "ดีขึ้นนิดหน่อย" แต่เป็น "ก้าวกระโดดเชิงคุณภาพ" [1]

Agent ติดตรงไหนบ้าง (5 จุด)

โหมดความล้มเหลวมีแค่ไม่กี่แบบ:

  1. สเปกคลุมเครือ, "เพิ่ม search feature" แทบไม่มีความหมาย ค้นอะไร? full-text หรือ structured? ต้อง paginate ไหม? agent ต้องเดา, เดาถูกคือโชค, เดาผิดคืองานซ้ำที่แพงกว่าการระบุให้ชัดตั้งแต่แรกหลายเท่า
  2. ธรรมเนียมที่ไม่ได้เขียน, ทั้งทีมใช้ SQLAlchemy 2.0 แต่ agent เขียน 1.x ตาม default, กฎ "ทุก API ต้องผ่าน OAuth 2.0" มีแค่ในหัวคุณกับข้อความ Slack เมื่อ 3 เดือนก่อน, agent ไม่รู้ ไม่ใช่ไม่อยากทำตาม แต่มันไม่เคยเห็นกฎ
  3. environment ไม่ครบ, agent เผา context ไปกับ pip install error และ Node version conflict แทนการทำงานจริง
  4. ไม่มีวิธีตรวจสอบ, ไม่มี test, ไม่มี lint, agent เขียนโค้ดแล้ว "รู้สึกว่าใช้ได้" ก็ประกาศเสร็จ Anthropic ยังพบปรากฏการณ์ "context anxiety": พอ agent รู้สึกว่า context ใกล้เต็ม มันจะรีบจบ, ข้ามการตรวจสอบ, เลือกวิธีง่ายแทนวิธีดี
  5. state หายข้าม session, ทุก session ใหม่เริ่มจากศูนย์, งานเกิน 30 นาที failure rate พุ่ง

แล้ว "harness" คืออะไรกันแน่

หลายคนพูดคำว่า "harness" แต่ส่วนใหญ่หมายถึงแค่ "ไฟล์ prompt", ซึ่งไฟล์ prompt ไม่ใช่ harness

harness ที่นิยามชัดเจนประกอบด้วย 5 ระบบย่อย [3]:

5 ระบบย่อยของ harness

ระบบย่อย หน้าที่ ตัวอย่าง
Instructions บอก agent ว่าทำอะไร ลำดับไหน AGENTS.md, CLAUDE.md
Tools ให้ agent ลงมือทำได้ shell, files, tests
Environment สภาพแวดล้อมที่รัน deps, services, versions
State บันทึกความคืบหน้า PROGRESS.md, git
Feedback ตรวจว่างานถูกไหม test, lint, build

หลักการสำคัญ: ถ้าไม่ใช่ model weights, มันคือ harness, และ harness กำหนดว่า "ความสามารถของโมเดลถูกใช้จริงแค่ไหน"

เรื่องจริงของทีมหนึ่ง: 20% → 100% โดยไม่เปลี่ยนโมเดล

ทีมหนึ่งใช้ GPT-4o พัฒนาแอป TypeScript + React (~20,000 บรรทัด) ผ่าน 4 ขั้น:

ขั้น สิ่งที่เพิ่ม อัตราสำเร็จ
1 แค่ README 20%
2 + AGENTS.md (tech stack, conventions) 60%
3 + verification commands 80%
4 + progress file 80-100%

4 รอบ, โมเดลไม่เปลี่ยนเลย, อัตราสำเร็จจาก 20% ไปเกือบ 100%, คุณไม่ได้เปลี่ยนโมเดล, สิ่งที่เปลี่ยนคือ harness

หลักการเดียวที่ต้องจำ

เมื่อของพัง อย่าเปลี่ยนโมเดลก่อน, ตรวจ harness ก่อน

ทุกความล้มเหลวคือสัญญาณว่า harness มีจุดบกพร่องเชิงโครงสร้าง, หาให้เจอแล้วแก้ อย่าแค่พูดว่า "โมเดลไม่เก่งพอ"

และไฟล์ AGENTS.md ไฟล์เดียว อาจมีประสิทธิภาพมากกว่าการอัปเกรดเป็นโมเดลแพงกว่า, นี่ไม่ใช่เรื่องตลก

สรุปมุมมองของผม

ผมมองว่านี่คือ "จุดเปลี่ยนวิธีคิด" ที่สำคัญที่สุดของวงการ AI coding, มันเปลี่ยนคำถามจาก "โมเดลไหนเก่งกว่า" เป็น "harness ไหนดีกว่า"

เพราะข้อมูลชัดเจน: โมเดลเดียวกัน ในสภาพแวดล้อมต่างกัน ให้ผลลัพธ์ต่างกันแบบหน้ามือเป็นหลังมือ

ถ้าคุณใช้ coding agent แล้วรู้สึกว่า "มันไม่เก่ง" ก่อนจะเปลี่ยนโมเดล ลองถามตัวเองก่อนว่า "harness ของฉันครบ 5 ระบบย่อยหรือยัง?"

คุณเคยเจอปัญหา "agent บอกว่าเสร็จ แต่จริงๆ ไม่เสร็จ" บ้างไหมครับ? แล้วตอนนั้นคุณแก้ด้วยการเปลี่ยนโมเดล หรือปรับ harness? คอมเมนต์เล่าให้ฟังได้ครับ

แหล่งอ้างอิง

[1] OpenAI. "Harness Engineering: leveraging Codex in an agent-first world". 2026. https://openai.com/index/harness-engineering/

[2] Anthropic. "Effective harnesses for long-running agents". 2026. https://www.anthropic.com/engineering/effective-harnesses-for-long-running-agents

[3] Learn Harness Engineering, Lecture 01-02. 2026. https://github.com/walkinglabs/learn-harness-engineering


บทความนี้วิเคราะห์จาก OpenAI, Anthropic และ walkinglabs/learn-harness-engineering ข้อมูล ณ 23 สิงหาคม 2026 Nokka

Top comments (0)