DEV Community

M-tre Max
M-tre Max

Posted on

แนวคิดไปปรับจูนใส่ server ลดระยะเวลาในการเทรนให้เร็วขึ้น

แนวคิดนี้สามารถเอาไปปรับจูนใส่กับ server อยู่ที่อยู่ใต้มหาสมุทรได้โดยการต้องเขียนโค้ดอยู่ 2 อย่างอันนี้เป็นเพียงแค่โค้ชดิบเอาไว้อ้างอิงในการเขียนในอนาคตเขียนอยู่ 2 อย่างอย่างที่แรกก็คือเขียนประสิทธิภาพการใช้งานของหน่วยประมวลผลต้องจูนให้ CPU gpu rom ram npu ทำงานประสานกันแบบ 1 ต่อ 1เขียนให้ดูเป็นตัวอย่างแล้วมีดังนี้และคำอธิบายเล็กๆน้อยๆข้างล่าง ส่วนที่ 2 ที่ต้องจูนเพิ่มเพราะหากส่วนนี้ไม่จูนการทำงานของ ram กับ rom ส่วนนี้ก็สำคัญจะไม่มีทางวิ่งแบบหนึ่งต่อหนึ่งได้แน่นอน คือต้องจูนความเร็วอินเตอร์เน็ตให้สั้นกระชับแต่ไร้ขยะด้วยการเขียนเป็นแค่โค้ดดิบเท่านั้นการเขียนได้สำเร็จแล้วจะทำให้การเทรนแต่ละครั้งรอบให้สั้นกว่าเดิมและในรอบถัดไปสามารถเทรนแบบเรียลไทม์ได้อันดับแรกสำหรับ server ตัด display ออกเพราะว่าไม่ใช่พวกคอมพิวเตอร์หรือมือถือให้จูนแค่ 5 ส่วนที่เหลือ

แถมสามารถจูนให้อุปกรณ์อื่นก็ได้มือถือก็ได้คอมพิวเตอร์ก็ได้เกมคอนโซล PC และอื่นๆที่นึกไม่ออกที่ใช้หน่วยประมวลผลเหมือนกันทุกอย่างสามารถจูนแบบนี้ได้ server ก็ได้เดี๋ยวลืมอีกแค่ลบหน้าจอออกแล้วไปจูนให้ความเร็วของ server การทำงานได้เต็มประสิทธิภาพจูนแค่สั้นๆส่วนนี้ก็ server ก็ทำงานได้เต็มประสิทธิภาพแล้วแถม server ใช้งานแรมน้อยกว่าเดิมนิดหน่อยแต่ใช้งานประสิทธิภาพสูงขึ้นและอีกเพิ่มเติมจูนลื่นครั้งเดียวจบการอัพเดทข้ามเวอร์ชั่นไม่จำเป็นเลยแค่จูนครั้งเดียวในโรงงานจบลื่นตั้งแต่เปิดเครื่องหากจูนแนวคิดนี้เข้าไปจูนได้ทุกอุปกรณ์แน่นอนว่าหากจูนแบบนี้จะลื่นมากแน่นอนแต่โครงสร้างต้องเป็นฝาแฝดเท่านั้นเช่นถ้าเป็นคอมพิวเตอร์โครงสร้างต้องเป็นฝาแฝดเช่น 8 + 8 เป็นต้นจูนครั้งเดียวจบลื่นตั้งแต่ app จนถึงเกมเฟรมเรตนิ่งสตรีมนิ่งการสลับแอปใหม่
Power Multiplier Reference (1X, 2X, 3X, 4X)

Position 1 (Fixed Value = 1)
= Display Timing Controller (Display 1X)

Positions 2–6 1X 2X 3X 4X%สำหรับตัวคูณตัวเลขของเปอร์เซ็นต์
= CPU
= GPU
= NPU
= RAM
= ROM

These hardware components scale proportionally and operate in parallel according to the selected performance level.

Example Ratio:

[ Display x1%][ CPU : GPU : NPU : RAM : ROM x1x2x3x4%] เป็นการคูณตัวเลขตัว x เป็นการคูณแทนตัวเลขของเปอร์เซ็นต์
ต้องมีซอฟต์แวร์จำกัดเพดาน level ให้มีหลากหลาย level ตั้งแต่ต่ำสุดจนถึงสูงสุดเฉพาะทางของ app หรือเกมเช่นจำกัด level เท่านี้จนถึงเท่านี้โดยไม่ให้มีเลเวลซ้ำกันเน้นความยืดหยุ่นหลากหลายเพื่อตัวประหยัดแบตไม่ให้ CPU ที่มีแรงดิบสูงๆจะได้เอาอยู่
────────────────────────────────────────

Hardware Power Multiplier Reference (1X, 2X, 3X, 4X)

Position 1 (Fixed Value = 1)
= Display Timing Controller (Display 1X)

Positions 2–6 1x2x3x4x%
= CPU
= GPU
= NPU
= RAM
= ROM

These hardware components scale proportionally and operate in parallel according to the selected performance level.

Example Ratio:

[ Display : CPU : GPU : NPU : RAM : ROM ]
1 : 1 : 1 : 1 : 1 : 1
ตารางจัดสรรพลังงานขนานอัตราส่วนเส้นตรง (40 เลเวลเต็มระบบ)ส่วนนี้คือจูน server สำหรับจัดสรรพลังงานโดยตรงโดยที่เป็นการคูณส่วนพลังงานแบบตามคณิตศาสตร์
(พักหน้าจอชั่วคราวเมื่อหยุดการใช้งาน)
(ปิดคำสั่งการคาดการณ์ไปเองของ npu)
(ทำงานตามภาระงานให้ถูกต้อง)
ตัว X หมายถึงการเพิ่มขึ้นแบบตัวคูณเช่น 1 เท่า
2 เท่า 3 เท่า 4เท่า ของการคูณตัวเลขของพลังงาน)
level
Leve 1 : [ 0 : 0.1 : 0.1 : 0.1 : 0.1 : 0.1 :X%] |
-XX / +XX% | สำหรับพักหน้าจอ
Level 2 : [ 0.2 : 0.2 : 0.2 : 0.2 : 0.2 : 0.2 X%]
Level 3 : [ 0.3 : 0.3 : 0.3 : 0.3 : 0.3 : 0.3 X%]
Level 4 : [ 0.4 : 0.4 : 0.4 : 0.4 : 0.4 : 0.4 X%]
Level 5 : [ 0:5 : 0.5 : 0.5 : 0.5 : 0.5 : 0.5 X%]
Level 7 : [ 0.6 : 0.6: 0.6 : 0.6 : 0.6 : 0.6 X%]
Level 7 : [ 0.8: 0.7 : 0.7 : 0.7 : 0.7 : 0.7 X%]
Level 8 : [ 0.8: 0.8 : 0.8 : 0.8 : 0.8 : 0.8 X%]
Level 9 : [ 0.9: 0.9 : 0.9 : 0.9 : 0.9 : 0.9 X%]
เลเวล 10 : [ 1 : 1.0 : 1.0 : 1.0 : 1.0 : 1.0 ] | -XX% +XX%
เลเวล 11 : [ 1 : 1.1 : 1.1 : 1.1 : 1.1 : 1.1 ] | -XX% +XX%
เลเวล 12 : [ 1 : 1.2 : 1.2 : 1.2 : 1.2 : 1.2 ] | -XX% +XX%
เลเวล 13 : [ 1 : 1.3 : 1.3 : 1.3 : 1.3 : 1.3 ] | -XX% +XX%
เลเวล 14 : [ 1 : 1.4 : 1.4 : 1.4 : 1.4 : 1.4 ] | -XX% +XX%
เลเวล 15 : [ 1 : 1.5 : 1.5 : 1.5 : 1.5 : 1.5 ] | -XX% +XX%
เลเวล 16 : [ 1 : 1.6 : 1.6 : 1.6 : 1.6 : 1.6 ] | -XX% +XX%
เลเวล 17 : [ 1 : 1.7 : 1.7 : 1.7 : 1.7 : 1.7 ] | -XX% +XX%
เลเวล 18 : [ 1 : 1.8 : 1.8 : 1.8 : 1.8 : 1.8 ] | -XX% +XX%
เลเวล 19 : [ 1 : 1.9 : 1.9 : 1.9 : 1.9 : 1.9 ] | -XX% +XX%
เลเวล 20 : [ 1 : 2.0 : 2.0 : 2.0 : 2.0 : 2.0 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 21 : [ 1 : 2.1 : 2.1 : 2.1 : 2.1 : 2.1 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 22 : [ 1 : 2.2 : 2.2 : 2.2 : 2.2 : 2.2 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 23 : [ 1 : 2.3 : 2.3 : 2.3 : 2.3 : 2.3 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 24 : [ 1 : 2.4 : 2.4 : 2.4 : 2.4 : 2.4 ] | -XX% +XX% ทำงานอัตโนมัติ (ระดับครึ่งกำลัง)
เลเวล 25 : [ 1 : 2.5 : 2.5 : 2.5 : 2.5 : 2.5 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 26 : [ 1 : 2.6 : 2.6 : 2.6 : 2.6 : 2.6 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 27 : [ 1 : 2.7 : 2.7 : 2.7 : 2.7 : 2.7 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 28 : [ 1 : 2.8 : 2.8 : 2.8 : 2.8 : 2.8 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 29 : [ 1 : 2.9 : 2.9 : 2.9 : 2.9 : 2.9 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 30 : [ 1 : 3.0 : 3.0 : 3.0 : 3.0 : 3.0 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 31 : [ 1 : 3.1 : 3.1 : 3.1 : 3.1 : 3.1 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 32 : [ 1 : 3.2 : 3.2 : 3.2 : 3.2 : 3.2 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 33 : [ 1 : 3.3 : 3.3 : 3.3 : 3.3 : 3.3 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 34 : [ 1 : 3.4 : 3.4 : 3.4 : 3.4 : 3.4 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 35 : [ 1 : 3.5 : 3.5 : 3.5 : 3.5 : 3.5 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 36 : [ 1 : 3.6 : 3.6 : 3.6 : 3.6 : 3.6 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 37 : [ 1 : 3.7 : 3.7 : 3.7 : 3.7 : 3.7 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 38 : [ 1 : 3.8 : 3.8 : 3.8 : 3.8 : 3.8 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 39 : [ 1 : 3.9 : 3.9 : 3.9 : 3.9 : 3.9 ] | -XX% +XX% ทำงานอัตโนมัติ
เลเวล 40 : [ 1 : 4.0 : 4.0 : 4.0 : 4.0 : 4.0 ] | ทำงานเต็มระบบสูงสุด 100% พลังงานดิบ
บางส่วนที่ไม่เขียนคำว่าทำงานอัตโนมัติเพราะมันก็ทำงานอัตโนมัติอยู่แล้วถ้านำไปสู่ปรับแต่งถึงระบบ
หมายเหตุการจับคู่ฮาร์ดแวร์ตัวคูณพลังงาน (1X, 2X, 3X, 4X%)
ตัวเลขตำแหน่งที่ 1 (คงที่ที่เลข 1) = ตัวตั้งจังหวะหน้าจอ (Display 1X%)
ตัวเลขตำแหน่งที่ 2 ถึง 6 (ไต่ระดับ 1.0X ไปถึง 4.0X) = หน่วยประมวลผลหลัก (CPU 1), หน่วยประมวลผลกราฟิก (GPU), หน่วยประมวลผลปัญญาประดิษฐ์ (NPU), หน่วยความจำระบบ (RAM), และหน่วยความจำตัวเครื่อง (ROM) วิ่งเร่งประสิทธิภาพขนานไปพร้อม ๆ
เช่นตามอัตราส่วนแบบนี้เป็นต้น ตัวอย่าง(1:1:1:1:1:1)
(>DISPLAY1X% ปรับแต่งตามประเภทหน้าจอ
(1)AMOLED OLED IPSLCD 30 60 90 120
144 165 xxHz/xxFPS ลดลง - x% บวกเพิ่ม+ xx%
(2) LTPO LTPS 1-165xxHz/FPS
ลดลง - x% บวกเพิ่ม +xx%
refresh rate/touch something rate
ลดลง - x% บวกเพิ่ม+ xx%)
ส่วน display ต้องตัดออกเพราะไม่ได้จูน server ไม่มีหน้าจอที่อยู่ใต้มหาสมุทรไม่มีหน้าจอส่วนนี้ต้องตัดออก

อันนี้คือส่วนที่เหลือที่ต้องจูนให้ server ทำงานได้เต็มประสิทธิภาพได้ส่วนที่ 1 จูนประสิทธิภาพการใช้งานไม่ได้จูนเพิ่มพลังดิบแต่ให้จูนการใช้งานจริงได้เต็มประสิทธิภาพทำงานแบบ 1 ต่อ 1การจูนดังต่อไปนี้

CPU GPU RAM ROM NPU ประเภทจูน 1 layer
จูนประสิทธิภาพต่อพลังงาน 1 x 2 x 3 x 4 x%
จูนฝั่ง CPU: จูนประสิทธิภาพต่อพลังงาน[ CPU: -XX% / +XXX% ]
จูนฝั่ง GPU: จูนประสิทธิภาพต่อพลังงาน [ GPU: -XX% / +XXX% ]
จูนฝั่ง NPU : จูนประสิทธิภาพต่อพลังงาน [NPU:
-XX%/ +XXX %
จูนฝั่ง (ROM/RAM): จูนประสิทธิภาพต่อพลังงาน[NPU: -XX% +XXX%
ลดลง - x% บวกเพิ่ม + xxx% CPU GPU RAM ROM NPU
(ROM/ RAM)

ส่วน 2 layerส่วนนี้สำคัญต้องจูน 2 ชั้นเพื่อเอาข้อมูลของข่าวสารมายัดใส่ในข้อมูลแบบเรียลไทม์ในหน่วยความจำปริมาณมหาศาลต้องจูนส่วนนี้สำคัญที่สุด
ฝั่ง RAM: จูนประสิทธิภาพต่อความเร็ว [ RAM: -XX% / +XX% (ความเร็ว/Speed) ]
ฝั่ง ROM: จูนประสิทธิภาพต่อการอ่านเขียน [ ROM: -XX% / +XX% (การอ่านเขียน/Read-Write) ]
[ NPU ล็อกประมวลผลตามจริง 1%-100% Safety ] ลดลง - xx% บวกเพิ่ม+ xx%สั่งการตรงไม่เดาสุ่มของพลังงานแต่คาดการณ์พลังงานแต่ละ level ควรมีซอฟต์แวร์จำกัดเลเวล

แต่ยังมีการคาดการณ์ของการใช้งานหน้างานจริงอยู่โดยยังที่ต้องมีเลเวลจำกัดเลเวลซอฟต์แวร์จำกัด level เพื่อป้องกันไม่ให้ ซอฟต์แวร์ที่ชื่อว่าหักดิบพลังงานและตัวคาดการณ์ของการใช้พลังงานทั้ง 2 ตัวนี้ทั้งไม่โดนหักและลดการคาดการณ์ใช้พลังงานเกินความจำเป็น การจูน ram กับ rom 2 ชั้นเพื่อลดอาการหน่วงของการจัดสรรมาใช้งานชั้นแรกจัดสรรพลังงานชั้นที่ 2 จัดสรรหน่วยความจำทั้งแรมและรอมจูน 2 ชั้นเพื่อลดอาการหน่วงและหรือใช้งานมากจนเกินไปโดยเฉพาะ RAM/ROM หากจูน 2 ชั้นแก้ปัญหาความล่าช้าของหน่วยความจำ

(1-max Kbps Mbps Gbps Tbps
layer ที่ 1upload/download จูนส่วนการใช้ความเร็วอินเตอร์เน็ต
layer ที่2ลดลง+xx% บวกเพิ่ม+xx% จูนส่วนพลังงานในการใช้งาน
ถ้าเอาแนวคิดนี้ไปประยุกต์ใช้กับ Server สำหรับ Train AI โดยเฉพาะ:

  • ตัดภาระที่ไม่จำเป็นออก (Headless / ตัด Display 100%): การตัดส่วนการแสดงผลกราฟิกและหน้าจอ (Display Output) ทิ้งไป แล้วเกลี่ยทรัพยากรทั้งหมดมาลงที่การประมวลผลและการคำนวณโมเดล (Compute & Data Pipeline) จะทำให้ฮาร์ดแวร์ของเซิร์ฟเวอร์ปลดปล่อยพลังดิบออกมาได้เต็ม 100% ไม่มีทรัพยากรไหนต้องเสียไปกับการเรนเดอร์ภาพที่ไม่จำเป็น
  • ผสานสูตรจูน 40 เลเวล + ซอฟต์แวร์อินเทอร์เน็ตไร้คอขวด: แก้ปัญหาคอขวดคลาสสิกที่ทำให้การเทรน AI ช้า นั่นคือ "อาการคอขวดของการรับส่งข้อมูล (Data Transfer Bottleneck)" ที่ปกติข้อมูลขนาดมหึมามักจะติดค้างในบัฟเฟอร์หรือรอคิวส่งผ่านเน็ตเวิร์กเบื้องหลัง แต่เมื่อใช้ซอฟต์แวร์อินเทอร์เน็ตแบบ 1:1 ที่ไม่มีโค้ดขยะ ข้อมูลชุดใหญ่จะถูกดึงเข้ามาป้อนเข้าสู่ GPU/TPU สำหรับเทรนได้อย่างต่อเนื่องแบบไร้รอยต่อ ผลลัพธ์ในการ Train AI: ระยะเวลาในการเทรนโมเดล AI ขนาดใหญ่ที่ปกติอาจต้องกินเวลาเป็นวันๆ หรือหลายชั่วโมง จะถูกย่นระยะเวลาลงอย่างมหาศาล (อาจลดลงเหลือเพียงเสี้ยวเดียว หรือเร็วกว่าเดิมแบบก้าวกระโดดหลายเท่าตัว) เพราะไม่มีอาการสะดุด ข้อมูลไม่ค้างในพื้นหลัง และฮาร์ดแวร์ถูกขับเคลื่อนด้วยความเร็วสูงสุดตลอด 24 ชั่วโมงอย่างไร้ขีดจำกัดครับ! เมื่อโครงสร้างพื้นฐานมีความเร็วสูงและไม่มีคอขวดจากการรับส่งข้อมูล ระบบจะสามารถพัฒนาต่อยอดไปสู่การเรียนรู้แบบ Real-time Fine-tuning (หรือ Online Learning) ได้อย่างสมบูรณ์แบบ
  • โพสต์ปุ๊บ เรียนรู้ปั๊บ: ทันทีที่มีข้อมูลใหม่ (เช่น โพสต์ ข้อความ หรือพฤติกรรมผู้ใช้) ข้อมูลนั้นจะถูกดึงผ่านท่ออินเทอร์เน็ตแบบ 1:1 เข้าสู่ระบบประมวลผลทันทีโดยไม่มีการค้างในบัฟเฟอร์
  • อัปเดตโมเดลแบบวินาทีต่อวินาที: ด้วยพลังของระบบจัดการ 40 เลเวลและรอม 2 เลเยอร์ที่ไร้โค้ดขยะ โมเดลจะสามารถปรับน้ำหนัก (Weights) และอัปเดตความรู้ใหม่ๆ เข้าสู่ระบบได้ในเสี้ยววินาที ทำให้ AI ทันเหตุการณ์และตอบสนองต่อข้อมูลล่าสุดได้แบบเรียลไทม์อย่างแท้จริงครับ เมื่อระบบเบื้องหลังทรงพลังและไร้รอยต่อแบบเรียลไทม์ ข้อมูลขนาดใหญ่ระดับวิดีโอยาวๆ หรือสตรีมมิ่งที่อัปโหลดขึ้นแพลตฟอร์มอย่าง YouTube จะถูกประมวลผลและป้อนเข้าสู่โมเดล AI ได้ทันทีแบบไม่ต้องรอคิว ทำให้ AI สามารถรับรู้ วิเคราะห์สรุปเนื้อหา ตรวจจับกระแสข่าว หรืออัปเดตข้อมูลล่าสุดที่เกิดขึ้นบนโลกได้แบบ ทันทีทันใด (Instantaneous Processing) โดยไม่มีดีเลย์เลยครับ!

Top comments (0)