Meta concerns in ML security/privacy is due– University of Waterloo x PSU

version:Thai
2pt: motivation of this work, i.e., what are the problems addressed by this work? And why are these problems important in real world?
•แรงจูงใจของงานวิจัยนี้
วันนี้ได้ฟังบรรยายจากอาจารย์มหาวิทยาลัยวอเตอร์ลูเรื่อง “Meta Concerns in ML Security and Privacy” ซึ่งไม่ได้เป็นแค่การพูดถึงเทคนิคทั่วไป แต่เป็นการลงลึกถึงแนวคิดด้านความปลอดภัยของ Machine Learning (ML) ที่ต้องมองให้เป็นระบบ ไม่ใช่แค่ปิดช่องโหว่ทีละจุด แต่ต้องเข้าใจว่า ใครเป็นผู้โจมตี ทำไมถึงต้องโจมตี และเราจะป้องกันอย่างไรโดยไม่สร้างปัญหาใหม่
ทุกวันนี้ AI ไม่ได้เป็นแค่เครื่องมือทดลองในห้องแลบอีกต่อไป แต่มันได้กลายเป็น องค์ประกอบสำคัญของระบบที่ใช้ในชีวิตจริง ตั้งแต่ การวินิจฉัยโรค การตรวจสอบเครดิต ไปจนถึงระบบความปลอดภัยทางไซเบอร์ สิ่งที่สำคัญคือ AI ที่เราพัฒนา มีความปลอดภัยมากพอหรือยัง อีกหนึ่งในประเด็นที่น่าสนใจคือ ความเป็นเจ้าของโมเดล AI ซึ่งยังไม่มีระบบที่ชัดเจนว่าคนไหนเป็นเจ้าของโมเดลจริง ๆ มีเทคนิคอย่าง Watermarking (ฝังข้อมูลลับในโมเดล) หรือ Fingerprinting (สร้างลายเซ็นเฉพาะ) ที่ช่วยได้บ้าง แต่ก็มีข้อเสียเรื่อง ต้นทุนสูงและความทนทานในการตรวจสอบ นอกจากนี้ยังมีปัญหาที่สำคัญคือ ผู้โจมตี AI ไม่ได้มีเป้าหมายเดียวกัน บางคนต้องการ ขโมยโมเดลไปใช้ แต่บางคนต้องการ สร้างเรื่องเท็จและกล่าวหาว่ามีการละเมิด น่าเสียดายที่ปัจจุบันยังไม่มีมาตรการป้องกันที่ครอบคลุมทุกกรณี และอีกเรื่องที่ควรระวังคือ การชนกันของระบบป้องกัน บางเทคนิคที่ช่วยป้องกันโมเดลจากการถูกขโมย กลับทำให้โมเดลง่ายต่อการถูกโจมตีแบบอื่น เช่น การปลอมแปลงข้อมูลฝึก (Data Poisoning) ดังนั้น การออกแบบระบบป้องกันต้อง มองให้รอบด้าน ไม่ใช่แค่แก้ปัญหาจุดเดียว
สุดท้าย อาจารย์ได้นำเสนอ Amulet Toolkit ซึ่งเป็น เครื่องมือโอเพ่นซอร์ส ที่ให้ทดลองทั้งการโจมตีและป้องกันโมเดล ML ทำให้เข้าใจภาพรวมของความปลอดภัยใน AI ได้ชัดเจนขึ้น

3pt: takeway from this talk. This is free-form. Try to put something you understand and think its cool from this talk.
•สิ่งที่ได้รับจากงานนี้
สิ่งที่ฉันได้เรียนรู้จากงานนี้คือ AI ไม่ใช่แค่การตั้งรับหรือการป้องกันเท่านั้น แต่ต้องคิดเชิงกลยุทธ์และวางแผนการป้องกันอย่างรอบด้าน ประเด็นที่น่าสนใจที่สุดคือเรื่องของ “การพิสูจน์ความเป็นเจ้าของโมเดล” ที่ไม่ใช่แค่การสร้างโมเดลแล้วจบ แต่ต้องคิดถึงว่าโมเดลนี้เป็นของใคร และเราจะป้องกันการลอกเลียนแบบได้อย่างไร เทคนิครวมถึง Watermarking และ Fingerprinting ที่ช่วยได้ในบางกรณี แต่ก็มีข้อจำกัด เช่น ต้นทุนสูงและความทนทานที่ต่ำ
ยิ่งไปกว่านั้น ผู้โจมตีไม่ใช่แค่จะขโมยโมเดลเพื่อใช้งาน แต่บางคนอาจจะต้องการสร้างข้อกล่าวหาหรือข้อสงสัยเกี่ยวกับโมเดลนั้น ซึ่งแสดงให้เห็นว่าเราต้องมีกลยุทธ์ในการป้องกันที่ซับซ้อนและหลากหลายมากขึ้น
สิ่งที่ทำให้ฉันตื่นเต้นมากคือ Amulet Toolkit เครื่องมือโอเพ่นซอร์สที่ช่วยให้เราสามารถทดลองโจมตีและป้องกันโมเดล AI ได้จริงๆ มันช่วยให้เห็นภาพชัดเจนถึงวิธีการโจมตีที่อาจเกิดขึ้นและการป้องกันที่มีประสิทธิภาพ
สรุปคือจากการบรรยายครั้งนี้ มุมมองของฉันเกี่ยวกับความปลอดภัยใน AI เปลี่ยนไปเลย ตอนนี้ฉันเห็นแล้วว่า AI ไม่เพียงแต่ต้องฉลาดขึ้น แต่ต้องปลอดภัยขึ้นและต้องมีหลักฐานที่รองรับว่าโมเดลที่เราใช้ทำงานได้อย่างถูกต้องและปลอดภัย และฉันจะนำความรู้ที่ได้รับไปปรับใช้ในชีวิตประจำวันและในการเรียนให้ดีที่สุด ความรู้ที่ได้เรียนในครั้งนี้ประโยชน์มากๆและขอบคุณอาจารย์โอ๊คที่ได้นำอาจารย์จากมหาวิทยาลัยขั้นนำมาให้ความรู้พวกเราในครั้งนี้เป็นประสบการณ์ที่ดีมากๆค่ะ