ภัยจาก AI ยุคใหม่

01AI ยุคใหม่ทำงานอย่างไร How modern AI works

สามทุ่มคืนวันอังคาร โทรศัพท์ของแม่ดังขึ้น ปลายสายคือเสียงลูกชายที่ทำงานอยู่กรุงเทพฯ น้ำเสียง จังหวะหายใจ คำติดปาก “แม่ ๆ” เหมือนทุกครั้ง เขาบอกว่าขับรถชนคน ต้องใช้เงินเคลียร์ด่วนคืนนี้ และขอร้องว่าอย่าเพิ่งบอกพ่อ แม่แทบไม่ต้องคิด เพราะนั่นคือ “เสียงลูก” แต่ลูกตัวจริงกำลังนั่งดูซีรีส์อยู่ที่ห้อง และไม่เคยโทรมาเลย

ฉากนี้ไม่ใช่นิยายวิทยาศาสตร์อีกแล้ว เทคโนโลยีที่ทำให้มันเกิดขึ้นได้ คือเทคโนโลยีเดียวกับที่ช่วยเราเขียนรายงาน แปลเมนูภาษาญี่ปุ่น หรือสรุปประชุมยาวสองชั่วโมงให้เหลือห้าบรรทัด จะป้องกันตัวได้ เราต้องเข้าใจก่อนว่ามันทำงานอย่างไร ไม่ต้องลึกถึงคณิตศาสตร์ แค่พอเห็นภาพว่าพลังของมันมาจากไหน

โมเดลภาษาขนาดใหญ่: นักเดาคำถัดไปที่อ่านมาทั้งห้องสมุด

แชตบอตอย่าง ChatGPT, Gemini หรือ Claude ข้างในคือโมเดลภาษาขนาดใหญ่ (Large Language Model หรือ LLM) มันถูกฝึกด้วยข้อความปริมาณมหาศาล จนเก่งเรื่องเดียวที่ฟังดูธรรมดามาก คือ เดาว่าคำถัดไปควรเป็นอะไร แต่พอเดาเก่งในระดับนั้น ผลลัพธ์ที่ได้คืออีเมลที่สุภาพเป๊ะ บทสนทนาที่ลื่นไหล และโค้ดที่รันได้จริง

นึกถึงคนที่อ่านนิยาย ข่าว กระทู้ และคู่มือมาเป็นล้านเล่ม จนเลียนสำนวนใครก็ได้ เขียนจดหมายแบบไหนก็ได้ภายในไม่กี่วินาที สิ่งที่เขาไม่มีคือ “ความตั้งใจ” ของตัวเอง เขาเขียนตามที่ถูกขอ นี่แหละคือเหตุผลที่เครื่องมือเดียวกันช่วยครูเขียนแผนการสอนได้ และช่วยคนร้ายเขียนข้อความหลอกได้เหมือนกัน

AI สร้างสื่อ: วาดหน้า เลียนเสียง ปั้นวิดีโอ

อีกตระกูลหนึ่งคือ AI ที่สร้างภาพ เสียง และวิดีโอ (Generative AI สำหรับสื่อ) มันเรียนรู้ว่าหน้าคนหน้าตาเป็นอย่างไร เสียงคนมีลักษณะอย่างไร แล้วสร้างของใหม่ที่ไม่เคยมีอยู่จริงขึ้นมา ถ้าป้อนตัวอย่างเสียงหรือคลิปของคนคนหนึ่งให้ มันก็เลียนแบบคนคนนั้นได้ ผลงานแบบนี้เรียกรวม ๆ ว่าดีปเฟก (deepfake)

เอเจนต์ AI: จากผู้ตอบคำถาม สู่ผู้ลงมือทำ

ก้าวล่าสุดที่สำคัญที่สุดคือเอเจนต์ AI (AI agent) คือการเอาโมเดลภาษาไปต่อกับ “มือ” เครื่องมือจริงอย่างเบราว์เซอร์ อีเมล ไฟล์ในบริษัท หรือระบบสั่งงานต่าง ๆ แล้วปล่อยให้มันวางแผนและทำหลายขั้นต่อกันเอง เราแค่บอกเป้าหมาย เช่น “จองตั๋วเครื่องบินไปเชียงใหม่วันศุกร์ที่ถูกที่สุด” แล้วมันไปค้น เทียบ และกรอกฟอร์มให้

ศัพท์น่ารู้: LLM, Generative AI และ AI Agent

LLM คือโมเดลภาษาขนาดใหญ่ที่อ่านและเขียนภาษาคนได้ Generative AI คือ AI กลุ่มที่ “สร้าง” ของใหม่ ทั้งข้อความ ภาพ เสียง วิดีโอ ส่วน AI Agent คือระบบที่ให้ AI วางแผนและใช้เครื่องมือทำงานหลายขั้นแทนคน ยิ่งมีเครื่องมือในมือมาก ยิ่งต้องคุมสิทธิ์ให้ดี

02ทำไม AI ถึงเปลี่ยนเกมภัยไซเบอร์ Why the threat landscape shifts

กลโกงส่วนใหญ่ที่เราเจอในยุค AI ไม่ได้เป็นของใหม่เลย แก๊งคอลเซ็นเตอร์ ข้อความปลอมเป็นธนาคาร หรือการแอบอ้างเป็นเจ้านายสั่งโอนเงิน มีมานานแล้ว สิ่งที่ AI เปลี่ยนคือ ต้นทุน ของคนร้าย งานที่เคยแพง ช้า และต้องใช้ฝีมือ ตอนนี้ถูกลง เร็วขึ้น และใครก็ทำได้

ลองนึกถึงร้านข้าวมันไก่ที่เคยมีแม่ครัวคนเดียว วันหนึ่งได้เครื่องจักรที่ต้มไก่ หุงข้าว ตักใส่จานได้เองทั้งวันไม่มีเหนื่อย ร้านนั้นขายได้มากขึ้นหลายเท่าโดยไม่ต้องเก่งขึ้นเลย คนร้ายที่มี AI ก็เป็นแบบนั้น ความเปลี่ยนแปลงแบ่งได้เป็นสี่ด้าน

ด้านที่น่ากลัวที่สุดสำหรับคนทั่วไปคือ ความเนียนเฉพาะตัว (personalisation) เมื่อก่อนเราจับกลโกงได้เพราะมัน “แปลก” ภาษาไทยแปลกหู เรียกเราว่า “เรียนลูกค้าที่เคารพ” ทั้งที่เราเป็นคนเดียวในบ้านที่ใช้บัญชีนั้น แต่ AI ทำให้ความแปลกเหล่านี้หายไป ข้อความรู้ว่าเราทำงานที่ไหน เพิ่งไปเที่ยวที่ไหน เพราะคนร้ายให้ AI สรุปจากสิ่งที่เราโพสต์เองต่อสาธารณะ

ส่วนเรื่อง กำแพงทักษะที่เตี้ยลง หน่วยงานความปลอดภัยหลายแห่งและบริษัทผู้พัฒนา AI เองต่างรายงานตรงกันว่าพบคนร้ายพยายามใช้แชตบอตช่วยงาน ตั้งแต่แปลภาษา เขียนข้อความหลอก ไปจนถึงช่วยเขียนโค้ด เรื่องจริงเหล่านี้รวบรวมไว้ใน แฟ้มคดีจริง: เมื่อแฮกเกอร์ใช้ AI ในบทนี้เราจะโฟกัสที่กลไก และวิธีรับมือ

ข่าวดีก็มี กลอุบายที่ AI ช่วยทำ ยังต้องจบที่คำขอเดิม ๆ คือให้เราโอนเงิน ให้รหัส ให้กดลิงก์ หรือให้สิทธิ์อะไรบางอย่าง ถ้าเรามีขั้นตอนยืนยันที่ไม่สนว่าข้อความหรือเสียงจะเนียนแค่ไหน กลโกงที่ล้ำที่สุดก็ไปต่อไม่ได้

03เสียงปลอม หน้าปลอม และการแอบอ้าง Deepfakes & impersonation

ดีปเฟกเสียง (voice clone) คือการให้ AI ฟังเสียงของใครสักคน แล้วสร้างเสียงพูดใหม่ด้วยน้ำเสียงของคนคนนั้น จะให้พูดประโยคอะไรก็ได้ ส่วนดีปเฟกวิดีโอทำแบบเดียวกันกับใบหน้า บางระบบทำได้แบบสด ๆ ระหว่างวิดีโอคอล ที่น่าห่วงคือวัตถุดิบหาง่ายมาก คลิปที่เราโพสต์ลงโซเชียล วิดีโอวันเกิด คลิปไลฟ์ขายของ ล้วนเป็นตัวอย่างเสียงและหน้าที่ใครก็ดาวน์โหลดได้

กลโกงแบบนี้ได้ผลเพราะมันข้ามด่านที่สมองเราไว้ใจที่สุด เราถูกสอนมาทั้งชีวิตว่า “ได้ยินเสียง เห็นหน้า” คือหลักฐานว่าใช่ตัวจริง พอบวกกับเรื่องเร่งด่วน (อุบัติเหตุ ถูกจับ ดีลลับของบริษัท) และคำสั่งให้เก็บเป็นความลับ เราก็แทบไม่มีเวลาหยุดคิด

ในระดับครอบครัวไทย รูปแบบที่ต้องระวังคือโทรศัพท์หรือวิดีโอคอลจาก “ลูก” “หลาน” หรือ “ญาติ” ที่อ้างเหตุฉุกเฉิน ภาพด้านล่างแสดงว่าทั้งกลโกงล้ำแค่ไหน ก็ยังพังได้ด้วยของง่าย ๆ สองอย่าง

ตั้งระบบยืนยันตัวตนของครอบครัว วันนี้เลย

1. ตกลงรหัสลับครอบครัว

   เลือกคำหรือคำถามที่รู้กันแค่ในบ้าน เช่น ชื่อหมาตัวแรก หรือเมนูที่ยายชอบทำ ตกลงกันต่อหน้า ไม่พิมพ์ในแชต ไม่โพสต์ และไม่ใช้สิ่งที่หาได้จากโซเชียล ใครโทรมาขอเงินด่วน ให้ถามรหัสนี้ก่อน

2. วางสาย แล้วโทรกลับเอง

   อย่าโทรกลับเบอร์ที่เพิ่งโทรเข้ามา ให้กดโทรจากรายชื่อที่บันทึกไว้ในเครื่องเอง ถ้าติดต่อไม่ได้ ลองโทรหาคนใกล้ตัวเขา เช่น แฟน เพื่อนร่วมห้อง หรือที่ทำงาน

3. ให้ความเร่งรีบเป็นสัญญาณเตือน

   ยิ่งเรื่องด่วน ยิ่งห้ามบอกใคร ยิ่งต้องโอนเข้าบัญชีคนอื่น ยิ่งต้องช้าลง ตกลงกันในบ้านไว้ก่อนเลยว่า “เรื่องเงินด่วน เราจะโทรยืนยันกันเสมอ ไม่มีใครโกรธ”

4. อย่าเชื่อเพราะเห็นหน้าหรือได้ยินเสียง

   หน้าและเสียงไม่ใช่หลักฐานยืนยันตัวตนอีกต่อไป โดยเฉพาะในคอลสั้น ๆ ที่ภาพกระตุกหรืออ้างว่าสัญญาณไม่ดี

5. คุยกับผู้สูงอายุในบ้าน

   พ่อแม่ ปู่ย่าตายาย มักเป็นเป้าหมายหลัก เล่าให้ฟังว่าเสียงเหมือนลูกหลานก็ปลอมได้แล้ว และถ้าสงสัยหรือโดนแล้ว โทรขอคำปรึกษาหรือแจ้งเหตุได้ที่สายด่วน 1441 (ศูนย์ AOC รับแจ้งปัญหาภัยออนไลน์) ยิ่งแจ้งเร็ว ยิ่งมีโอกาสอายัดบัญชีปลายทางทัน

04ฟิชชิงที่ AI เขียน AI-written phishing at scale

ใน CASE-003 เราเรียนว่าฟิชชิง (phishing) คือการหลอกให้เรากดลิงก์ ให้รหัส หรือโอนเงิน ด้วยข้อความที่แกล้งทำเป็นมาจากคนหรือองค์กรที่เราไว้ใจ คำแนะนำคลาสสิกคือ “สังเกตคำผิด ภาษาแปลก ๆ” แต่ AI ทำให้ข้อนี้แทบใช้ไม่ได้แล้ว

สิ่งที่ AI ทำให้คนร้ายได้คือฟิชชิงแบบเจาะจงตัว (spear phishing) ในราคาของฟิชชิงหว่านแห เมื่อก่อนการเขียนอีเมลหลอกที่เรียกชื่อเรา อ้างโปรเจกต์ที่เราทำอยู่ และใช้สำนวนเหมือนหัวหน้าเรา ต้องใช้เวลาทีละคน คนร้ายจึงทำแบบนี้กับเป้าหมายใหญ่เท่านั้น ตอนนี้ AI ช่วยทำแบบนั้นกับคนจำนวนมากได้พร้อมกัน แถมแปลเป็นภาษาไทยที่อ่านลื่นได้ด้วย

อีกเรื่องที่ต้องรู้คือ ฟิชชิงไม่ได้มาทางอีเมลอย่างเดียว ข้อความ SMS ไลน์ แชตในแอปซื้อขาย หรือบอตที่ทักมาคุยเหมือนคนจริงทีละประโยค ล้วนเป็นช่องทางที่ AI ช่วยสร้างบทสนทนาได้ทั้งนั้น บางครั้งแชตบอตปลอมคุยกับเหยื่อได้นานจนเหยื่อเชื่อสนิทใจ

สรุปง่าย ๆ คือ ให้ย้ายสายตาจาก “ข้อความดูน่าเชื่อไหม” ไปที่ “ข้อความให้เราทำอะไร” ถ้าคำตอบคือเรื่องเงิน รหัส สิทธิ์ หรือความเร่งรีบ ให้หยุด แล้วยืนยันผ่านทางอื่นเสมอ ส่วนฝั่งองค์กร ด่านที่ได้ผลที่สุดกับฟิชชิงคือ MFA แบบกันฟิชชิงได้ (เช่น passkey หรือกุญแจความปลอดภัย) ซึ่งเราเล่าไว้ใน บทการยืนยันตัวตน เพราะต่อให้หลอกให้เรากรอกรหัสได้ ก็ยังเข้าบัญชีไม่ได้อยู่ดี

ศัพท์น่ารู้: Spear phishing และ Vishing

Spear phishing คือฟิชชิงที่เล็งเป้าเจาะจงคนหรือกลุ่มเล็ก ๆ ใช้ข้อมูลของเหยื่อให้ดูน่าเชื่อ ส่วน Vishing (voice phishing) คือฟิชชิงผ่านเสียงโทรศัพท์ ซึ่งในยุคเสียงโคลน อันตรายขึ้นอีกหลายเท่า

05เมื่อ AI กลายเป็นเป้าหมายเสียเอง AI as an attack surface

ที่ผ่านมาเราพูดถึง AI ในฐานะ “อาวุธ” ของคนร้าย แต่อีกด้านหนึ่งที่สำคัญไม่แพ้กัน คือ AI ที่เราและองค์กรนำมาใช้ ก็เป็นระบบที่ถูกโจมตีได้ เหมือนเว็บไซต์หรือเซิร์ฟเวอร์ทุกตัว พื้นที่ที่โจมตีได้นี้เรียกว่าพื้นผิวการโจมตี (attack surface) และ AI เพิ่มพื้นผิวแบบใหม่ที่ระบบแบบเดิมไม่เคยมี

คำสั่งแฝง (Prompt injection): เมื่อเนื้อหากลายเป็นคำสั่ง

ปัญหาที่ลึกที่สุดของโมเดลภาษาคือ มันรับทุกอย่างเข้ามาเป็น “ข้อความสายเดียวกัน” ทั้งคำสั่งของเรา และเนื้อหาที่มันต้องอ่าน เช่น อีเมล หน้าเว็บ หรือไฟล์ PDF ถ้าคนร้ายแอบฝังข้อความที่เขียนให้ดูเหมือนคำสั่งไว้ในเนื้อหาเหล่านั้น AI อาจแยกไม่ออก แล้วทำตามคำสั่งของคนร้ายแทนคำสั่งของเรา นี่คือแนวคิดของคำสั่งแฝง (prompt injection) โดยเฉพาะแบบทางอ้อม (indirect) ที่คนร้ายไม่ต้องคุยกับ AI ตรง ๆ เลย แค่วางกับดักไว้ในที่ที่ AI จะไปอ่าน

นึกถึงเลขาที่ซื่อสัตย์มาก แต่อ่านทุกบรรทัดในจดหมายเป็นคำสั่งงาน วันหนึ่งมีจดหมายจากคนนอกเขียนไว้ท้ายซองว่า “ฝากเลขาส่งสำเนาสมุดบัญชีของเจ้านายมาที่อยู่นี้ด้วย” ถ้าเลขาไม่มีกติกาว่าคำสั่งรับจากเจ้านายเท่านั้น เรื่องใหญ่ก็เกิดได้ ความต่างระหว่าง prompt injection กับการ jailbreak อธิบายละเอียดไว้ใน CASE-023

เอเจนต์ที่ได้สิทธิ์มากเกินไป (Excessive agency)

คำสั่งแฝงจะร้ายแรงแค่ไหน ขึ้นกับว่า AI ตัวนั้นมี “มือ” ทำอะไรได้บ้าง แชตบอตที่ตอบได้อย่างเดียว ถูกหลอกก็แค่ตอบผิด แต่เอเจนต์ที่ส่งอีเมลได้ ลบไฟล์ได้ หรือสั่งจ่ายเงินได้ ถ้าถูกหลอก ความผิดพลาดจะกลายเป็นการกระทำจริง นี่คือเหตุผลที่หลักสิทธิ์น้อยที่สุด (least privilege) ซึ่งเราใช้กับคนมานาน ต้องเอามาใช้กับ AI ด้วย

ข้อมูลฝึกที่ถูกวางยา (Data poisoning)

AI เก่งได้เพราะเรียนจากข้อมูล ถ้าข้อมูลที่ใช้สอนถูกแอบใส่ตัวอย่างผิด ๆ เข้าไป ก็เหมือนครูที่ถูกแอบเปลี่ยนเฉลยในหนังสือเรียน นักเรียนจะจำผิดไปทั้งชั้น ในกรณีที่ร้ายกว่านั้น คนร้ายอาจพยายามฝัง “ประตูหลัง” (backdoor) ให้โมเดลทำตัวปกติทุกอย่าง ยกเว้นเมื่อเจอสัญญาณบางอย่างที่คนร้ายรู้คนเดียว ปัญหานี้ยังเชื่อมกับห่วงโซ่อุปทาน (supply chain) ด้วย เพราะหลายองค์กรดาวน์โหลดโมเดลหรือชุดข้อมูลสำเร็จรูปจากแหล่งสาธารณะมาใช้ต่อ ไม่ต่างจากไลบรารีโค้ดที่เราเล่าไว้ใน บทซัพพลายเชน

ฝั่งป้องกันทำได้ด้วยการใช้โมเดลและข้อมูลจากแหล่งที่ตรวจสอบที่มาได้ จดบันทึกว่าข้อมูลแต่ละชุดมาจากไหน ทดสอบพฤติกรรมของโมเดลก่อนใช้งานจริง และเฝ้าดูว่าคำตอบเปลี่ยนไปผิดสังเกตหรือไม่ การโจมตีลึกถึงตัวโมเดลแบบอื่น ๆ อธิบายเพิ่มไว้ใน CASE-023 หัวข้อโจมตีลึกถึงตัวโมเดล

ศัพท์น่ารู้: Prompt, Prompt injection และ Least privilege

Prompt คือข้อความที่ป้อนให้ AI Prompt injection คือการแอบใส่ข้อความที่ทำตัวเหมือนคำสั่ง เพื่อเบี่ยงให้ AI ทำสิ่งที่เจ้าของไม่ได้ต้องการ ส่วน Least privilege คือหลักให้สิทธิ์เท่าที่จำเป็นต่องานเท่านั้น ใช้ได้ทั้งกับคน โปรแกรม และ AI

06ข้อมูลที่เราวางลงแชตบอต Privacy & data leakage

แชตบอตเป็นผู้ฟังที่ดีมาก ไม่เหนื่อย ไม่ตัดสิน ตอบตลอดตีสาม คนจำนวนมากจึงเผลอเล่าทุกอย่างให้มันฟัง ตั้งแต่ผลตรวจเลือด สลิปเงินเดือน ไปจนถึงไฟล์ลูกค้าทั้งแฟ้ม เพื่อให้ช่วยสรุปหรือแก้สูตร Excel สิ่งที่หลายคนลืมคือ ข้อความที่เราวาง ไม่ได้อยู่แค่ในมือถือของเรา

เวลากดส่ง ข้อความจะเดินทางไปประมวลผลบนเซิร์ฟเวอร์ของผู้ให้บริการ หลายบริการเก็บประวัติแชตไว้ในบัญชี และแต่ละเจ้ามีนโยบายต่างกันว่าจะนำข้อมูลไปใช้ปรับปรุงโมเดลหรือไม่ บางเจ้ามีปุ่มให้เราเลือกปิด บางแบบสำหรับองค์กรมีสัญญาว่าจะไม่นำไปใช้ ทั้งหมดนี้เปลี่ยนได้ตามเวลา จึงต้องอ่านการตั้งค่าและนโยบายของบริการที่ใช้อยู่จริงเสมอ

บทเรียนจากเรื่องนี้ไม่ใช่ “ห้ามใช้ AI” เพราะการห้ามเฉย ๆ มักทำให้คนแอบใช้บัญชีส่วนตัวแทน ซึ่งองค์กรมองไม่เห็นเลย ปรากฏการณ์นี้เรียกว่า AI เงา (shadow AI) ทางที่ดีกว่าคือมีเครื่องมือที่องค์กรอนุมัติให้ใช้ได้จริง พร้อมกติกาชัด ๆ ว่าข้อมูลประเภทไหนวางได้ ประเภทไหนห้ามเด็ดขาด

สำหรับคนไทย ยังมีมิติทางกฎหมายด้วย ถ้าเราวางข้อมูลส่วนบุคคลของลูกค้าหรือคนไข้ลงเครื่องมือภายนอกโดยไม่มีฐานทางกฎหมายรองรับ องค์กรอาจมีหน้าที่ต้องรับผิดชอบตามพระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล (PDPA) ซึ่งเราเล่าหลักการไว้ใน บทความเป็นส่วนตัว ก่อนวางอะไรลงแชตบอต ลองถามตัวเองสั้น ๆ ว่า “ถ้าข้อความนี้ไปโผล่บนกระดานข่าวพรุ่งนี้ ใครเดือดร้อนบ้าง”

ศัพท์น่ารู้: Data leakage และ Shadow AI

Data leakage คือการที่ข้อมูลหลุดออกไปนอกขอบเขตที่ควรอยู่ ไม่จำเป็นต้องถูกแฮก แค่วางผิดที่ก็รั่วได้ Shadow AI คือการที่พนักงานใช้เครื่องมือ AI ที่องค์กรไม่รู้และไม่ได้อนุมัติ ทำให้คุมไม่ได้ว่าข้อมูลไหลไปที่ใด

07ฝั่งป้องกันก็มี AI How defenders use AI

อ่านมาถึงตรงนี้อาจรู้สึกว่าคนร้ายได้เปรียบไปหมด แต่ความจริงคือ AI ไม่ได้เลือกข้าง ฝั่งป้องกันใช้ “การเรียนรู้ของเครื่อง” (machine learning) มานานก่อนแชตบอตจะดังเสียอีก ตัวกรองสแปมในกล่องอีเมลที่คัดข้อความหลอกทิ้งให้เราทุกวัน ระบบธนาคารที่สังเกตว่าบัตรเราถูกรูดผิดปกติ ล้วนเป็นงานของ AI ทั้งนั้น

ในห้อง SOC ที่เราเรียนใน CASE-017 ปัญหาใหญ่คือการแจ้งเตือนท่วมจนนักวิเคราะห์ดูไม่ทัน AI เข้ามาช่วยตรงนี้ได้หลายแบบ

• ตรวจจับความผิดปกติ (anomaly detection): เรียนรู้ว่าพฤติกรรมปกติของผู้ใช้และเครื่องเป็นอย่างไร แล้วยกธงเมื่อมีอะไรเบี่ยงไป เช่น บัญชีที่ปกติล็อกอินจากเชียงใหม่ จู่ ๆ ดาวน์โหลดไฟล์จำนวนมากตอนตีสาม
• คัดแยกและจัดลำดับ (triage): ช่วยจัดกลุ่มการแจ้งเตือนที่เกี่ยวข้องกัน ตัดของซ้ำ และดันเรื่องที่น่าห่วงที่สุดขึ้นมาก่อน
• อธิบายและสรุป: โมเดลภาษาช่วยแปล log ยาวเหยียดให้เป็นภาษาคน สรุปไทม์ไลน์เหตุการณ์ และร่างรายงาน ทำให้นักวิเคราะห์มือใหม่เรียนรู้ได้เร็วขึ้น
• กรองฟิชชิงและสแปม: ดูลักษณะของข้อความ ลิงก์ และผู้ส่งพร้อมกันหลายมิติ จับสิ่งที่ตาคนมองข้าม

แต่ AI ฝั่งป้องกันก็มีข้อจำกัดที่ต้องรู้ทัน โมเดลภาษาอาจ “มั่นใจผิด ๆ” แต่งเรื่องที่ไม่มีอยู่จริงขึ้นมาอย่างหน้าตาเฉย อาการนี้เรียกว่าการหลอน (hallucination) และตัวมันเองก็อาจถูกคำสั่งแฝงที่ฝังมาใน log หรืออีเมลที่มันวิเคราะห์ได้ด้วย กติกาที่ทีมป้องกันส่วนใหญ่ยึดคือ ให้ AI ช่วยคิด แต่คนเป็นผู้ตัดสินใจ (human in the loop) โดยเฉพาะการกระทำที่กระทบระบบจริง เช่น ปิดบัญชีหรือตัดเครื่องออกจากเครือข่าย

เรื่องเครื่องมือจับดีปเฟกก็เช่นกัน มันพัฒนาขึ้นเรื่อย ๆ และมีประโยชน์ในงานตรวจสอบ แต่เป็นการแข่งกันแบบแมวไล่หนู ไม่มีตัวไหนแม่นร้อยเปอร์เซ็นต์ เราจึงยังต้องพึ่งขั้นตอนยืนยันแบบที่ไม่สนว่าเทคโนโลยีปลอมจะไปไกลแค่ไหน

08กรอบคิดเรื่องความเสี่ยง AI AI risk frameworks

เมื่อองค์กรเริ่มเอา AI มาใช้จริง คำถามต่อไปคือ “จะคิดเรื่องความเสี่ยงให้ครบได้อย่างไร” โชคดีที่วงการความปลอดภัยไม่ต้องเริ่มจากศูนย์ มีกรอบคิดสามชุดที่คนในวงการอ้างถึงบ่อยที่สุด แต่ละชุดตอบคำถามคนละมุม

OWASP Top 10 for LLM Applications: สิบจุดเสี่ยงของแอปที่ใช้ LLM

OWASP คือชุมชนเปิดที่ทำรายการ “Top 10” ด้านความปลอดภัยเว็บซึ่งเราเจอใน บทโจมตีเว็บ พวกเขาทำรายการแยกสำหรับแอปที่สร้างบนโมเดลภาษาด้วย ฉบับปี 2025 มีสิบหัวข้อตามตารางนี้ เหมาะกับนักพัฒนาและทีมที่กำลังสร้างแชตบอตหรือเอเจนต์ ใช้เป็นเช็กลิสต์ตอนออกแบบและตอนทดสอบ

NIST AI RMF: กรอบบริหารความเสี่ยง AI ทั้งองค์กร

สถาบันมาตรฐานและเทคโนโลยีแห่งชาติของสหรัฐฯ (NIST) ออกกรอบบริหารความเสี่ยง AI หรือ AI Risk Management Framework (AI RMF 1.0) เมื่อต้นปี 2023 กรอบนี้ไม่ได้เจาะแค่เรื่องแฮก แต่มองความเสี่ยงของ AI ทั้งหมด รวมถึงความลำเอียง ความโปร่งใส และความน่าเชื่อถือ หัวใจของมันคือสี่หน้าที่ที่ทำวนต่อเนื่อง

• Govern (กำกับ): วางวัฒนธรรม นโยบาย และคนรับผิดชอบเรื่องความเสี่ยง AI ทั้งองค์กร เป็นแกนที่ร้อยอีกสามข้อเข้าด้วยกัน
• Map (ทำแผนที่): รู้ว่าใช้ AI ที่ไหน เพื่ออะไร ใครได้รับผลกระทบ
• Measure (วัด): ทดสอบและวัดความเสี่ยงที่ระบุไว้ ทั้งเชิงเทคนิคและผลกระทบต่อคน
• Manage (จัดการ): ตัดสินใจลด รับ หรือเลี่ยงความเสี่ยง และเฝ้าติดตามต่อเนื่อง

ในปี 2024 NIST ยังออกเอกสารเสริมสำหรับ Generative AI โดยเฉพาะ (NIST AI 600-1 หรือ Generative AI Profile) ที่ไล่ความเสี่ยงซึ่งเด่นชัดในยุคโมเดลสร้างเนื้อหา เช่น ข้อมูลเท็จ ความปลอดภัยของข้อมูล และเนื้อหาที่เป็นอันตราย

MITRE ATLAS: แผนที่วิธีโจมตีระบบ AI

ถ้ายังจำ MITRE ATT&CK จาก บทกรอบการโจมตี ได้ MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) คือฐานความรู้พี่น้องของมัน ที่รวบรวมยุทธวิธีและเทคนิคที่ฝ่ายตรงข้ามใช้กับระบบ AI โดยเฉพาะ อ้างอิงจากเหตุการณ์จริงและการทดสอบของทีมเรดทีม ทีมป้องกันใช้มันเป็นภาษากลางเวลาคุยว่า “ระบบ AI ของเราถูกโจมตีตรงไหนได้บ้าง” และใช้วางแผนทดสอบหรือเขียนกฎตรวจจับ

ถ้าจะจำง่าย ๆ: OWASP บอกนักพัฒนาว่าต้องระวังอะไรในแอป NIST AI RMF บอกผู้บริหารว่าต้องจัดการความเสี่ยงอย่างเป็นระบบอย่างไร ส่วน MITRE ATLAS บอกทีมป้องกันว่าคนร้ายเดินเกมแบบไหน ทั้งสามชุดใช้คู่กันได้ ไม่ต้องเลือกอย่างใดอย่างหนึ่ง

ศัพท์น่ารู้: Red teaming สำหรับ AI

การให้ทีมที่ได้รับอนุญาตลองทำตัวเป็นฝ่ายโจมตี เพื่อหาจุดอ่อนของระบบ AI ก่อนคนร้ายจะเจอ ทั้งด้านความปลอดภัยและพฤติกรรมที่ไม่พึงประสงค์ ผลที่ได้ถูกนำไปอุดช่องโหว่และปรับด่านป้องกัน

09นิสัยป้องกันตัว: ตัวเราและองค์กร Personal & organisational habits

ข่าวดีของบทนี้คือ เราไม่จำเป็นต้องเก่ง AI เท่าคนร้าย เพื่อจะไม่ตกเป็นเหยื่อ นิสัยไม่กี่อย่างที่ทำซ้ำจนเป็นอัตโนมัติ ป้องกันได้มากกว่าการไล่ตามเทคโนโลยีปลอมทุกรุ่น

สำหรับตัวเราและครอบครัว

1. ยืนยันผ่านช่องทางที่สองเสมอ

   เรื่องเงิน รหัส หรือข้อมูลสำคัญ ต่อให้มาจากเสียงหรือหน้าที่คุ้นเคย ให้วางสายแล้วติดต่อกลับทางที่เรารู้อยู่แล้ว และใช้รหัสลับครอบครัวที่ตกลงกันไว้

2. คิดก่อนวางลงแชตบอต

   ไม่วางรหัสผ่าน เลขบัตรประชาชน ข้อมูลสุขภาพ หรือข้อมูลของคนอื่น ถ้าจำเป็นต้องให้ AI ช่วย ให้เปลี่ยนชื่อและตัวเลขจริงเป็นข้อมูลสมมุติก่อน

3. ดูแลบัญชี AI เหมือนบัญชีธนาคาร

   ใช้รหัสผ่านไม่ซ้ำ เปิด MFA และสำรวจการตั้งค่าความเป็นส่วนตัว เพราะประวัติแชตคือบันทึกชีวิตเราที่ละเอียดมาก

4. ลดวัตถุดิบให้คนร้าย

   ตั้งค่าบัญชีโซเชียลให้เห็นเฉพาะคนที่รู้จัก โดยเฉพาะคลิปที่มีเสียงและหน้าชัด ๆ ของเด็กและผู้สูงอายุ ไม่ได้แปลว่าห้ามโพสต์ แต่เลือกว่าใครควรเห็น

5. อย่าเชื่อคำตอบ AI ในเรื่องสำคัญโดยไม่ตรวจ

   ลิงก์ เบอร์โทร ชื่อแอป หรือคำแนะนำด้านการเงินและสุขภาพที่ AI ให้มา อาจผิดหรือถูกคนร้ายปั่นได้ ตรวจกับแหล่งทางการเสมอ

สำหรับองค์กร

1. มีนโยบายใช้ AI ที่คนทำตามได้จริง

   บอกให้ชัดว่าเครื่องมือไหนอนุมัติ ข้อมูลระดับไหนวางได้ และจัดหาเครื่องมือที่ปลอดภัยให้ใช้ แทนการห้ามเฉย ๆ ที่ผลักคนไปหา Shadow AI

2. ขั้นตอนโอนเงินที่ไม่ขึ้นกับเสียงหรือหน้า

   การโอนเงินก้อนใหญ่หรือเปลี่ยนเลขบัญชีคู่ค้า ต้องโทรกลับเบอร์ที่บันทึกไว้ในระบบ และให้คนที่สองอนุมัติ ไม่มีข้อยกเว้นแม้ “ผู้บริหารสั่งเองในวิดีโอคอล”

3. ทำบัญชีรายการ AI ที่ใช้อยู่

   รู้ว่ามีแชตบอต เอเจนต์ หรือฟีเจอร์ AI ตัวไหนบ้าง ต่อกับข้อมูลอะไร มีสิทธิ์ทำอะไร ตรงกับหน้าที่ Map ของ NIST AI RMF

4. ออกแบบเอเจนต์ด้วยสิทธิ์น้อยที่สุด

   ให้สิทธิ์เท่าที่งานต้องใช้ ให้คนอนุมัติก่อนทำสิ่งที่ย้อนกลับไม่ได้ ถือว่าเนื้อหาจากภายนอกไว้ใจไม่ได้เสมอ และเก็บ log ทุกการกระทำ

5. ทดสอบและซ้อมก่อนเจอจริง

   ให้ทีมเรดทีมลองโจมตีระบบ AI ตามแนว OWASP และ MITRE ATLAS และเพิ่มสถานการณ์ดีปเฟกในการซ้อมรับมือเหตุการณ์ เช่น “ถ้ามีคลิปเสียงผู้บริหารปลอมหลุดออกไป เราทำอะไรก่อน”

6. อบรมด้วยเรื่องจริง ไม่ใช่สไลด์ขู่

   ให้พนักงานเห็นว่าเสียงและวิดีโอปลอมได้ แล้วให้ทุกคนรู้สึกปลอดภัยที่จะ “ขอโทรยืนยัน” แม้กับผู้บริหาร วัฒนธรรมที่ไม่ลงโทษคนที่ถามซ้ำ คือด่านป้องกันที่ราคาถูกที่สุด

10สรุปให้จำ Recap

AI ทำให้กลโกงเก่าถูกลง เร็วขึ้น และเนียนขึ้น แต่ยังต้องจบที่คำขอเดิม ๆ ถ้าจำได้แค่หกข้อ ให้จำหกข้อนี้

• เสียงและหน้าไม่ใช่หลักฐาน เรื่องเงินหรือรหัส ยืนยันผ่านช่องทางที่สองทุกครั้ง
• ตั้งรหัสลับครอบครัว ตกลงกันต่อหน้า และวางสายแล้วโทรกลับเบอร์ที่บันทึกไว้เอง
• ดูที่คำขอ ไม่ใช่ความเนียน ฟิชชิงยุค AI ภาษาดีเสมอ แต่ยังต้องขอเงิน รหัส หรือให้กดอะไรบางอย่าง
• คิดก่อนวางลงแชตบอต ข้อมูลที่ไม่เคยถูกวาง ไม่มีทางรั่ว
• เอเจนต์ AI ต้องสิทธิ์น้อยที่สุด และมีคนอนุมัติก่อนทำสิ่งที่ย้อนกลับไม่ได้
• ใช้กรอบคิดที่มีอยู่แล้ว OWASP Top 10 for LLM, NIST AI RMF และ MITRE ATLAS

ลองทบทวนดู