ปัญญาประดิษฐ์เชิงสร้างสรรค์กำลังเปลี่ยนโฉมอาชญากรรมไซเบอร์ผ่านอีเมลอย่างไร

AI เองไม่ได้เป็นภัยคุกคาม มันเป็นเพียงเครื่องมือ สิ่งที่เปลี่ยนไปคือความสามารถในการนำมาใช้กับการโจมตีทางอีเมลที่เคยใช้งานได้อยู่แล้วอย่างรวดเร็วและประหยัดต้นทุน

ลูกโซ่การโจมตีไม่ได้พัฒนาขึ้น แต่กลายเป็นว่าประหยัดต้นทุนมากขึ้น ฟิชชิง การโจรกรรมอีเมลธุรกิจ และการขโมยข้อมูลรับรอง กลไกเหมือนเดิม แต่เนื้อหาดีขึ้นและผลิตได้เร็วขึ้น ข้อผิดพลาดทางภาษาหายไป การกำหนดเป้าหมายแม่นยำขึ้น แคมเปญที่เคยใช้เวลาหลายวันตอนนี้สามารถรวมตัวกันได้ในไม่กี่นาที

ฝ่ายป้องกันก็ใช้ AI เช่นกัน ทุกคนใช้ แต่ปริมาณของผู้โจมตียังคงชนะ การสร้างอีเมลที่น่าเชื่อถือในขนาดใหญ่ง่ายกว่าการปรับแต่งโมเดลตรวจจับโดยไม่รบกวนการไหลของเมลปกติหรือทำให้ทีมงานล้นด้วยผลบวกลวง

ดังนั้นความเสี่ยงไม่ใช่อาวุธ AI ชั้นยอดแบบใหม่ แต่เป็นเทคนิคที่คุ้นเคย ทำงานอัตโนมัติ ขัดเงา และใช้งานได้เร็วกว่าการป้องกันส่วนใหญ่จะปรับตัวได้ ช่องว่างนั้นคือที่ที่กล่องจดหมายเข้ายังคงถูกโจมตี

บทความนี้จะแจกแจงสิ่งที่เปลี่ยนแปลงจริง สิ่งที่ไม่เปลี่ยนแปลง และกลยุทธ์ความปลอดภัยอีเมลปรับตัวอย่างไรเพื่อตอบสนอง

AI สร้างสรรค์กำลังเปลี่ยนแปลงการโจมตีทางอีเมลอย่างไร

สิ่งที่ AI เสนอให้กับผู้โจมตีคือความเร็วและความน่าเชื่อถือด้วยความพยายามที่น้อยลง ฟิชชิงและสเปียร์ฟิชชิงยังคงสร้างความเสียหายส่วนใหญ่ แต่แคมเปญที่สร้างโดย AI กำจัดสัญญาณเตือนหลายอย่างที่ฝ่ายป้องกันพึ่งพามาหลายปี ข้อความสะอาดขึ้น สม่ำเสมอมากขึ้น และสร้างใหม่ได้ง่ายเมื่อฟิลเตอร์จับได้

การกำหนดเป้าหมายก็ดีขึ้นเช่นกัน ข้อมูลการละเมิดสาธารณะ โปรไฟล์โซเชียลที่ขูดข้อมูล ประกาศงาน และเอกสารที่รั่วไหล ป้อนข้อมูลให้กับโมเดลที่เข้าใจบทบาท ผู้ขาย และภาษาภายใน ผลลัพธ์คือการส่งอีเมลที่อ้างอิงเครื่องมือจริง โครงการจริง และคนจริง

การสำรวจและการทำซ้ำได้รับการทำงานอัตโนมัติแล้ว หัวเรื่อง เวลา และวลีได้รับการทดสอบในระดับใหญ่ จากนั้นปรับตามว่าใครคลิกหรือตอบกลับ วงวนผลตอบรับนั้นเคยทำด้วยตนเอง ตอนนี้มันทำงานอย่างต่อเนื่อง นั่นเป็นเหตุผลว่าทำไมทีมความปลอดภัยถึงเห็นธงแดงที่ชัดเจนน้อยลงและข้อความที่อยู่ในเขตสีเทามากขึ้น

รายงานจากองค์กรเช่นเวิลด์เอคโคโนมิกฟอรัมแสดงให้เห็นว่าความเสี่ยงที่เกี่ยวข้องกับ AI เพิ่มขึ้นเร็วกว่าหมวดหมู่อื่นๆ ส่วนใหญ่ การรั่วไหลของข้อมูลสร้างสรรค์และการใช้ในทางที่ผิดเกิดขึ้นซ้ำๆ สิ่งนี้ไม่น่าแปลกใจเลยเมื่อคุณดูว่าเครื่องมือ AI แพร่กระจายเข้าสู่เวิร์กโฟลว์ประจำวันเร็วแค่ไหน

สิ่งที่แตกต่างคือการตระหนักรู้ ทีม IT เห็นความเสี่ยงตอนนี้ ทั้งภายนอกและภายในองค์กร เครื่องมือเงา การรั่วไหลของพรอมต์ โมเดลที่ฝึกด้วยข้อมูลที่ละเอียดอ่อน ปัญหาที่คุ้นเคย เพียงแค่สวมป้ายกำกับใหม่

ทำไมการป้องกันอีเมลแบบดั้งเดิมจึงดิ้นรน

ภาษาเคยเป็นสัญญาณที่เชื่อถือได้ วลีที่เงอะงะ ข้อผิดพลาดทางไวยากรณ์ และน้ำเสียงที่ไม่ตรงกันทำให้แคมเปญฟิชชิงถูกจับได้ ข้อได้เปรียบนั้นหายไปแล้ว

อีเมลที่สร้างโดย AI ไม่ทำซ้ำตัวเองเหมือนเทมเพลตเก่าๆ ข้อความแต่ละรายการอาจดูแตกต่างเล็กน้อยในขณะที่ยังคงมีเจตนาเดียวกัน การตรวจจับตามรูปแบบดิ้นรนเมื่อไม่มีรูปแบบที่เสถียรให้ยึดเหนี่ยว

นี่คือเหตุผลที่ทีมความปลอดภัยเห็นข้อความที่รู้สึกปกติตั้งแต่แรกพบมากขึ้น พวกเขาอ้างอิงการสนทนาจริง เวลาสอดคล้องกับวันทำงานและกำหนดเวลา ไม่มีอะไรโดดเด่นเร็วพอที่จะทำให้ผู้ใช้หรือฟิลเตอร์ระมัดระวัง

การตรวจจับได้เปลี่ยนจากการจับภาษาที่ไม่ดีไปเป็นการจับพฤติกรรมที่ไม่สมเหตุสมผล ใครปกติส่งข้อความประเภทนี้? เมื่อไหร่ที่พวกเขาส่ง ผู้รับมักตอบกลับอย่างไร คำถามเหล่านี้สำคัญกว่าการเขียนอีเมลอย่างไร

ระบบ AI สร้างสรรค์และความเสี่ยงที่ขยายตัว

การโจมตีภายนอกเป็นเพียงครึ่งหนึ่งของปัญหา ระบบ AI ภายในนำเสนอความเสี่ยงของตัวเองเมื่อการป้องกันอ่อนแอหรือไม่มีเลย

ผู้ช่วย AI ขยายพื้นที่โจมตี

เมื่อองค์กรเปิดตัวแชทบอทและผู้ช่วยที่เข้าถึงอีเมลและเอกสารภายใน การควบคุมการปฏิบัติงานมักล้าหลัง ด้วยพรอมต์ที่เป็นปรปักษ์ เครื่องมือ AI ที่มีความปลอดภัยไม่ดีสามารถรั่วไหลข้อมูลที่ละเอียดอ่อนโดยไม่ทำให้สัญญาณเตือนที่ชัดเจนทำงาน ความเสี่ยงไม่ใช่สมมติฐาน มันเป็นผลจากการให้สิทธิ์เข้าถึงในวงกว้างโดยไม่มีการมองเห็นว่าการเข้าถึงนั้นถูกใช้อย่างไร

ระบบเอเจนต์เพิ่มผลกระทบหลายเท่า

ระบบเอเจนต์เพิ่มชั้นความเสี่ยงอีกชั้นหนึ่ง เมื่อ AI ได้รับอนุญาตให้ดำเนินการ ไม่เพียงแค่ตอบคำถาม ผู้โจมตีสามารถใช้เวิร์กโฟลว์เหล่านั้นในทางที่ผิดเพื่อทำงานอัตโนมัติที่พวกเขาเคยจัดการด้วยตนเอง การเตรียมฟิชชิง การค้นหาภายใน และการรวบรวมข้อมูลสามารถเชื่อมโยงกันได้หากการควบคุมการเข้าถึงหลวม สิ่งที่เคยต้องใช้เวลาและการประสานงานตอนนี้ทำงานอย่างเงียบๆ ในพื้นหลัง

Shadow AI เลี่ยงการควบคุมที่มีอยู่

Shadow AI ทำให้เรื่องนี้แย่ลง เมื่อพนักงานเชื่อมต่อข้อมูลภายในกับเครื่องมือที่ไม่ได้รับอนุมัติ มันเลี่ยงการควบคุมความปลอดภัยที่มีอยู่โดยสิ้นเชิง บริบทนั้นไม่ได้เป็นส่วนตัวนานนัก และเมื่อมันรั่วไหล มันป้อนเข้าสู่คลื่นการโจมตีส่วนบุคคลครั้งต่อไปโดยตรง จากมุมมองด้านความปลอดภัย เครื่องมือเหล่านี้สร้างจุดบอดที่ไม่ปรากฏในบันทึกจนกว่าความเสียหายจะเกิดขึ้นแล้ว

ความเร็วเหนือกว่าการกำกับดูแล

ความเร็วมักเร็วกว่าการกำกับดูแล การแลกเปลี่ยนนั้นปรากฏอย่างรวดเร็วในอีเมล ซึ่งความไว้วางใจในข้อความที่สร้างโดยระบบนั้นสูงอยู่แล้ว เมื่อผลลัพธ์ของ AI รู้สึกเป็นเรื่องปกติและมีอำนาจ ผู้ใช้ดำเนินการเร็วขึ้นและตั้งคำถามน้อยลง ความไว้วางใจโดยนัยนั้นคือสิ่งที่ผู้โจมตีมองหา

องค์กรกำลังปรับตัวอย่างไร

ฝ่ายป้องกันไม่ได้พยายามสร้างมากกว่าผู้โจมตี นั่นเป็นเกมที่แพ้ สิ่งที่เปลี่ยนแปลงคือวิธีที่ทีมตัดสินใจว่าอะไรดูผิด

กฎที่คงที่และการตรงกับคำสำคัญกำลังให้ทางแก่สัญญาณพฤติกรรมที่ทำเครื่องหมายเมื่อข้อความไม่สอดคล้องกับวิธีที่ผู้ส่งสื่อสารตามปกติหรือวิธีที่ผู้รับมักตอบกลับ การดูการไหลของการสนทนาตามเวลาให้บริบทที่ข้อความเดียวไม่เคยมี

การควบคุมตัวตนก็มีน้ำหนักมากขึ้นเช่นกัน การตรวจสอบสิทธิ์ที่แข็งแกร่งขึ้น นโยบายการเข้าถึงที่เข้มงวดขึ้น และการตรวจสอบความถูกต้องของผู้ส่งภายในที่ดีขึ้นลดผลกระทบเมื่อการปลอมแปลงลอดผ่านไป การหยุดข้อความภายในปลอมก่อนมีความสำคัญมากกว่าการจัดประเภททุกข้อความภายนอกอย่างสมบูรณ์แบบ

องค์กรยังกำลังกระชับการกำกับดูแล AI ของตนเอง นโยบายเกี่ยวกับข้อมูลใดที่สามารถป้อนเข้าเครื่องมือ วิธีบันทึกพรอมต์ และใครสามารถปรับใช้ผู้ช่วยกำลังเริ่มคล้ายกับการควบคุมการสูญเสียข้อมูลจากรอบการนำคลาวด์มาใช้ก่อนหน้านี้

การตรวจจับที่ช่วยด้วย AI ทำงานได้ดีที่สุดในที่ที่มนุษย์และตรรกะคงที่ล้มเหลว มันอาจไม่ติดป้ายกำกับทุกข้อความอย่างถูกต้องแยกต่างหาก แต่มันจะแสดงรูปแบบที่ไม่สมเหตุสมผลตามเวลา

ขั้นตอนปฏิบัติที่ยังมีความสำคัญ

การป้องกันส่วนใหญ่ที่ใช้งานได้กับการโจมตีทางอีเมลที่ขับเคลื่อนด้วย AI ไม่ใช่เรื่องใหม่ สิ่งที่เปลี่ยนแปลงคือความสม่ำเสมอในการบังคับใช้และวิธีที่พวกเขาแมปกับวิธีการโจมตีที่เกิดขึ้นจริง

• การตรวจสอบสิทธิ์ยังคงมีความสำคัญ
  DMARC, SPF และ DKIM ยังคงลดการปลอมแปลงเมื่อพวกเขาถูกบังคับใช้อย่างเหมาะสม เมื่อการควบคุมเหล่านั้นหลวมหรือถูกใช้อย่างไม่สม่ำเสมอ ผู้โจมตีไม่จำเป็นต้องใช้เครื่องมือขั้นสูงเพื่อประสบความสำเร็จ AI เพียงแค่ช่วยให้พวกเขาเคลื่อนที่เร็วขึ้นผ่านช่องว่างที่มีอยู่แล้ว
• การเปิดเผยข้อมูลเติมเชื้อเพลิงให้กับการปรับแต่งเฉพาะบุคคล
  แผนผังองค์กรสาธารณะ ความสัมพันธ์กับผู้ขาย ประกาศงาน และเอกสารภายในทำให้ง่ายต่อการสร้างเหยื่อล่อที่น่าเชื่อถือ ยิ่งผู้โจมตีสามารถขูดบริบทได้มากเท่าไหร่ ข้อความของพวกเขาก็ยิ่งน่าเชื่อถือมากขึ้นเท่านั้น การลดการเปิดเผยที่ไม่จำเป็นจำกัดโดยตรงว่าการกำหนดเป้าหมายที่ขับเคลื่อนด้วย AI มีประสิทธิภาพแค่ไหน
• การฝึกอบรมต้องสะท้อนการโจมตีจริง
  ตัวอย่างฟิชชิงทั่วไปไม่ได้เตรียมผู้ใช้สำหรับข้อความที่อ้างอิงเครื่องมือจริง โครงการจริง และคนจริง แบบฝึกหัดต้องสะท้อนสิ่งที่ทีมเห็นจริง ไม่ใช่สิ่งที่ฟิลเตอร์ใช้จับ หรือความไว้วางใจจะถูกวางผิดที่ต่อไป
• ระบบ AI ภายในต้องการการตรวจสอบระดับการผลิต
  ผู้ช่วยและแชทบอทควรได้รับการปฏิบัติเหมือนบริการที่สำคัญอื่นๆ การเข้าถึงควรถูกบันทึก สิทธิ์ควรน้อยที่สุด รูปแบบการใช้งานควรได้รับการตรวจสอบ หากผู้โจมตีสามารถดึงบริบทจากเครื่องมือ AI ภายใน พวกเขาจะนำกลับมาใช้ในคลื่นการโจมตีครั้งต่อไป

มองไปข้างหน้า

การโจมตีที่ขับเคลื่อนด้วย AI ไม่ได้เปลี่ยนพื้นฐาน วิศวกรรมสังคมยังคงใช้งานได้เพราะผู้คนเชื่อในสิ่งที่ดูคุ้นเคย และ AI ทำให้ความคุ้นเคยนั้นถูกลงและง่ายต่อการทำซ้ำในขนาดใหญ่

อีเมลยังคงเป็นช่องทางการส่งมอบหลักเพราะมันเชื่อมต่อทุกอย่าง ผู้ขาย ใบแจ้งหนี้ การรีเซ็ตรหัสผ่าน แอปพลิเคชันคลาวด์ เวิร์กโฟลว์ภายใน แม้ในสภาพแวดล้อมที่มีการควบคุมที่เป็นผู้ใหญ่ มันยังคงอยู่ที่จุดเริ่มต้นของเหตุการณ์ส่วนใหญ่

ความเสี่ยงที่ใหญ่กว่าคือภายใน การนำ AI มาใช้ที่ไม่มีการจัดการสร้างบริบทที่ผู้โจมตีสามารถนำกลับมาใช้ ทำงานอัตโนมัติ และปรับแต่ง ทีมที่จัดการกับความเสี่ยงนั้นโดยตรงลดเหตุการณ์ที่ขับเคลื่อนด้วยอีเมลและหลีกเลี่ยงการส่งมอบวัสดุที่ผู้โจมตีไม่จำเป็นต้องสร้างเอง