Sullivan & Cromwell ออกคำขอโทษต่อศาลหลังจาก AI สร้างการอ้างอิงทางกฎหมายเท็จ

TLDR

• สำนักงานกฎหมายชั้นนำยื่นเอกสารศาลพร้อมการอ้างอิงที่ AI สร้างขึ้นปลอม

• Sullivan & Cromwell ยอมรับความล้มเหลวในการตรวจสอบในคดีล้มละลาย

• ข้อมูลที่ไม่ถูกต้องที่ AI สร้างขึ้นส่งผลกระทบต่อการยื่นเอกสารต่อศาลรัฐบาลกลาง

• ทนายฝ่ายตรงข้ามค้นพบการอ้างอิงกฎหมายปลอมในเอกสารคดีความ

• เหตุการณ์นี้เน้นย้ำถึงความจำเป็นเร่งด่วนในการปรับปรุงโปรโตคอลการตรวจสอบ AI

วิชาชีพกฎหมายต้องเผชิญกับการตรวจสอบอย่างเข้มงวดอีกครั้งเกี่ยวกับความน่าเชื่อถือของปัญญาประดิษฐ์ หลังจากเกิดความผิดพลาดครั้งสำคัญโดยสำนักงานกฎหมายชั้นนำของอเมริกา Sullivan & Cromwell ได้ประกาศต่อสาธารณะว่ายื่นเอกสารศาลที่เต็มไปด้วยการอ้างอิงคดีที่ AI สร้างขึ้นปลอมและการอ้างอิงทางกฎหมายที่ไม่ถูกต้อง เหตุการณ์นี้ทำให้สำนักงานต้องดำเนินการสอบสวนภายในอย่างครอบคลุมเกี่ยวกับมาตรการป้องกันด้านปัญญาประดิษฐ์ของตน

การอ้างอิงปลอมส่งผลกระทบต่อการยื่นเอกสารต่อศาลรัฐบาลกลาง

สำนักงานกฎหมายชั้นนำแห่งนี้ค้นพบข้อบกพร่องอย่างมีนัยสำคัญในเอกสารล้มละลายตามมาตรา 15 ที่เกี่ยวข้องกับคดีความของ Prince Group ระบบปัญญาประดิษฐ์สร้างการอ้างอิงคดีที่ไม่มีอยู่จริงและวิเคราะห์บทบัญญัติในกฎหมายล้มละลายของสหรัฐอเมริกาอย่างไม่ถูกต้อง การอ้างอิงปลอมเหล่านี้ถูกรวมอยู่ในเอกสารที่นำเสนอต่อศาลล้มละลายรัฐบาลกลางในนิวยอร์ก

Andrew Dietderich ผู้ดูแลแผนกปรับโครงสร้างของสำนักงาน รับผิดชอบส่วนตัวต่อข้อบกพร่องของเอกสารดังกล่าว เขายืนยันว่าแม้สำนักงานจะมีแนวปฏิบัติการใช้ AI ที่กำหนดไว้ แต่โปรโตคอลเหล่านี้ไม่ได้ถูกปฏิบัติตามในระหว่างการสร้างเอกสารฉบับนี้ องค์กรได้ดำเนินมาตรการแก้ไขเพื่อป้องกันการเกิดซ้ำของข้อผิดพลาดที่เกิดจาก AI ในการยื่นเอกสารทางกฎหมายครั้งต่อไป

Boies Schiller Flexner ซึ่งทำหน้าที่แทนฝ่ายตรงข้าม ได้ระบุความไม่สอดคล้องและนำเรื่องขึ้นสู่ความสนใจของศาล การตรวจสอบของพวกเขาเปิดเผยว่าบางคดีที่อ้างอิงไม่มีอยู่จริงเลย หรืออ้างถึงคำพิพากษาที่ไม่เกี่ยวข้องอย่างสิ้นเชิง ในที่สุด สำนักงานจึงยื่นเวอร์ชันแก้ไขพร้อมคำอธิบายประกอบที่ระบุข้อผิดพลาดที่ AI สร้างขึ้นอย่างชัดเจน

ความล้มเหลวในการตรวจสอบเน้นให้เห็นความท้าทายเชิงระบบของ AI

เหตุการณ์นี้แสดงให้เห็นถึงความยากลำบากที่แพร่หลายที่สำนักงานกฎหมายต้องเผชิญในการนำปัญญาประดิษฐ์มาใช้เพื่อเพิ่มประสิทธิภาพการทำงานและจัดการคดีความ สำนักงานกฎหมายหลายแห่งใช้ระบบ AI สำหรับการวิจัยทางกฎหมายและการสร้างเอกสาร แต่โปรโตคอลการตรวจสอบที่ไม่เพียงพอยังคงสร้างช่องโหว่อยู่เสมอ ผู้เชี่ยวชาญด้านกฎหมายต้องรับมือกับความขัดแย้งระหว่างประสิทธิภาพในการดำเนินงานและความแม่นยำเมื่อนำ AI มาใช้ในกระบวนการทำงานของตน

Sullivan & Cromwell ระบุว่าบังคับใช้นโยบายการใช้ AI อย่างเข้มงวด รวมถึงการตรวจสอบโดยมนุษย์สำหรับสื่อที่ AI สร้างขึ้นทั้งหมดอย่างบังคับ สำนักงานยอมรับว่ากลไกการควบคุมคุณภาพล้มเหลวในเรื่องนี้ ทำให้เนื้อหาที่มีข้อบกพร่องผ่านไปได้โดยไม่มีการตรวจสอบ เหตุการณ์นี้ได้ขยายการตรวจสอบกรอบการกำกับดูแลปัญญาประดิษฐ์ในบริบททางกฎหมายที่สำคัญ

ข้อมูลอุตสาหกรรมเผยให้เห็นความถี่ที่เพิ่มขึ้นของ AI hallucination ที่ปรากฏในเอกสารศาล โดยเฉพาะที่เกี่ยวข้องกับบรรทัดฐานทางกฎหมายที่ประดิษฐ์ขึ้น การวิจัยบันทึกเหตุการณ์ดังกล่าวมากกว่า 1,300 ครั้งทั่วโลก โดยส่วนใหญ่กระจุกตัวอยู่ในศาลอเมริกัน รูปแบบที่เกิดขึ้นใหม่นี้เน้นย้ำถึงความจำเป็นของกลไกการตรวจสอบความถูกต้องที่เข้มงวดยิ่งขึ้นเมื่อนำ AI มาใช้ในกระบวนการจัดทำเอกสารทางกฎหมาย

ผลกระทบขยายออกไปเกินกว่าเหตุการณ์เดี่ยว

คดีความของ Prince Group เป็นศูนย์กลางของข้อกล่าวหาเกี่ยวกับแผนการฉ้อโกงอย่างกว้างขวาง ครอบคลุมการบังคับใช้แรงงานและการประพฤติมิชอบทางการเงิน อัยการสหรัฐอเมริกาได้เริ่มดำเนินคดีอาญาและความพยายามยึดทรัพย์สินที่เกี่ยวข้องกับการดำเนินงานขององค์กร ดังนั้น ความแม่นยำในเอกสารทางกฎหมายจึงมีความสำคัญสูงสุดในเรื่องที่เกี่ยวข้องกับข้อกล่าวหาข้ามชาติที่ซับซ้อน

Sullivan & Cromwell เคยเป็นตัวแทนลูกค้าในคดีที่โดดเด่น รวมถึงกระบวนการล้มละลายของ FTX exchange สำนักงานเรียกเก็บค่าบริการพรีเมียมและจัดการคดีการปรับโครงสร้างที่ซับซ้อนครอบคลุมหลายเขตอำนาจศาล ความล้มเหลวที่เกี่ยวข้องกับ AI ครั้งนี้ได้ก่อให้เกิดการสอบถามเกี่ยวกับการควบคุมคุณภาพในองค์กรกฎหมายชั้นนำ

สำนักงานยังคงดำเนินการสอบสวนภายในอย่างต่อเนื่องในขณะที่ประเมินใหม่โปรแกรมการศึกษาและกรอบการปฏิบัติตามกฎระเบียบที่ควบคุมการใช้งานปัญญาประดิษฐ์ วัตถุประสงค์ของสำนักงานรวมถึงการเสริมสร้างมาตรการป้องกันและเพิ่มความรับผิดชอบตลอดกระบวนการสร้างเอกสาร ด้วยการผสานรวม AI ที่เร่งตัวขึ้น อุตสาหกรรมกฎหมายต้องเผชิญกับความคาดหวังที่เพิ่มขึ้นในการรับประกันความน่าเชื่อถือและขจัดข้อผิดพลาดที่มีค่าใช้จ่ายสูง

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.