ChatGPT bịa 4 nhân chứng: luật sư bị phạt 5.000 USD

Một luật sư thừa nhận dùng ChatGPT chuẩn bị hồ sơ kháng cáo nhưng không kiểm tra. Tòa phát hiện bốn nhân chứng bị bịa, phạt 5.000 USD và chuyển vụ việc cho hội đồng kỷ luật.

Một luật sư tại New Mexico thừa nhận dùng ChatGPT để chuẩn bị hồ sơ kháng cáo án mạng nhưng không kiểm tra lại dữ kiện. Tòa Tối cao bang xác định hồ sơ có lời khai sai, bốn nhân chứng hoàn toàn bị bịa và thẩm quyền pháp lý bị trình bày sai.

Trong lệnh ngày 9/9/2026, Tòa tuyên luật sư Stephen D. Aarons phạm tội khinh thường tòa trực tiếp, phạt 5.000 USD nộp vào Quỹ Bảo vệ Khách hàng của Đoàn luật sư bang, chuyển vụ việc cho hội đồng kỷ luật và cấm ông xuất hiện trước Tòa Tối cao New Mexico trong khi chờ kết quả điều tra.

Vụ việc cho thấy rủi ro lớn nhất không nằm ở việc AI có thể tạo nội dung sai — điều này đã được biết rộng rãi — mà ở chỗ một tài liệu có hậu quả cao đã đi thẳng từ đầu ra AI đến người ra quyết định mà không qua quy trình xác minh.

Tòa xác nhận những gì?

Lệnh xử phạt nêu luật sư đã dùng công cụ AI tạo sinh ChatGPT để chuẩn bị bản luận cứ chính trong vụ kháng cáo của Oscar Renee Sandoval. Ông thừa nhận không xác minh các khẳng định thực tế và căn cứ pháp lý trước khi ký và nộp hồ sơ.

Tòa liệt kê bốn nhân chứng hoàn toàn không có thật: Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury và Teresa Marquez. Hồ sơ còn chứa lời khai sai được gán cho những người có thật, mô tả hư cấu về trang phục của tay súng và viện dẫn sai hai án lệ của New Mexico.

Ngoài khoản phạt, Tòa hủy toàn bộ phần tranh tụng đã nộp, chỉ định văn phòng luật sư công bảo vệ bị cáo, yêu cầu luật sư mới xuất hiện và dự kiến đưa vụ án trở lại lịch xét xử nhiệm kỳ 2026–2027. Những chi tiết này đến trực tiếp từ lệnh của Tòa, không phải suy đoán về hậu quả.

Điểm kiểm soát	Việc AI được phép làm	Bằng chứng con người phải kiểm	Điều kiện qua cửa
1. Khóa nguồn	Đọc bộ tài liệu đã chọn	Danh mục hồ sơ gốc	Không dùng kiến thức ngoài nguồn
2. Trích xuất	Tóm tắt kèm vị trí	Tên người, ngày, số tiền, phát ngôn	Mỗi dữ kiện có nguồn đối chiếu
3. Đối chiếu	So sánh nhiều tài liệu	Nhân chứng, án lệ, điều khoản	Không có thực thể không tìm thấy
4. Phản biện	Tìm mâu thuẫn và lỗ hổng	Các khẳng định ảnh hưởng kết luận	Người thứ hai kiểm độc lập
5. Ký duyệt	Gợi ý sửa câu chữ	Bản cuối và nhật ký thay đổi	Một người chịu trách nhiệm rõ ràng

Quy trình 5 cửa kiểm soát do Học viện AI xây dựng từ các lỗi được nêu trong lệnh của Tòa Tối cao New Mexico; đây là khuyến nghị biên tập, không phải thủ tục do Tòa ban hành.

“ChatGPT bịa” hay người dùng không kiểm tra?

Reuters dẫn lời Aarons nói ông dùng ChatGPT để tóm tắt biên bản phiên tòa và đã không hiểu đầy đủ mức độ công cụ có thể “hallucinate”. Tòa tập trung vào nghĩa vụ nghề nghiệp: luật sư ký tên trên hồ sơ nhưng không kiểm chứng dữ kiện và căn cứ pháp lý.

Vì thế, không nên đọc vụ này như một kết luận rằng mọi tóm tắt của ChatGPT đều sai. Điểm chính xác hơn là mô hình ngôn ngữ có thể tạo ra câu chữ mạch lạc nhưng chứa thực thể không tồn tại; khi người dùng bỏ qua kiểm chứng, lỗi mô hình trở thành lỗi tác nghiệp có hậu quả pháp lý.

Đây cũng không phải trường hợp đầu tiên luật sư bị xử lý vì tài liệu do AI tạo. Tuy nhiên, Reuters lưu ý vụ này đi xa hơn các ca bịa án lệ quen thuộc vì nội dung bao gồm lời khai và nhân chứng hư cấu trong một vụ án hình sự.

Góc nhìn Học viện AI: đừng dùng “đọc lại bằng mắt” làm Quality Gate

Nhiều tổ chức đang kiểm soát AI bằng yêu cầu “người dùng phải đọc lại”. Cách này quá yếu. Một văn bản trơn tru khiến người đọc dễ mặc định rằng tên người, trích dẫn và con số cũng đúng. Kiểm tra cần được thiết kế thành các bước có bằng chứng.

Với tài liệu pháp lý, tài chính, y tế hoặc báo cáo cho lãnh đạo, mỗi thực thể quan trọng nên đi kèm nguồn gốc: tài liệu nào, trang nào, đoạn nào. Hệ thống phải tự động đánh dấu tên người hoặc căn cứ không tìm thấy trong bộ nguồn. Người ký cuối cùng cần xem cả đầu ra và bảng đối chiếu, không chỉ đọc phần văn xuôi.

Bài học tương tự xuất hiện trong khung READY đánh giá AI Agent trước production: benchmark tốt chưa đủ nếu thiếu reliability và oversight. Doanh nghiệp cũng có thể tham khảo trường hợp 87% nhân sự dùng ChatGPT nhờ governance để thấy mức dùng cao phải đi cùng quy định rõ.

Checklist chống hallucination cho tài liệu quan trọng

Chỉ định bộ nguồn đóng: yêu cầu AI không suy diễn ngoài tài liệu đã cấp.
Bắt buộc trích dẫn đến vị trí: tên người, số tiền, ngày tháng và quy định phải truy được đến trang hoặc đoạn.
Chạy kiểm tra thực thể: so toàn bộ tên riêng, tổ chức và căn cứ với hồ sơ gốc.
Tách người soạn và người duyệt: người thứ hai kiểm tra độc lập các mệnh đề làm thay đổi kết luận.
Giữ người chịu trách nhiệm: AI không ký, không tự nộp và không tự gửi tài liệu có hậu quả cao.

Kết luận: vụ New Mexico không chứng minh rằng doanh nghiệp phải cấm ChatGPT. Nó chứng minh điều ngược lại: khi AI đã đi vào công việc thật, tổ chức phải chuyển từ lời nhắc “hãy cẩn thận” sang một chuỗi kiểm soát có nguồn, có người duyệt và có trách nhiệm rõ ràng.

Nguồn: Tòa Tối cao New Mexico; Reuters, cập nhật ngày 11/9/2026.

CTA: Muốn xây quy trình AI có Quality Gate, nguồn trích dẫn và cửa duyệt rõ cho đội ngũ? Khám phá chương trình thực hành tại Học viện AI.

Đặt lịch ngay