OpenAI đang nghiên cứu phương pháp đánh dấu văn bản, khiến sinh viên "hết cửa" dùng ChatGPT để gian lận trong học tập
OpenAI đang phát triển công cụ đánh dấu văn bản có thể phát hiện các bài viết được viết bởi ChatGPT, nhưng vẫn chưa quyết định phát hành. Công ty lo ngại về những rủi ro liên quan và tác động đến cộng đồng người dùng.
The Wall Street Journal đã báo cáo rằng OpenAI hiện đã có sẵn một công cụ phát hiện các bài luận được viết bởi ChatGPT với độ chính xác cao, nhưng công ty vẫn chưa quyết định phát hành. Sau báo cáo này, OpenAI đã chia sẻ thêm thông tin về nghiên cứu của mình liên quan đến việc đánh dấu văn bản và lý do tại sao công ty chưa phát hành phương pháp phát hiện này.
Theo báo cáo của The Wall Street Journal, cuộc tranh luận về việc liệu công cụ này có nên được phát hành hay không đã khiến nó chưa được ra mắt, mặc dù đã sẵn sàng. Trong một bản cập nhật được công bố vào Chủ nhật từ bài viết blog đăng vào tháng Năm, được phát hiện bởi TechCrunch, OpenAI cho biết: "Các nhóm của chúng tôi đã phát triển một phương pháp đánh dấu văn bản mà chúng tôi tiếp tục cân nhắc khi nghiên cứu các giải pháp thay thế."
Công ty cho biết đánh dấu văn bản (Watermark) là một trong nhiều giải pháp, bao gồm các bộ phân loại và siêu dữ liệu, mà họ đã nghiên cứu trong quá trình "nghiên cứu rộng rãi về nguồn gốc văn bản." Theo OpenAI, phương pháp này "đã rất chính xác" trong một số tình huống, nhưng không hoạt động tốt khi gặp một số hình thức giả mạo, "chẳng hạn như sử dụng hệ thống dịch thuật, viết lại bằng mô hình generative khác, hoặc yêu cầu mô hình chèn một ký tự đặc biệt giữa mỗi từ rồi xóa ký tự đó."
Và đánh dấu văn bản có thể "tác động không cân xứng đến một số nhóm," OpenAI viết. "Ví dụ, nó có thể gây kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho những người không nói tiếng Anh bản ngữ."
Theo bài viết blog, OpenAI đã cân nhắc các rủi ro này. Công ty cũng viết rằng họ đã ưu tiên phát hành các công cụ xác thực nội dung. Trong một phát biểu với TechCrunch, người phát ngôn của OpenAI cho biết công ty đang tiếp cận một cách "thận trọng" đối với nguồn gốc văn bản vì "những phức tạp liên quan và tác động có thể xảy ra đến hệ sinh thái rộng lớn hơn ngoài OpenAI."
