OpenAI tự ra mắt công cụ phát hiện luận văn có phải do ChatGPT viết hay không

OpenAI, công ty gồm những người đã tạo ra ChatGPT, đã nghe rõ những lời chỉ trích về chatbot AI của họ. Cụ thể là những người từ các nhà giáo dục đã bày tỏ lo ngại về việc học sinh sử dụng ChatGPT để làm bài tập về nhà hoặc viết bài cho họ.

Vào thứ ba, OpenAI đã phát hành một công cụ phân loại AI mới nhằm giải quyết trực tiếp những lo ngại đó. Công cụ web miễn phí được OpenAI tạo ra để giúp người dùng xác định xem một khối văn bản được viết bởi con người hay máy tính.

Công cụ này rất đơn giản để sử dụng. Chỉ cần truy cập trình phân loại AI, đăng nhập, sao chép và dán khối văn bản bạn muốn kiểm tra. Sau đó, trình phân loại sẽ xếp hạng văn bản theo thang điểm có khả năng do AI tạo ra, có thể, không rõ ràng, khó xảy ra hoặc rất khó xảy ra.

Mặc dù điều này nghe có vẻ cực kỳ hữu ích trong việc giải quyết một số lo ngại về văn bản viết bằng AI, nhưng OpenAI đã nói rất rõ ràng rằng có những lưu ý. Ví dụ, theo OpenAI, "bộ phân loại không hoàn toàn đáng tin cậy."

Có những giới hạn khác của AI Text Classifier được OpenAI công bố. Lấy ví dụ, đoạn văn đưa cho AI phân tích phải tương đối dài. Kết quả xác định tác giả thực sự của một đoạn văn sẽ bị ảnh hưởng tiêu cực nếu độ dài dưới 1000 chữ. Và quan trọng hơn, AI Text Classifier hiện tại cũng chỉ hoạt động ổn với ngôn ngữ Anh.

OpenAI không phải là công ty đầu tiên phát hành công cụ giúp phát hiện khi văn bản được tạo bằng máy tính. Trên thực tế, nó không phải là công cụ phân loại đầu tiên mà chính công ty đã phát hành. Tuy nhiên, nó "đáng tin cậy hơn đáng kể" so với công cụ trước đó, theo OpenAI. Và điều rất đáng chú ý là một công cụ như vậy cũng đang được một trong những người đi đầu trong lĩnh vực AI tiếp tục nghiên cứu.

Tuy nhiên, vẫn còn một chặng đường dài trước khi giáo viên và các nhà giáo dục có thể tự tin dựa vào bất kỳ công cụ phát hiện AI nào để ngăn chặn hành vi gian lận trong lớp học.

Nguồn: mashable