Thứ ba, 25/07/2023, 10:03 (GMT + 7)

OpenAI “lặng lẽ” tắt công cụ phát hiện AI trên nền tảng

Với tỷ lệ quét chính xác quá thấp, cha đẻ của ChatGPT OpenAI đã lặng lẽ rút công cụ phát hiện AI của mình trong tuần qua.

Vào tháng 01/2023, ông lớn công nghệ trí tuệ nhân tạo OpenAI đã công bố một công cụ “có thể cứu cả thế giới” bằng cách phát hiện xem một phần nội dung được tạo bằng các công cụ AI tổng quát như ChatGPT. Tuy nhiên, chỉ nửa năm sau đó, công cụ này dường như đã dần bị thoái hóa, vì nó không thể hoàn thành được vai trò của chính mình.

Theo một bài đăng đươcc công bố trên trang web chính thức vào ngày 20/07 vừa qua, OpenAI cho biết cha đẻ của ChatGPT OpenAI đã lặng lẽ rút công cụ phát hiện AI của mình, AI Classifier vào một tuần trước đó. Lý do được đưa ra là do công cụ cung cấp tỷ lệ chính xác quá thấp.

"Chúng tôi đang làm việc dựa trên phản hồi của người dùng, đồng thời cũng nghiên cứu các kỹ thuật hiệu quả hơn cho văn bản. Chúng tôi cam kết phát triển và triển khai các cơ chế cho phép người dùng hiểu liệu nội dung âm thanh hoặc hình ảnh có phải do AI tạo ra hay không."

Được biết, các công cụ mới cho phép sử dụng AI ngày càng tinh vi xuất hiện hầu như mỗi ngày, đã thúc đẩy cho việc tạo ra các máy dò AI. Là một ông lớn trong ngành trí tuệ nhân tạo, OpenAI cũng đã cho ra mắ “Trình phân loại AI” của mình và tuyên bố rằng công cụ này có thể phân biệt văn bản được viết bởi con người.

Tuy nhiên ngay cả khi đó, OpenAI đã gọi bộ phân loại là "không hoàn toàn đáng tin cậy", đồng thời nói thêm rằng các đánh giá về "bộ thử thách" các văn bản tiếng Anh đã xác định chính xác 26% văn bản do AI viết là "có khả năng là do AI viết", trong khi 9% trường hợp đánh giá sai văn bản do con người viết là do AI viết.

OpenAI cho biết những hạn chế của Trình phân loại AI bao gồm tính không đáng tin cậy đối với văn bản có ít hơn 1.000 ký tự, đánh dấu sai văn bản do con người viết thành văn bản do AI viết và các trình phân loại dựa trên mạng thần kinh hoạt động kém ngoài dữ liệu đào tạo của chúng.

Một lĩnh vực rất quan tâm đến việc phát hiện chính xác AI là giáo dục. Kể từ khi ra mắt ChatGPT vào tháng 11, các nhà giáo dục đã gióng lên hồi chuông cảnh báo về việc học sinh sử dụng chatbot để viết luận.

"Chúng tôi nhận ra rằng việc xác định văn bản do AI viết là một điểm thảo luận quan trọng giữa các nhà giáo dục và điều quan trọng không kém là nhận ra các giới hạn và tác động của các trình phân loại văn bản do AI tạo ra trong lớp học.”

Theo thông báo, OpenAI trong tương lai sẽ tiếp tục mở rộng phạm vi tiếp cận ngay sau khi công ty nghiên cứu được hướng đi mới.

VIC Crypto tổng hợp

Bài viết liên quan:

Dự án Worldcoin của CEO OpenAI chính thức ra mắt token và được Binance ưu ái list luôn lên sàn