Một sinh viên Princeton đã tạo ra một ứng dụng thông minh hơn ChatGPT

Phần mềm được tạp ra với mục đích chống đạo văn.
Một sinh viên Princeton đã tạo ra một ứng dụng thông minh hơn ChatGPT
ChatGPT.

Giáo viên đã có một công cụ mới có giá trị chống lại vấn đề tương đối mới về đạo văn AI.

Edward Tian, sinh viên năm cuối 22 tuổi tại Đại học Princeton, đã phát triển một ứng dụng có tên GPTZero, giúp phát hiện xem liệu văn bản này có được viết bởi ChatGPT hay không, một báo cáo của NPR tiết lộ.

ChatGPT đã lan truyền trong những tháng gần đây một phần do lo ngại rằng sinh viên có thể sử dụng nó để tạo ra các bài luận trong nháy mắt, cũng như một loạt các ứng dụng hấp dẫn và liên quan đến đạo đức khác.
Giờ đây, giáo viên có thể sử dụng ứng dụng mới của Tian để chống lại sự gia tăng nội dung do AI tạo ra.

GPTZero: Một công cụ mới được thiết kế để chống đạo văn AI

Tian, sinh viên chuyên ngành khoa học máy tính tại Đại học Princeton, đã dành phần lớn kỳ nghỉ đông để phát triển phần mềm mà anh đặt tên là GPTZero. Theo sinh viên này, phần mềm này có thể giải mã "một cách nhanh chóng và hiệu quả" liệu một bài luận được viết bởi con người hay bởi ChatGPT.

ADDAFFI

Tian, người cũng đang theo học ngành báo chí, cho biết anh ấy có động cơ tạo ra bot của mình để chống lại vấn đề đạo văn AI ngày càng gia tăng — theo đó con người chuyển tác phẩm của bot AI như ChatGPT thành của riêng họ.

Trong một tweet giới thiệu về ChatGPT, Tian đã viết, "có quá nhiều sự cường điệu về chatgpt đang diễn ra. Có phải điều này điều kia được viết bởi AI không? Con người chúng ta xứng đáng được biết!"

Ngay sau khi phát hành GPTZero vào ngày 2 tháng 1, dịch vụ beta miễn phí đã ngừng hoạt động, Tian nói rằng dịch vụ lưu trữ miễn phí của anh ấy không phải là dòng người đến dùng thử phần mềm của anh ấy. Trong vòng một tuần kể từ khi ra mắt, 30.000 người đã dùng thử GPTZero. Học sinh này cũng đã đề cập rằng nhiều giáo viên đã liên hệ với anh ấy để kể cho anh ấy nghe về những trải nghiệm tích cực của họ với GPTZero.

Cách GPTZero đọc các bài luận do AI tạo ra

GPTZero hoạt động vì nó được đào tạo trên các bộ dữ liệu tương tự như ChatGPT, nghĩa là nó có thể đo lường độ phức tạp so sánh — hoặc cách đọc "lúng túng" — của một văn bản. Nếu một văn bản quen thuộcvới bot GPTZero, thì nhiều khả năng đó là do AI tạo ra.

Một cách đọc khác mà GPTZero thực hiện được gọi là "độ bùng nổ". Điều này đề cập đến sự thay đổi về độ dài câu và một số yếu tố khác. Trong khi con người có xu hướng viết với nhiều biến thể, thì các văn bản do AI tạo ra thường đồng nhất hơn.
ADDVIDEO
Tian đã chia sẻ các video anh ấy đã sử dụng GPTZero để phân tích một câu chuyện được đăng trên tờ The New Yorker cùng với một bài báo mà ChatGPT đã cố ý viết. GPTZero đã phân biệt thành công văn bản do AI viết với tác phẩm của New Yorker.

Mặc dù nghiên cứu của Tian có tiềm năng to lớn trong việc giúp giáo viên phát hiện ra những học sinh gian lận, nhưng nó không phải là chắc chắn 100%. Điều đáng chú ý là một nghệ sĩ gần đây đã bị cấm một cách bất công khỏi một subreddit sau khi bị buộc tội sử dụng AI.

ADDAFFI

Tuy nhiên, Tian coi công việc của mình là bước khởi đầu thúc đẩy tăng cường tính minh bạch của AI. Trên Twitter, anh ấy viết rằng "từ lâu, AI đã là một chiếc hộp đen mà chúng ta thực sự không biết điều gì đang diễn ra bên trong", anh ấy nói. "Và với GPTZero, tôi muốn bắt đầu đẩy lùi và chiến đấu chống lại điều đó."

ChatGPT không hoàn toàn xấu. OpenAI, nhà phát triển bot tạo văn bản, gần đây đã công bố cam kết ngăn chặn đạo văn AI và các hành vi sử dụng công nghệ phi đạo đức khác. Một nguồn tin nội bộ gần đây cũng tuyên bố rằng Microsoft đang xem xét sử dụng công nghệ này để tăng cường công cụ tìm kiếm Bing của mình và phá vỡ sự thống trị của công cụ tìm kiếm Google.

Thúy Vy
Theo Interesting engineering
CÙNG CHUYÊN MỤC
ĐỌC THÊM