Các biên tập viên Wikipedia đã thực hiện các bước để hạn chế cách trí tuệ nhân tạo có thể được sử dụng trên nền tảng này, trong một bản cập nhật chính sách gần đây cấm sử dụng các mô hình ngôn ngữ lớn để viết hoặc viết lại các bài báo.
Hướng dẫn mới phản ánh mối lo ngại ngày càng tăng trong cộng đồng Wikipedia rằng văn bản do AI tạo ra có thể mâu thuẫn với các tiêu chuẩn của nền tảng, đặc biệt là về tính xác minh và nguồn đáng tin cậy.
Bản cập nhật chính sách viết: “Văn bản do các mô hình ngôn ngữ lớn tạo ra thường vi phạm một số chính sách nội dung cốt lõi của Wikipedia. Vì lý do này, việc sử dụng LLM để tạo hoặc viết lại nội dung bài viết bị cấm, ngoại trừ các trường hợp được nêu dưới đây.”
Chính sách này vẫn cho phép sử dụng hạn chế các công cụ AI, bao gồm gợi ý chỉnh sửa cơ bản cho bài viết của chính biên tập viên, với điều kiện hệ thống không đưa ra thông tin mới. Tuy nhiên, các biên tập viên được khuyến cáo xem xét kỹ lưỡng những gợi ý đó.
Mặc dù chính sách mới không đề cập đến hình phạt cho việc sử dụng nội dung do AI tạo ra, nhưng theo hướng dẫn của Wikipedia về việc tiết lộ, việc lặp lại hành vi lạm dụng sẽ tạo thành "hình thức chỉnh sửa gây rối", và có thể dẫn đến việc bị chặn hoặc cấm. Wikipedia vẫn cung cấp cho các biên tập viên con đường để khôi phục tài khoản của họ sau quá trình kháng cáo.
Wikipedia cho biết: “Việc chặn có thể được đảo ngược với sự đồng ý của quản trị viên đã chặn, một sự ghi đè bởi các quản trị viên khác trong trường hợp việc chặn rõ ràng là không chính đáng, hoặc (trong những trường hợp rất hiếm) khi kháng cáo lên Ủy ban Trọng tài.”
Một phát ngôn viên của Wikimedia Foundation nói với Decrypt: "Wikimedia Foundation không xác định các chính sách và nguyên tắc biên tập trên Wikipedia; các biên tập viên tình nguyện làm điều đó. Sức mạnh của Wikipedia đã và sẽ luôn là mô hình lấy con người làm trung tâm, do tình nguyện viên điều hành."
Theo Emily M. Bender, giáo sư ngôn ngữ học tại Đại học Washington, một số cách sử dụng mô hình ngôn ngữ trong các công cụ chỉnh sửa có thể hợp lý, nhưng việc vạch ra một ranh giới rõ ràng giữa chỉnh sửa và tạo văn bản có thể khó khăn.
Bender nói với Decrypt: “Một trong những điều bạn có thể làm với mô hình ngôn ngữ là xây dựng một công cụ kiểm tra chính tả rất tốt, chẳng hạn. Tôi nghĩ việc nói rằng chạy công cụ kiểm tra chính tả trên các bản chỉnh sửa là ổn là hợp lý. Và nếu bạn đang làm ở cấp độ tiếp theo, một công cụ kiểm tra ngữ pháp, điều đó cũng có thể ổn.”
Bender cho biết thách thức xuất hiện khi các hệ thống vượt ra ngoài việc sửa ngữ pháp và bắt đầu thay đổi hoặc tạo nội dung, lưu ý rằng các mô hình ngôn ngữ lớn thiếu loại trách nhiệm giải trình mà những người đóng góp là con người mang lại cho các dự án kiến thức hợp tác.
Bà nói: “Sử dụng các mô hình ngôn ngữ lớn để tạo văn bản tổng hợp, một thuộc tính cơ bản của các hệ thống này là không có trách nhiệm giải trình, không có mối liên hệ với những gì ai đó tin tưởng hoặc ủng hộ. Khi chúng ta nói, chúng ta nói dựa trên những gì chúng ta tin tưởng và những gì chúng ta chịu trách nhiệm, không phải dựa trên một khái niệm khách quan về sự thật. Và điều đó không có ở các mô hình ngôn ngữ lớn.”
Bender cho biết việc sử dụng rộng rãi các bản chỉnh sửa do AI tạo ra cũng có thể ảnh hưởng đến danh tiếng của trang web.
Bà nói: “Nếu mọi người thay vào đó sử dụng các lối tắt và tạo ra thứ trông giống như một bản chỉnh sửa hoặc bài viết Wikipedia rồi đưa lên đó, thì điều đó làm giảm giá trị tổng thể và danh tiếng của trang web.”
Joseph Reagle, phó giáo sư nghiên cứu truyền thông tại Đại học Northeastern, người nghiên cứu văn hóa và quản trị của Wikipedia, cho biết phản ứng của cộng đồng phản ánh những lo ngại lâu nay về độ chính xác và nguồn thông tin.
Reagle nói với Decrypt: “Wikipedia cảnh giác với văn xuôi do AI tạo ra. Họ rất coi trọng việc mô tả chính xác những gì các nguồn đáng tin cậy nêu về một chủ đề. AI đã có những hạn chế nghiêm trọng về mặt đó, chẳng hạn như các tuyên bố 'ảo giác' và các nguồn giả mạo.”
Reagle cho biết các chính sách cốt lõi của Wikipedia cũng định hình cách các biên tập viên nhìn nhận các công cụ AI, lưu ý rằng nhiều mô hình ngôn ngữ lớn đã được đào tạo dựa trên nội dung Wikipedia. Vào tháng 10, Wikimedia Foundation cho biết lượt truy cập của con người vào Wikipedia đã giảm khoảng 8% so với cùng kỳ năm trước khi các công cụ tìm kiếm và chatbot ngày càng cung cấp câu trả lời trực tiếp trên nền tảng của họ, thay vì gửi người dùng đến trang web.
Vào tháng 1, Wikimedia Foundation đã công bố thỏa thuận với các công ty AI, bao gồm Microsoft, Google, Amazon và Meta, cho phép họ sử dụng tài liệu Wikipedia thông qua sản phẩm Enterprise của mình, một dịch vụ thương mại được thiết kế để tái sử dụng nội dung quy mô lớn.
Reagle nói: “Mặc dù việc sử dụng nội dung Wikipedia được cho phép theo giấy phép của Wikipedia, nhưng vẫn có một số sự ác cảm trong số các Wikipedian về các dịch vụ chiếm đoạt nội dung của các cộng đồng và sau đó đặt ra những yêu cầu không mong muốn đối với các cộng đồng đó để đối phó với lượng nội dung AI chất lượng kém hậu quả.”
Mặc dù cấm sử dụng LLM, Wikipedia vẫn cho phép các công cụ AI dịch bài viết từ các phiên bản ngôn ngữ khác sang tiếng Anh, miễn là các biên tập viên xác minh văn bản gốc. Chính sách này cũng cảnh báo các biên tập viên không nên chỉ dựa vào phong cách viết để xác định nội dung do AI tạo ra mà thay vào đó tập trung vào việc liệu tài liệu có tuân thủ các chính sách cốt lõi của Wikipedia và lịch sử chỉnh sửa của người đóng góp hay không.
Bản cập nhật nêu: “Một số biên tập viên có thể có phong cách viết tương tự như LLM. Cần nhiều bằng chứng hơn là chỉ các dấu hiệu về phong cách hoặc ngôn ngữ để biện minh cho các lệnh trừng phạt, và tốt nhất là xem xét sự tuân thủ của văn bản với các chính sách nội dung cốt lõi và các chỉnh sửa gần đây của biên tập viên liên quan.”
Ghi chú của biên tập viên: Bài viết này đã được cập nhật sau khi xuất bản để bổ sung bình luận từ Wikimedia Foundation.