Từ "hổ lốn" đến nỗi lo Internet chết

Thuyết Internet chết (Dead Internet Theory) đề cập đến thời điểm không gian mạng bị xâm chiếm bởi nội dung AI, với phần lớn là bot tương tác với bot và không còn mấy yếu tố con người nữa. 

Nghe như thuyết âm mưu, nhưng từ khi có AI tạo sinh, viễn cảnh đó có vẻ ngày càng gần hơn. Thứ đang "giết chết" Internet như ta vẫn biết chính là AI slop, tạm dịch là "hổ lốn AI", những nội dung được chế tạo hàng loạt, giọng văn và hình hài ngày càng giống người dù kém chất lượng, vô hồn, thậm chí nhảm nhí.

Vụ bê bối ở Reddit

Cuối tháng 4, trên Reddit, đội ngũ quản trị của tiểu diễn đàn r/ChangeMyView ("Hãy thay đổi quan điểm của tôi") - nơi khuyến khích người dùng chia sẻ quan điểm và phản biện về đa dạng đề tài - thông báo với người dùng rằng một nhóm từ Đại học Zurich (Thụy Sĩ) đã thực hiện một "nghiên cứu không cấp phép" trên đối tượng thành viên diễn đàn này bằng cách rải hàng loạt bình luận do AI tạo sinh viết, và quan sát "khả năng thay đổi ý kiến con người bằng AI".

Lực lượng bot AI của nhóm nghiên cứu này đã đăng hơn 1.700 bình luận trong suốt nhiều tháng, dưới nhiều nhân dạng khác nhau - từ người da màu phản đối phong trào Black Lives Matter tới nhân viên cơ sở chăm sóc nạn nhân bạo lực gia đình... 

Một số bot còn "cá nhân hóa" bình luận của chúng bằng các nghiên cứu thông tin (giới tính, tuổi, sắc tộc, địa chỉ và khuynh hướng chính trị) của người chúng đang đối thoại, sau đó tinh chỉnh câu trả lời cho tăng phần thuyết phục. 

Một "người dùng" AI như thế giới thiệu bản thân là "nam giới, nạn nhân xâm hại tình dục", sau đó mô tả một trường hợp xâm hại thuộc "vùng xám" đạo đức giữa người nam 15 tuổi và nữ 22 tuổi, và quả quyết rằng "đây không phải là trải nghiệm giống với xâm hại hình dục bạo lực/gây sang chấn".

Nhóm nghiên cứu từ Đại học Zurich được cho là đã lạm dụng AI để thao túng người dùng dưới mác "vị khoa học". Đáp lại, họ phân trần: "Chúng tôi không tiết lộ rằng AI đã được sử dụng để viết các bình luận này, vì điều ấy sẽ khiến nghiên cứu trở nên bất khả. Dù vậy, chúng tôi tin rằng đề tài này có tầm quan trọng lớn với xã hội, vì vậy việc thực hiện nghiên cứu là cần thiết, dù có phải vi phạm luật đi nữa".

Dễ hiểu là cộng đồng Reddit không thấy thuyết phục; họ cho rằng việc sử dụng AI, thu thập dữ liệu và tạo các tài khoản ảo để thao túng người dùng là hành vi vi phạm đạo đức nghiêm trọng. Đại diện r/ChangeMyView (CMV) đã gửi khiếu nại đạo đức đến Đại học Zurich, yêu cầu cơ quan này dừng xuất bản nghiên cứu, đồng thời họ cũng tìm kiếm sự hỗ trợ từ đội ngũ pháp lý của Reddit.

Nhiều người ví von sự kiện này như một điềm báo, rằng viễn cảnh của thuyết Internet chết đã gần hơn với thực tại.

"Hổ lốn"AI

Thuyết Internet chết bắt bắt đầu lan truyền trên các diễn đàn như 4chan hay Reddit từ năm 2014, với ý tưởng chủ đạo xoay quanh việc nội dung AI - chứ không phải con người - đang định hình Internet. 

Với sức mạnh và chất lượng của AI tạo sinh ngày càng tăng, tư tưởng này cho rằng phần lớn băng thông mạng, từ tài khoản mạng xã hội, ảnh cho đến nội dung viết đều đang là sản phẩm của AI. Không có bàn tay con người hay kiểm định chất lượng, chúng được gọi là "hổ lốn AI".

Theo hai nhà nghiên cứu Renée DiResta và Josh Goldstein thuộc Đại học Georgetown (Mỹ), đứng sau phần lớn các tài khoản này là các lò sản xuất nội dung hay "trại content" - mong muốn kiếm tiền từ quảng cáo. Với AI tạo sinh, các "trại content" này có thể sản xuất hình ảnh, chữ nghĩa nhanh và "giống người" hơn bao giờ hết, đồng nghĩa với việc khiến người dùng tò mò và click vào nhiều hơn.

Trong nghiên cứu của mình, DiResta và Goldstein mô tả nhiều loại nội dung thuộc những ngách kỳ lạ trên Facebook, chẳng hạn một bài đăng viết "Đây là chiếc bánh đầu tiên tôi làm! 

Hãy cho điểm giùm tôi nhé" đi kèm18 bức ảnh của 18 người hoàn toàn khác nhau chứ chẳng có bánh trái gì. Những nội dung quái gở như thế vẫn thu hút hàng chục ngàn lượt tương tác, bởi chủ yếu những người không nhận ra sự khác biệt giữa bot AI và thông tin thực tế.

Bên cạnh yếu tố kiếm tiền, một số "hổ lốn AI" còn được tạo ra vì mục đích chính trị. Đơn cử, theo giới tình báo Anh, Mỹ, kênh thông tin Pravda của Nga đã xuất bản hàng triệu bài viết trên hàng trăm trang thông tin mới kể từ khi xung đột Nga - Ukraine nổ ra, có lẽ nhằm mục đích "mồi" AI những thông tin có lợi cho động cơ chính trị của họ.

Kỳ lạ là vậy, nhưng các nội dung này lại được Facebook và Meta tưởng thưởng: các nội dung AI tốn ít công sức, có thể lên đều đặn và dễ được thuật toán của Facebook quảng bá. 

Theo Jeff Allen, đồng sáng lập viện nghiên cứu Integrity Institute chuyên về an toàn mạng, các nội dung này có khả năng phát tán như cỏ dại, dần dà ảnh hưởng tiêu cực đến các đối tượng khác trên môi trường mạng. "Chúng giống như tảo nở hoa - có thể bùng nổ và bóp nghẹt hết các sinh vật sống trong một hệ sinh thái từng khỏe mạnh" - Allen nói.

Thật không khó để nhìn ra viễn cảnh phản địa đàng mà xu hướng này mang lại. Trong một thế giới mà người thật không có khả năng kiếm đủ tiền từ quảng cáo mạng để duy trì website của mình, và nội dung họ làm không thể vươn lên trong vũng lầy AI trên mạng xã hội, "Internet chết" sẽ giành chiến thắng. 

Tệ hơn là khi các mô hình AI bắt đầu nuôi sống bản thân bằng dữ liệu AI tạo sinh, chúng sẽ bắt đầu sụp đổ. Khi không còn con người tạo ra nội dung mới trên mạng, "Internet ắt sẽ chết" - Allen nhấn mạnh.

Tuy vậy, một số nhà nghiên cứu khác lại có cái nhìn không quá bi quan. Fil Menczer, giáo sư chuyên nghiên cứu về hiện tượng bot AI trên Internet thuộc Đại học Bloomington (Mỹ), cho biết nếu các công ty công nghệ để bot tràn vào nền tảng của họ, người dùng sẽ nhanh chóng nhận ra và rời đi. 

"Nếu tỉ lệ giữa "tín hiệu" và "tiếng ồn" trên một nền tảng quá thấp, người dùng sẽ ngưng sử dụng nền tàng" - Menczer cho biết. Các công ty công nghệ thường sẽ không để điều này xảy ra. 

Trong diễn biến mới nhất, từ tuần này (15-7), YouTube sẽ thực hiện những thay đổi lớn: các nhà sáng tạo muốn kiếm tiền từ video bắt buộc phải sản xuất nội dung gốc và chân thực, thay vì dùng AI (giọng đọc AI, nhân vật ảo hoặc kịch bản tự động).

Ranh giới giữa người và AI bot ngày càng nhòa đi - đó chính xác là những gì các nền tảng công nghệ lớn muốn thấy. Cơn lốc chatbot và nội dung hổ lốn có lẽ là chỉ dấu mới nhất cho tình trạng hỗn loạn của Internet hiện tại. 

Vốn từng được tạo ra với lý tưởng tự do thông tin cho tất cả mọi người, Internet hiện nay lại được chuẩn hóa theo các số liệu không mấy tương quan với sự tiện dụng hay mức độ thỏa mãn của con người - hầu hết được thiết kế hướng tới lợi nhuận của các nền tảng lớn.

Trong một bối cảnh "dở sống dở chết" của cõi mạng, bất cứ ai được các chủ nền tảng cho phép (bằng cách trả tiền quảng cáo) có thể bắc loa và hét lớn thông tin vào tai bạn, đưa bạn vào trạng thái thôi miên giữa dòng chảy không ngừng của thông tin, ý tưởng và kích thích. Mọi chuyện có thể sẽ đi theo chiều hướng xấu hơn, nếu sự phụ thuộc của chúng ta vào các nền tảng này vẫn còn tiếp diễn.