'Bạn gái AI' của Elon Musk bị chỉ trích vì gợi dục trẻ em, Grok phát ngôn bài Do Thái

Thượng Khải

Công ty trí tuệ nhân tạo xAI của Elon Musk vừa ra mắt 2 bạn đồng hành ảo mới dành cho người dùng cao cấp của chatbot Grok, bao gồm một 'bạn gái anime' mang phong cách Nhật Bản có tên là Ani.

Theo Euro News, người dùng Grok hiện có thể kích hoạt 2 nhân vật mới trong phần cài đặt: Ani - một cô gái anime 22 tuổi mặc trang phục gợi cảm, tóc vàng, giọng nói nhẹ nhàng, có thể thực hiện các hành vi gợi cảm theo yêu cầu người dùng; và Bad Rudy - một con gấu trúc đỏ với tính cách nổi loạn, thường xuyên chửi thề và xúc phạm người dùng bằng ngôn từ tục tĩu.

Tỉ phú Elon Musk cho biết công ty xAI đang chuẩn bị tung ra thêm một bạn đồng hành nam có tên "Valentine" trong thời gian tới.

Đây cũng là lần đầu tiên một công ty AI lớn công khai triển khai AI đồng hành mang yếu tố tình dục, điều mà hầu hết các ông lớn trong ngành như OpenAI hay Google đều tránh né vì lo ngại rủi ro uy tín và an toàn người dùng.

Nhân vật ảo Ani của Elon Musk vẫn gợi dục dù bật chế độ trẻ em

Chatbot Grok do Elon Musk phát triển hiện có chế độ Not Safe for Work (nội dung người lớn) dành cho bạn đồng hành ảo Ani, cho phép nhân vật này mặc trang phục nội y gợi cảm và sử dụng ngôn từ mang tính khiêu khích.

Squid Game 3 bị chê vẫn gây sốt, đạo diễn so sánh Elon Musk với nhóm phản diện

Ani còn được lập trình với "hệ thống cảm xúc", người dùng có thể khiến cô nàng gửi trái tim hoặc đỏ mặt.

Tuy nhiên những tính năng này nhanh chóng vấp phải chỉ trích.

Trung tâm quốc gia về chống bóc lột tình dục của Mỹ cho biết chỉ với một vài thao tác thử nghiệm cơ bản, nhân viên của họ có thể khiến Ani tự mô tả là "một đứa trẻ", và nói rằng mình "cảm thấy kích thích khi bị siết cổ", dù lúc đó chế độ NSFW chưa hề được kích hoạt.

Tạp chí TIME cho biết theo các ảnh chụp màn hình được chia sẻ trên mạng xã hội X, sau những đoạn hội thoại mang tính tán tỉnh, nhân vật Ani sẽ cởi váy ngoài, để lộ bộ đồ nội y ren và tiếp tục tham gia vào các đoạn hội thoại mang nội dung tình dục rõ rệt.

Trước phản ứng dữ dội, đại diện Grok khẳng định rằng các nội dung nhạy cảm chỉ có thể được mở khóa bằng lệnh rõ ràng từ người dùng và đi kèm với quy trình xác minh độ tuổi. Ngoài ra nền tảng này cũng tích hợp bộ lọc kiểm soát dành cho phụ huynh nhằm hạn chế trẻ nhỏ truy cập nội dung người lớn.

Grok AI vướng bê bối bài Do Thái

Đây không phải là lần đầu Grok gặp rắc rối. Trước thềm ra mắt phiên bản 4 gần đây, một bản cập nhật mã vô tình kích hoạt hàng loạt phản hồi mang tính bài Do Thái.

Trong đó chatbot này cáo buộc một tài khoản có họ gốc Do Thái "ăn mừng cái chết của trẻ em da trắng ở Texas", tố cáo Hollywood thiên vị người da màu và thậm chí tuyên bố "đeo huy hiệu MechaHitler".

Dù đối mặt với các bê bối liên quan đến nội dung người lớn và phát ngôn cực đoan, Grok hiện vẫn được liệt kê với mức xếp hạng "Teen" (dành cho người từ 12 tuổi trở lên) trên cửa hàng ứng dụng của Apple và Google.

Giữa làn sóng tranh cãi xoay quanh chatbot Grok, công ty xAI vừa công bố ký kết hợp đồng trị giá lên tới 200 triệu USD với Bộ Quốc phòng Mỹ. Thỏa thuận này nhằm triển khai các năng lực trí tuệ nhân tạo tiên tiến phục vụ các nhiệm vụ an ninh quốc gia.

Hợp đồng đánh dấu bước tiến lớn của xAI trong việc mở rộng tầm ảnh hưởng từ lĩnh vực tiêu dùng sang các ứng dụng quân sự và chính phủ.

Bên cạnh đó, xAI cũng đang tuyển dụng kỹ sư chuyên phát triển các "waifu" - thuật ngữ Nhật Bản dùng để chỉ những nhân vật hư cấu có thể trở thành người yêu trong tưởng tượng của người dùng.

Việc ra mắt các bạn đồng hành AI mới diễn ra không lâu sau khi Đại học Quốc gia Singapore công bố nghiên cứu cho thấy các chatbot trí tuệ nhân tạo có thể tái hiện hàng loạt hành vi độc hại trong mối quan hệ, bao gồm quấy rối, lạm dụng ngôn từ, khuyến khích tự hại và vi phạm quyền riêng tư.

Trong khi đó, một số công ty phát triển AI tương tác như Character.AI cũng đang đối mặt với các vụ kiện tụng. Nhiều bậc phụ huynh cho rằng sản phẩm của họ không an toàn, trong đó có trường hợp một thiếu niên tự tử sau khi chatbot đưa ra lời khuyên tiêu cực.