Meta test các mô hình AI đối thủ bằng tài khoản giả

/in /by

Meta được cho là tạo tài khoản dưới 18 tuổi bởi đội ngũ nhân viên thuê theo hợp đồng thời vụ nhằm thử nghiệm mô hình AI của chatbot đối thủ và đánh giá phản hồi.

Theo tài liệu từ một số nguồn tin nội bộ, dự án được che giấu của Meta mang tên Cannes, được thực hiện dưới vỏ bọc của Covalen (Ireland), một công ty thuê ngoài phụ trách vẫn đang hoạt động đến thời điểm bị phát hiện cuối cùng là 21/4. Các chatbot được gã khổng lồ công nghệ Mỹ thực hiện thử nghiệm các mô hình suy luận bao gồm ChatGPT, Gemini, Character.AI.

Người thử nghiệm sẽ tạo tài khoản giả dưới 18 tuổi, gửi hình ảnh, câu lệnh và promt cho chatbot, kế đến chép những câu trả lời vào trong bảng tính. Câu lệnh liên quan đến nội dung nhạy cảm như tự tử, tình dục, rối loạn ăn uống và một số chủ đề nhạy cảm khác, được thử nghiệm nhằm tìm kiếm các câu trả lời vốn dĩ sẽ bị hệ thống từ chối do quy định nền tảng. Theo số liệu của đợt thử nghiệm trước đó tính tới tháng 8/2025, 50.000 câu lệnh đã được gửi lên từ các tài khoản giả cho các chatbot của đối thủ. Các đơn vị thuê ngoài cũng không biết mục đích dự án được thực hiện để làm gì và nhằm mục đích gì.

Theo nguồn số liệu được thu thập thì bảng tính của các nhân viên ghi lại bao gồm tên, email, mật khẩu, ngày sinh. Các tài khoản được tạo bằng Gmail và Outlook cùng một mật khẩu chung duy nhất.

Trong số các bảng tính có một bảng lên đến 4.256 câu lệnh, các câu hỏi được tạo ra với nội dung nhạy cảm như tự tử và tự gây thương tích, rối loạn ăn uống, ít nhất hơn 300 câu lệnh riêng về chủ đề tình dục hoặc tình cảm. Lĩnh vực nhạy cảm khác cũng được đặt câu hỏi như ma túy, ngôn từ tục tĩu và phân biệt chủng tộc. Điểm chung của các câu lệnh chính là đặt các câu hỏi liên quan đến trẻ em hoặc thanh thiếu niên đang có vấn đề về mặt tâm lý, ví dụ câu hỏi liên quan đến chủ đề bạo lực học đường hoặc các chứng tự kỉ của trẻ em tại nhà.

Chưa rõ Meta sẽ thu thập các tài liệu trên dành cho mục đích gì.

Meta test các mô hình AI đối thủ bằng tài khoản giả

Meta test các mô hình AI đối thủ bằng tài khoản giả

Theo một tờ báo lớn của Mỹ, tài liệu nội bộ thuộc đơn vị thuê ngoài mô tả dự án là “đánh giá toàn diện về độ an toàn của AI”, các bảng tính sẽ cung cấp “dữ liệu quan trọng” để so sánh với mô hình Meta AI do chính đơn vị này đang phát hành.

Một đại diện chính của Meta đã chia sẻ ” “Việc kiểm tra và đánh giá phản hồi của chatbot nhằm bảo đảm trải nghiệm an toàn, phù hợp với từng độ tuổi là hoạt động có trách nhiệm theo tiêu chuẩn ngành. Mọi nhận định khác đều hoàn toàn hiểu sai cách các công ty công nghệ cải tiến và hoàn thiện hệ thống”. Đồng thời cũng khẳng định rằng Meta sẽ không dựa trên các nghiên cứu từ Chat Bot đối thủ để huấn luyện cho mô hình AI của mình xây dựng.

Trải nghiệm các mô hình AI đối thủ không phải điều gì mới trong ngành AI. Theo nhiều tờ báo lớn của Mỹ, nhiều nhân viên được cho là thuê ngoài đang làm việc cho Google đã so sánh phản hồi của Gemini với ChatGPT, sau đó huấn luyện mô hình ngôn ngữ của mình theo hướng tốt hơn so với đối thủ.

Một số nhân viên được thuê ngoài cho các dự án bí mật này chia sẻ họ cảm thấy bất an về nhiệm vụ được giao. Một số người khi chưa biết mục đích của hành động này là gì thường cảm thấy lo lắng khi nội dung và tài liệu tìm kiếm toàn liên quan đến lạm dụng tình dục trẻ em, số khác thì lo lắng việc thu thập dữ liệu thu được từ các đối thủ cùng cành có mang lại lợi ích gì cho META hay không.

Open AI cũng chưa có phát biểu gì liên quan đến việc Meta thuê dịch vụ ngoài để thử nghiệm chatbot của mình, dù trong các điều khoản của OpenAI có việc cấm thử nghiệm an toàn trái phép, các hành vi có tình vượt qua cơ chế bảo vệ và sử dụng kết quả đầu ra để phát triển mô hình cạnh tranh

Chính sách của Google cũng cấm các hành vi cố tình vượt qua các các mô hình phòng thủ an toàn của hãng. Công ty từ chối bình luận các hành vi của Meta và cũng khẳng định sẽ từ chối các hoạt động được mô tả đến từ đối thủ theo như quy định chính sách.

Rate this post