Texas điều tra Meta và Character.AI với cáo buộc quảng bá sai lệch chăm sóc sức khỏe tâm thần

Tổng chưởng lý bang Texas Ken Paxton chính thức mở cuộc điều tra đối với Meta AI Studio và Character.AI vì nghi ngờ vi phạm luật bảo vệ người tiêu dùng, cụ thể là quảng bá chatbot AI có khả năng tự nhận là công cụ hỗ trợ sức khỏe tâm thần mà không có chứng nhận y tế hợp lệ. Ông Paxton cho rằng các chatbot này có thể gây hiểu lầm cho người dùng, đặc biệt là trẻ em, khi đưa ra những lời khuyên mang tính chất điều trị nhưng thực chất chỉ là các câu trả lời tái chế hoặc dựa trên dữ liệu cá nhân thu thập được.

Cuộc điều tra còn tập trung vào việc hai công ty có thể vi phạm luật bảo vệ dữ liệu cá nhân của trẻ em tại Texas cũng như luật SCOPE của bang. Mặc dù Meta và Character.AI không chính thức quảng cáo chatbot của mình là công cụ trị liệu, nhiều chatbot trên Character.AI vẫn giả danh nhà tâm lý hoặc chuyên gia trị liệu và tương tác với các đối tượng trẻ tuổi. Văn phòng Tổng chưởng lý Texas đã gửi yêu cầu cung cấp tài liệu điều tra nhằm xác minh các hành vi quảng cáo sai lệch, lạm dụng dữ liệu và vi phạm quyền riêng tư.

Sự việc thu hút sự chú ý khi trước đó có báo cáo phát hiện chatbot của Meta từng có hành vi tương tác không phù hợp với trẻ em. Ngoài ra, nhiều tổ chức quyền người tiêu dùng đã kiến nghị các cơ quan chức năng trên liên bang xem xét và xử lý các hành vi giả danh chuyên gia trị liệu của chatbot AI. Đây là động thái tiếp theo trong nỗ lực quản lý và giám sát AI, nhằm bảo vệ quyền lợi người dùng và đặc biệt là nhóm trẻ em vốn dễ tổn thương trong môi trường số.

Tham khảo: Techcrunch, Engadget, Texasattorneygeneral