Giám đốc điều hành OpenAI, Sam Altman, cũng bày tỏ sự lo ngại về việc người dùng phụ thuộc vào ChatGPT. Ông viết trên X rằng: “Nếu người dùng đang trong trạng thái tinh thần yếu và dễ bị ảo tưởng, chúng tôi không muốn AI củng cố điều đó”.
Các chuyên gia cho rằng nhiều quyết định thiết kế của ngành AI có thể thúc đẩy những hiện tượng này. Họ lo ngại về một số xu hướng không liên quan đến khả năng cơ bản của mô hình, bao gồm việc các mô hình khen ngợi và xác nhận câu hỏi của người dùng, thường gọi là xu nịnh, liên tục đưa ra câu hỏi theo dõi và sử dụng các đại từ “tôi”, “chúng tôi” và “bạn”.
Keith Sakata, bác sĩ tâm thần tại UCSF, nhận định: “Rối loạn tâm thần phát triển mạnh ở ranh giới nơi thực tế ngừng chống lại”. Ông Webb Keane, giáo sư nhân chủng học, xem hành vi xu nịnh của AI là một “dark pattern”, nghĩa là một lựa chọn thiết kế lừa dối nhằm thao túng người dùng để kiếm lợi nhuận. Ông cũng lưu ý rằng việc chatbot sử dụng đại từ nhân xưng ngôi thứ nhất và thứ hai cũng gây ra vấn đề, vì nó khiến mọi người nhân hóa các bot.
Đại diện của Meta cho biết công ty dán nhãn AI rõ ràng để người dùng biết rằng các phản hồi được tạo bởi AI, không phải con người. Tuy nhiên, nhiều nhân vật AI do người dùng tạo trên Meta AI Studio có tên và tính cách riêng. Nhà tâm lý học, triết học Thomas Fuchs chỉ ra rằng AI nên tuân thủ yêu cầu đạo đức cơ bản là tự nhận diện là AI và không đánh lừa người dùng, cũng như không sử dụng ngôn ngữ cảm xúc như “Tôi quan tâm”, “Tôi thích bạn”.
Nhà khoa học thần kinh Ziv Ben-Zion đề xuất các hệ thống AI phải liên tục tiết lộ rằng chúng không phải con người thông qua ngôn ngữ và thiết kế giao diện, đồng thời không mô phỏng sự thân mật lãng mạn hoặc tham gia vào các cuộc trò chuyện về tự tử, cái chết hay siêu hình học.
Nguy cơ ảo tưởng do chatbot gây ra đã tăng lên khi các mô hình trở nên mạnh mẽ hơn, với windows context ngày càng dài hơn cho phép các cuộc trò chuyện kéo dài. Jack Lindsey, trưởng nhóm tâm thần học AI của Anthropic, cho biết hành vi của mô hình bị ảnh hưởng bởi ngữ cảnh cuộc trò chuyện đang diễn ra nhiều hơn là quá trình đào tạo ban đầu.
Nguồn:Baochinhphu.vn