(TiinTeen) – Nếu thường xuyên trò chuyện với AI, hẳn không ít người từng bực bội khi chatbot trả lời sai hoặc không làm đúng yêu cầu. Tuy nhiên, một số hành vi xúc phạm AI lặp đi lặp lại có thể khiến chatbot chủ động kết thúc cuộc trò chuyện, theo chính sách mới được Anthropic áp dụng với Claude.
Khi AI chủ động dừng cuộc trò chuyện
Anthropic, công ty phát triển chatbot Claude, đã bổ sung quy định liên quan đến những trường hợp người dùng có hành vi xúc phạm AI kéo dài và không cần thiết. Theo The Guardian, trong các trường hợp nghiêm trọng, Claude có thể kết thúc cuộc trò chuyện và ngừng phản hồi người dùng.
Claude ngày càng thu hút người dùng và trở thành một trong những đối thủ đáng chú ý của ChatGPT. (Ảnh minh họa: Claude)
Tuy nhiên, Anthropic chưa công bố danh sách cụ thể những hành vi nào sẽ bị xem là vượt quá giới hạn. Quy định này cũng không có nghĩa người dùng phải luôn giữ thái độ lịch sự hoặc không được thể hiện sự khó chịu khi trò chuyện với AI.
Theo PCMag, những phản ứng bực bội thông thường, việc chỉ trích câu trả lời, nghiên cứu hay sáng tạo nội dung có chủ đề đen tối không nằm trong phạm vi mà quy định hướng đến. Điểm đáng chú ý là hành vi mang tính cực đoan, lặp lại trong thời gian dài và không có mục đích rõ ràng.
Hiện Anthropic chưa giải thích đầy đủ lý do đưa ra thay đổi này. Dù vậy, động thái trên mở ra cuộc thảo luận về cách các công ty công nghệ thiết lập giới hạn cho hành vi tương tác với AI.
Bị AI “bơ” có đồng nghĩa với khóa tài khoản?
Theo Mothership, việc Claude dừng phản hồi trong một cuộc trò chuyện không đồng nghĩa người dùng chắc chắn bị khóa tài khoản. Trong trường hợp này, AI có thể chỉ ngừng tương tác ở cuộc trò chuyện đang diễn ra, thay vì chặn người dùng hoàn toàn. Những hình thức xử lý khác sẽ phụ thuộc vào chính sách sử dụng của nền tảng.
Quy định nhanh chóng thu hút nhiều ý kiến trái chiều. Một số người cho rằng việc đặt ra giới hạn có thể khuyến khích người dùng giao tiếp có chừng mực hơn. Ngược lại, nhiều ý kiến lo ngại cách tiếp cận này dễ khiến mọi người nhìn nhận AI như một thực thể có cảm xúc, cần được đối xử giống con người.
Dario Amodei, Giám đốc điều hành (CEO) của Anthropic, công ty phát triển Claude. (Ảnh: AP Photo)
Trên thực tế, việc chatbot ngừng phản hồi không chứng minh rằng AI cảm thấy tổn thương hay tức giận. Đây là hành vi được thiết kế để thực hiện theo chính sách của nhà phát triển, chứ không phải bằng chứng cho thấy AI có cảm xúc như con người.
Theo thông tin được công bố, quy định mới của Anthropic dự kiến có hiệu lực từ ngày 12/11/2026. Điều này cũng khiến nhiều người tò mò: Liệu trong tương lai, việc trò chuyện với AI có cần tuân theo những quy tắc ứng xử rõ ràng hơn?
