Anthropic ra quy định lạ, người dùng Claude không được bắt nạt AI

Anthropic vừa cập nhật chính sách sử dụng, yêu cầu người dùng tránh hành vi lạm dụng lặp đi lặp lại đối với trợ lý ảo Claude.

Việc các công ty công nghệ liên tục phát triển những mô hình ngôn ngữ lớn (LLM) ngày càng tiên tiến đang đặt ra nhiều câu hỏi mới về ranh giới giao tiếp giữa con người và máy móc. Gần đây, nhà phát triển Anthropic đã đưa ra những điều chỉnh đáng chú ý trong quy tắc sử dụng đối với trợ lý ảo Claude. Quy định mới này ngay lập tức thu hút sự quan tâm từ cộng đồng công nghệ khi đề cập đến hành vi ứng xử của người dùng với phần mềm.

Quy định mới về hành vi người dùng

Theo thông báo từ Anthropic, chính sách sử dụng cập nhật hướng tới việc ngăn chặn các hành vi lạm dụng hoặc cư xử tàn nhẫn mang tính lặp lại và không có mục đích rõ ràng đối với các mô hình trí tuệ nhân tạo. Phía công ty làm rõ rằng các tương tác thông thường như sự thất vọng, tranh luận, đề cập đến chủ đề sáng tạo tối tăm hay việc thử nghiệm, nghiên cứu mô hình vẫn được chấp nhận.

Trong các trường hợp cực đoan khi chính sách bị vi phạm và cần có biện pháp xử lý cuối cùng, hệ thống của Claude sẽ chủ động kết thúc cuộc trò chuyện. Thay đổi này đã khơi mào nhiều cuộc thảo luận trên các diễn đàn trực tuyến về việc liệu các công ty có nên can thiệp vào hành vi của con người đối với phần mềm máy tính hay không.

Góc nhìn về tính cách hóa trí tuệ nhân tạo

Các chuyên gia trong ngành cho rằng việc sử dụng những từ ngữ mang tính cảm xúc như "tàn nhẫn" để mô tả hành vi người dùng đối với AI mở ra một cuộc tranh luận lớn hơn về ranh giới của công nghệ. Các chatbot hiện đại được thiết kế với khả năng sử dụng ngôn ngữ mang tính con người, bao gồm việc biết xin lỗi hoặc bày tỏ sự quan tâm nhằm tạo sự tin tưởng.

Tuy nhiên, việc nhân cách hóa các mô hình ngôn ngữ lớn cũng đi kèm với những rủi ro nhất định khi người dùng có xu hướng gán ghép cảm xúc và suy nghĩ cho máy móc. Anthropic giải thích rằng việc thiết kế các mô hình có khả năng xử lý những tình huống nặng nề về cảm xúc là cần thiết để đảm bảo độ tin cậy và an toàn, ngay cả khi bản thân AI không thực sự có cảm xúc giống con người.

Bạn đừng quên hãy thường xuyên ghé thăm trang Sforum để được cập nhật những thông tin công nghệ mới nhất nhé.

Nguồn: CNET

CellphoneS hiện đang bán nhiều laptop AI chất lượng với giá hấp dẫn mà bạn có thể tham khảo thêm ở danh sách bên dưới:

Xem thêm:

• Claude Fable 5.1 là gì? Tính năng, sức mạnh và giá API mới nhất
• So sánh Claude Opus 5 vs Claude Sonnet 5: Đâu là lựa chọn phù hợp?