Động thái của Microsoft như là một phần trong thông báo về “Sáng kiến tiêu chuẩn AI có trách nhiệm” của họ, nơi công ty muốn trí tuệ nhân tạo có trách nhiệm hơn về cuộc sống. Việc loại bỏ AI nhận dạng cảm xúc nhằm mục đích đảm bảo quyền riêng tư của người dùng.
Công nghệ nhận dạng cảm xúc thường dựa trên phần mềm kiểm tra một loạt phẩm chất, bao gồm nét mặt, giọng nói hoặc lựa chọn từ ngữ để phát hiện trạng thái cảm xúc. Nhiều công ty đã phát triển phần mềm được cho là có thể nhận ra hoặc đo lường cảm xúc để sử dụng trong kinh doanh, giáo dục và dịch vụ khách hàng.
Ví dụ: một số hệ thống cung cấp phân tích trực tiếp về cảm xúc của người gọi trên đường dây dịch vụ khách hàng để các nhân viên hỗ trợ có thể sửa đổi hành vi của họ cho phù hợp. Ngoài ra, một số dịch vụ giúp theo dõi cảm xúc của học sinh trong các cuộc gọi video trong lớp học để giáo viên có thể đo lường hiệu suất, sự quan tâm và mức độ tương tác của họ đối với học sinh.
Những thay đổi về chính sách của Microsoft chủ yếu nhắm vào Azure, nền tảng đám mây của hãng cung cấp phần mềm và các dịch vụ khác cho các doanh nghiệp và tổ chức. AI nhận dạng cảm xúc Azure được công bố lần đầu tiên vào năm 2016 và nhằm mục đích phát hiện những cảm xúc như hạnh phúc, buồn bã, sợ hãi, tức giận và hơn nữa để cung cấp thông tin cho khách hàng.
Ngoài việc ngừng bán công nghệ đọc cảm xúc, Microsoft cũng ngừng việc truy cập không hạn chế vào các công nghệ liên quan đến khuôn mặt. Công ty đã chỉ ra khách hàng sử dụng công nghệ nhận dạng khuôn mặt của họ phải được chấp thuận trước.
Bên cạnh đó, công ty cũng đang đưa ra một số hạn chế đối với chức năng Custom Neural Voice, vốn cho phép khách hàng tạo giọng nói AI dựa trên bản ghi âm của người thật./.