Replika do công ty Luka Inc. của Mỹ xây dựng vào năm 2017. Replika là một chatbot đồng hành - một người bạn "ảo" được xây dựng dựa trên trí tuệ nhân tạo (AI), để có thể lắng nghe và trò chuyện cùng người dùng.
Replika là chatbot được ưa chuộng nhất trong thế giới những người bạn "ảo" nói tiếng Anh. Tuy được cung cấp miễn phí, nhưng Replika vẫn mang về khoảng 2 triệu USD doanh thu hằng tháng từ việc bán các tính năng bổ sung như trò chuyện bằng giọng nói.
Mặc dù Replika có thể giúp cải thiện tâm trạng của người dùng, song theo Cơ quan Bảo vệ dữ liệu của Italy, với việc đi sâu vào đời sống người dùng, chatbot này "có thể làm gia tăng rủi ro cho các cá nhân đang trong giai đoạn phát triển hoặc trong trạng thái mong manh về cảm xúc".
Cơ quan trên cũng cho rằng Replika cần thiết lập cơ chế xác minh độ tuổi của người dùng, chẳng hạn cần tạo bộ lọc đối với người dùng là trẻ vị thành niên hoặc thậm chí chặn truy cập nếu người dùng không nói rõ tuổi của họ.
Replika đã vi phạm các quy định về quyền riêng tư tại châu Âu và xử lý dữ liệu cá nhân của người dùng một cách bất hợp pháp, vì nó không thể hoạt động dựa trên một hợp đồng mà trẻ vị thành niên không thể ký kết.
Cơ quan bảo vệ dữ liệu của Italy nêu rõ công ty Luka Inc. sẽ phải thông báo với nhà chức trách nước này về các biện pháp "chấn chỉnh" Replika trong vòng 20 ngày, đồng thời cảnh báo Luka Inc. có thể bị phạt tới 20 triệu euro (khoảng 21,80 triệu USD), hoặc tối đa 4% doanh thu toàn cầu hằng năm liên quan những vấn đề nêu trên.
Hiện Luka Inc. chưa đưa ra bình luận gì sau thông báo của Cơ quan Bảo vệ dữ liệu của Italy.