OpenAI ra mắt công cụ nhận diện nội dung lạm dụng tình dục trẻ em
Theo tin từ TechFlow, ngày 17 tháng 11, theo The Verge đưa tin, OpenAI đã phát hành một công cụ phân loại nhằm nhận diện hình ảnh lạm dụng tình dục trẻ em, có khả năng đánh dấu nội dung do AI tạo ra và được cung cấp miễn phí cho các tổ chức đã được thẩm định.
OpenAI cho biết, công cụ này giúp giảm 48% số lượng hình ảnh bị đánh dấu, đồng thời tăng gấp đôi xác suất rằng các hình ảnh được đánh dấu thực sự chứa nội dung lạm dụng. Công cụ được thiết kế để nhận diện hình ảnh độc hại do nhiều loại công cụ khác nhau tạo ra, bao gồm cả mô hình mã nguồn mở và ứng dụng deepfake bóc lột.
Bên cạnh đó, người dùng cố gắng sử dụng ChatGPT để tạo ra loại nội dung này sẽ nhận được cảnh báo; lần vi phạm đầu tiên sẽ dẫn đến việc đình chỉ sử dụng dịch vụ trong 24 giờ, cùng với việc cung cấp các nguồn hỗ trợ liên quan.





