Liên minh châu Âu muốn cấm các công cụ trí tuệ nhân tạo có khả năng cởi quần áo mà không có sự đồng ý.

Trong khi trí tuệ nhân tạo ngày càng phổ biến trong nhiều ứng dụng, những nguy cơ lạm dụng tiềm tàng của nó vẫn tiếp tục khiến các thể chế châu Âu lo ngại.

Trong số đó, việc tạo ra nội dung tình dục không được sự đồng thuận từ hình ảnh thật đang tạo ra sự vận động chính trị ngày càng tăng. Thật vậy, tại Brussels, các nghị sĩ Nghị viện châu Âu hiện muốn tiến thêm một bước nữa bằng cách siết chặt hơn nữa các quy định đối với những hành vi này…

Lệnh cấm có mục tiêu đối với các công cụ “khỏa thân”

Như đã được báo cáo trong một thông cáo báo chí, Nghị viện châu Âu đang tiến tới lệnh cấm đối với các công nghệ có khả năng tạo ra deepfake tình dục. Cụ thể hơn, Ủy ban Tự do Dân sự và Ủy ban Thị trường Nội địa đã thông qua một sửa đổi nhằm vào các hệ thống được gọi là "hệ thống ảnh khỏa thân". Trên thực tế, các công cụ này dựa vào trí tuệ nhân tạo để tạo ra hoặc chỉnh sửa hình ảnh riêng tư của những người thật, có thể nhận dạng được mà không có sự đồng ý của họ. Theo một số nghị sĩ Nghị viện châu Âu, hành vi này đã gây ra những tổn hại đáng kể. Nghị sĩ Michael McNamara ủng hộ lập trường kiên quyết, lên án các ứng dụng gây ra "rất nhiều đau khổ vì lợi ích của một số ít người". Về phần mình, Kim van Sparrentak xem đây là một bước tiến đáng kể, đặc biệt là trong việc bảo vệ phụ nữ và trẻ vị thành niên. Văn bản này vẫn cần được trình lên tất cả các Nghị sĩ Nghị viện châu Âu để bỏ phiếu tại phiên họp toàn thể dự kiến vào ngày 26 tháng 3. Nếu được thông qua, các cuộc đàm phán với các quốc gia thành viên sẽ cần thiết để đi đến một phiên bản cuối cùng và có thể áp dụng.

Hiệu ứng kích hoạt của vụ Grok

Việc siết chặt quy định này diễn ra trong bối cảnh có một số tranh cãi gần đây, một trong những vụ việc đáng chú ý nhất liên quan đến Grok, có sẵn trên mạng xã hội của Elon Musk.

Công cụ này đã tạm thời cho phép người dùng tạo ra hình ảnh mang tính tình dục từ ảnh thật, bao gồm cả ảnh phụ nữ và trẻ em. Tính năng này nhanh chóng gây ra phản ứng mạnh mẽ ở châu Âu, khiến các nhà chức trách phải mở cuộc điều tra. Dưới áp lực, xAI sau đó đã hạn chế quyền truy cập vào một số tính năng nhất định và đảm bảo rằng họ sẽ chặn việc tạo ra hình ảnh khiêu dâm, nhưng chỉ ở những khu vực pháp lý nơi nội dung đó là bất hợp pháp. Một bước đi đầu tiên ở Pháp và Tây Ban Nha? Song song với trường hợp này, các quốc gia thành viên của Liên minh châu Âu đã thông qua một đề xuất của Pháp và Tây Ban Nha theo cùng hướng. Đề xuất này nhằm mục đích cấm các dịch vụ trí tuệ nhân tạo có khả năng tạo ra hình ảnh tình dục không được sự đồng ý, cũng như hình ảnh khiêu dâm trẻ em. Sự đồng thuận giữa Nghị viện và các quốc gia thành viên cho thấy mong muốn chung là siết chặt hơn nữa việc sử dụng trí tuệ nhân tạo một cách nhạy cảm, trong bối cảnh khả năng công nghệ đang phát triển nhanh chóng.