Các mạng xã hội và nền tảng trực tuyến hiện đang tăng cường các biện pháp kiểm tra và thanh lọc sản phẩm thông tin cũng như hình ảnh do trí tuệ nhân tạo (AI) tạo ra. Mục đích chính là bảo vệ người dùng khỏi những lừa đảo trực tuyến ngày càng tinh vi. Các đại diện của nhà mạng và hãng công nghệ đều đồng tình rằng đã đến lúc cần phải phân biệt rõ ràng giữa giá trị của thông tin xác thực do con người tạo ra và những sản phẩm giả lập từ AI.
Sự phát triển nhanh chóng của AI trong thời gian gần đây đã dẫn đến nguy cơ nhầm lẫn giữa thực và giả, vi phạm bản quyền sáng tạo, và tạo ra môi trường nguy hiểm cho người dùng. Lực lượng an ninh mạng châu Âu đã chỉ ra rằng các sản phẩm thông tin do AI tạo ra đang lan truyền rộng rãi trên mạng, gây ra sự nhầm lẫn, đặc biệt là trong thế hệ trẻ.
Nhiều dạng thông tin do AI tạo ra, như làm bài tập, soạn dữ liệu số, tổng hợp thông tin theo cú pháp và lệnh tìm kiếm, đang được sử dụng rộng rãi. Điều này biến công cụ AI thành những công cụ thông minh hơn. Tuy nhiên, hệ lụy của việc này là người dùng có thể tin tưởng tuyệt đối vào tính chân thật của dữ liệu và sử dụng một cách máy móc, dẫn đến nhầm lẫn và sai lệch.
Một số nhà nghiên cứu đã thử nghiệm sử dụng AI trong việc chẩn đoán bệnh tật, sử dụng phác đồ y tế, và chọn mua thuốc. Họ thu được kết quả tổng hợp thông tin đáng tin cậy. Tuy nhiên, nếu không có sự tham vấn và kiểm chứng lại từ người có chuyên môn, sẽ có nhiều người nhầm lẫn và gặp nguy hiểm.
Các trường hợp khác đã thử nghiệm so sánh dữ liệu thông tin chính trị, lịch sử xã hội với công cụ AI và phát hiện ra sai sót nghiêm trọng khi dữ liệu được lắp ghép lại tùy tiện. Nhiều thông tin do AI đưa ra khi có yêu cầu đã sai lệch so với thực tế nhưng trình bày khéo léo và trôi chảy, dễ đánh lừa người dùng.
Điều này dễ dẫn đến nghi ngờ của người dùng AI khi tiếp cận vấn đề thời sự, xã hội và kiểm chứng lịch sử. Tất cả cho thấy dữ liệu tổng hợp là nguồn khai thác chính của AI, nhưng không phải dữ liệu nào cũng chính xác. Nếu có công cụ AI được nhiều nhóm người dùng cố tình đưa dữ liệu sai lệch, tương tác nhiều lần, sẽ tích hợp thông tin không chính xác và gây hệ lụy.
Các tổ chức nghiên cứu và ứng dụng đã kiến nghị mạng xã hội, môi trường chia sẻ thông tin, và công nghệ phải kiểm tra sản phẩm từ AI. Trường học, viện nghiên cứu, thư viện số, và nhà xuất bản đã vào cuộc ngăn chặn nhầm lẫn học thuật, đánh lừa thông tin tác quyền, giả mạo tác phẩm và sáng chế.
Trên không gian mạng, chiêu trò giả lập thông tin, câu view của người dùng có chủ đích, sử dụng AI tạo dữ liệu giả lập không chính xác đang là đối tượng phải thanh lọc. Cảnh báo của cơ quan an ninh mạng về nguy cơ người dùng bị lừa đảo, tấn công mạng, gây nhầm lẫn thông tin và hiểu sai sự việc khi sử dụng dữ liệu và sản phẩm do AI tạo ra.
Cơ quan chức năng đã cảnh báo người dùng mạng xã hội thận trọng và tỉnh táo trước dữ liệu mơ hồ, nhất là có dấu hiệu do công cụ AI soạn. Hầu hết dữ liệu từ AI đều có tính chất hài hước, hình ảnh gần gũi, đẹp mắt, dễ thu hút người dùng quan tâm và tác động thông tin, cảm xúc người dùng.
Thanh lọc thông tin tạo ra từ AI và bảo đảm giúp người dùng tránh bị nguy hại, nhầm lẫn, và lừa đảo trực tuyến là cần thiết và cần sự hợp tác của đa số người dùng. Điều quan trọng là phải có biện pháp kiểm soát và quản lý chặt chẽ để hạn chế những rủi ro liên quan đến việc sử dụng AI.
