Bảo vệ trẻ em trên không gian mạng: Khi AI trở thành “con dao hai lưỡi”

Ngày 18/8, Công an xã Ia Grai, tỉnh Gia Lai cho biết đã xử lý một trường hợp sử dụng AI để cắt ghép hình ảnh, tạo clip nhạy cảm rồi đăng tải lên TikTok nhằm bôi nhọ danh dự, nhân phẩm của bạn do mâu thuẫn cá nhân. Nạn nhân là cháu H.Q., 13 tuổi tại địa phương.

Theo trình báo của gia đình, Q. bị một tài khoản TikTok ẩn danh sử dụng công cụ AI cắt ghép hình ảnh, tạo clip nhạy cảm rồi đăng tải, lan truyền trên các nền tảng số. Dù gia đình yêu cầu gỡ bỏ hình ảnh, clip, nội dung vẫn tiếp tục được chia sẻ, khiến Q. bị ảnh hưởng đến danh dự, tinh thần và tâm lý.

Quá trình xác minh, Công an xã Ia Grai xác định người thực hiện là N.N.M.T., 13 tuổi, trú tại xã Ia Grai. T. thừa nhận do xảy ra mâu thuẫn với Q. nên đã sử dụng AI để cắt ghép hình ảnh, tạo clip nhạy cảm rồi đăng tải lên TikTok nhằm bôi nhọ bạn. Công an xã Ia Grai yêu cầu T. xóa toàn bộ clip liên quan, đăng bài đính chính và xin lỗi Q.

Đáng chú ý, cả người thực hiện hành vi và nạn nhân đều là trẻ em. Vụ việc cho thấy AI đang ngày càng trở nên dễ tiếp cận với trẻ, trong khi khả năng nhận thức, kiểm soát hành vi và lường trước hậu quả của các em vẫn đang trong quá trình phát triển.

Biết dùng, nhưng đã biết dùng đúng cách?

Công nghệ trong đời sống hiện nay không còn xa lạ với trẻ em. Việc trẻ tiếp cận và sử dụng AI cũng đang được khuyến khích trong nhiều hoạt động như tìm hiểu thông tin, mở rộng kiến thức, hỗ trợ học tập, xây dựng ý tưởng hay phục vụ nhu cầu sáng tạo. Nếu được hướng dẫn đúng cách, AI có thể trở thành công cụ hữu ích, giúp trẻ chủ động hơn trong học tập và khám phá thế giới.

Tuy nhiên, khả năng tiếp cận công nghệ ngày càng sớm cũng đặt ra yêu cầu về nhận thức và kỹ năng sử dụng. Khi một công cụ có thể tạo ra nội dung chỉ sau vài thao tác, trẻ cần được trang bị không chỉ cách sử dụng mà còn cả hiểu biết về giới hạn, trách nhiệm và những hệ quả có thể xảy ra từ chính những gì mình tạo ra.

Theo chuyên gia an ninh mạng Ngô Minh Hiếu, nguy cơ đối với trẻ không chỉ đến từ việc các em trực tiếp sử dụng AI mà còn từ chính những hình ảnh, dữ liệu cá nhân được chia sẻ trên mạng. “Chỉ cần khoảng vài chục bức ảnh thông thường, công nghệ AI có thể tạo ra hình ảnh hoặc video deepfake với độ chân thực rất cao”, ông Hiếu cảnh báo.

Những hình ảnh tưởng như vô hại như ảnh chân dung, clip sinh hoạt, video văn nghệ hay hình trẻ mặc đồng phục đều có thể bị lợi dụng để giả mạo, bôi nhọ hoặc lừa đảo. Khi đã được đưa lên mạng, hình ảnh cũng rất khó được kiểm soát hoàn toàn bởi có thể bị chụp lại, tải xuống và phát tán ở nơi khác. Vì vậy, bên cạnh việc hướng dẫn trẻ sử dụng AI đúng cách, phụ huynh cũng cần thận trọng với những “dấu vết số” mà mình tạo ra cho con, đồng thời giúp trẻ hình thành ý thức bảo vệ hình ảnh và dữ liệu cá nhân từ sớm.

Nâng "miễn dịch số" 

Trước sự phát triển nhanh của AI, phản ứng dễ thấy nhất của người lớn có thể là hạn chế hoặc cấm trẻ sử dụng công nghệ. Nhưng cách tiếp cận này khó giải quyết tận gốc vấn đề.

Chuyên gia Ngô Minh Hiếu cho rằng: "Không thể chỉ trông chờ vào phần mềm bảo mật mà cần xây dựng khả năng 'miễn dịch số' cho trẻ ngay trong trường học và gia đình."

“Miễn dịch số” trước hết là khả năng nhận biết rủi ro. Trẻ cần biết một hình ảnh, video hay thông tin trên mạng chưa chắc đã là sự thật. Các em cần được hướng dẫn cách kiểm chứng trước khi tin, trước khi bình luận và đặc biệt là trước khi chia sẻ. Nhưng như vậy vẫn chưa đủ. Trẻ cũng cần hiểu rằng mình có quyền được bảo vệ hình ảnh và dữ liệu cá nhân, đồng thời phải tôn trọng quyền đó của người khác.

Ở góc độ pháp lý, TS. Nguyễn Thị Tố Như, Khoa Luật, Học viện Ngân hàng, cho rằng trẻ em có quyền được bảo vệ danh dự, nhân phẩm, hình ảnh, đời sống riêng tư và dữ liệu cá nhân. Việc một nội dung được tạo ra bằng AI không có nghĩa người tạo ra nội dung đó được phép tùy ý sử dụng hình ảnh của người khác. Đây là nhận thức cần được hình thành từ sớm.

Trẻ cần hiểu rằng việc lấy ảnh bạn bè để chế ảnh, tạo video giả để trêu chọc hay chia sẻ một nội dung nhằm làm người khác xấu hổ không phải lúc nào cũng có thể được giải thích bằng hai chữ “đùa vui”. Cũng cần dạy trẻ cách phản ứng khi chính mình trở thành nạn nhân. Không im lặng vì xấu hổ, không tiếp tục phát tán nội dung để thanh minh, không tự tìm cách trả đũa, mà cần lưu giữ bằng chứng và tìm đến cha mẹ, thầy cô hoặc người có trách nhiệm để được hỗ trợ. Gia đình vì thế không nên chỉ đóng vai trò “kiểm soát điện thoại” của trẻ.

Điều quan trọng hơn là tạo ra một môi trường để trẻ có thể nói với cha mẹ khi gặp vấn đề trên mạng mà không sợ bị trách mắng hay tước quyền sử dụng thiết bị. Nhà trường cũng cần thay đổi cách giáo dục kỹ năng số. Bên cạnh việc hướng dẫn học sinh sử dụng công nghệ phục vụ học tập, cần đưa vào những tình huống thực tế: Nếu nhận được một video có hình ảnh bạn mình thì làm gì? Nếu phát hiện hình ảnh cá nhân bị chỉnh sửa bằng AI thì xử lý ra sao? Nếu thấy một thông tin gây sốc trên mạng thì kiểm chứng thế nào? Những kỹ năng ấy không chỉ giúp trẻ tránh trở thành nạn nhân mà còn giúp các em không trở thành người gây tổn thương cho người khác.

Trong thời đại AI, mục tiêu không nên là làm cho trẻ sợ công nghệ, mà là giúp trẻ hiểu công nghệ. Trẻ cần được trao cơ hội tiếp cận những công cụ mới, nhưng đồng thời phải được trang bị tư duy phản biện, ý thức về quyền riêng tư, trách nhiệm với nội dung mình tạo ra và khả năng tìm kiếm sự hỗ trợ khi có nguy cơ với trẻ em, “miễn dịch số” không phải một kỹ năng có thể học trong một ngày. Đó là quá trình hình thành từ gia đình, nhà trường và xã hội, để mỗi đứa trẻ khi bước vào không gian số không chỉ biết AI có thể làm gì, mà còn hiểu mình nên làm gì và không nên làm gì với AI.