V7 Labs đã tạo ra một phần mềm phát triển trên nền tảng trí thông minh nhân tạo (AI), hoạt động như một tiện ích mở rộng của Google Chrome có thể phát hiện ảnh hồ sơ được tạo bằng AI - giống như ảnh minh họa - với độ chính xác được tuyên bố là 99,28%.
V7 Labs là một công ty phần mềm chuyên thiết kế các sản phẩm tự động hóa các tác vụ trực quan. Công ty chia sẻ, thế giới đang thay đổi từng ngày, việc tương tác trực tuyến đã trở thành phố biến, nhiều công ty đưa ra quyết định công việc hoàn toàn dựa vào hình ảnh. Các nhà nghiên cứu đang nỗ lực hướng tới phát triển công nghệ deep-learning trở nên mạnh mẽ hơn để bất kỳ doanh nghiệp nào cũng có thể ứng dụng AI hiện đại từ một nền tảng duy nhất.
Video thử nghiệm phát hiện ảnh hồ sơ giả mạo
Alberto Rizzoli, một trong những người sáng lập V7 Labs, mô tả về phần mềm mới được thiết kế cho biết, chương trình sinh ra để giúp hạn chế thông tin sai lệch trực tuyến. Anh ấy đã trình diễn tính năng này trong một video được xuất bản trên Loom.
>> Tải về Google Chrome Extension
Rizzoli nói: “Ngày nay có rất nhiều nội dung gây hiểu lầm trên mạng xã hội và một trong những tình trạng xấu đó là hồ sơ giả mạo. “Chúng tôi đã tạo một tiện ích mở rộng của trình duyệt Chrome có thể phát hiện xem ảnh hồ sơ là người thật hay chân dung được tạo bởi AI”.
Anh ấy chỉ ra cách nó hoạt động bằng cách kiểm tra ảnh hồ sơ của một người đã thêm anh ấy trên LinkedIn gần đây. Chỉ bằng một cú nhấp chuột, tiện ích mở rộng đã có thể nhanh chóng xác định rằng cô ấy là người giả mạo. Trong ví dụ cụ thể đó, có một số dấu hiệu cho thấy bức ảnh không có thật, chẳng hạn như một chiếc bông tai được đặt lộn xộn và nhìn vào mắt sẽ thấy đồng tử không bình thường. Tuy nhiên, những điều này chỉ thực sự được nhận thấy khi kiểm tra kỹ và ảnh hồ sơ giả vẫn có thể gây hiểu nhầm khá nhiều.
Rizzoli cho thấy một ví dụ thứ hai trông thật hơn nhiều, hầu như không có sai sót đáng chú ý ngay lập tức, nhưng Plugin này có thể nhận ra đó là ảnh giả với độ tin cậy gần 100%.
Đồng thời, Rizzoli giải thích rằng nhiều bức ảnh trong số này được tạo trên trang web This Person doesn’t Exist, hoạt động trên một bộ tạo khuôn mặt AI được cung cấp bởi NVIDIA StyleGAN, một mạng nơ-ron được phát triển vào năm 2018. Trang web này được thiết lập bởi một kỹ sư phần mềm từ San Francisco và rất đơn giản để sử dụng. Khi tải trang web, nó chỉ hiển thị một khuôn mặt mới do AI tạo. Mỗi khi trang được refresh, một khuôn mặt mới sẽ xuất hiện, được tạo từ đầu từ một vector 512 chiều.
Hai bức ảnh trên được tạo ra bằng quy trình này.
Có một số đặc điểm mà trình tạo khuôn mặt AI thể hiện, chẳng hạn như một người nào đó được lấy nét rất chính giữa khung ảnh và các đặc điểm trên khuôn mặt. Điều đó có nghĩa là, phần mềm của Rizzoli vẫn có thể phân biệt giữa người thật trong một bức ảnh trông rất giống những bức ảnh được tạo bằng chương trình AI và ảnh giả.
Chống lại thông tin sai lệch nguy hiểm
Một vài ví dụ đầu tiên của Rizzoli có vẻ tương đối vô hại, nhưng anh ấy nói rằng phần mềm của anh ấy có thể chống lại tin tức giả mạo và thông tin sai lệch tốt hơn.
“Đó là thứ đang phát triển khá nhiều, đặc biệt là trên Amazon, nơi có hàng chục tác giả sách,” anh nói. “Điều này ngày càng phổ biến với chi phí rất rẻ để tạo ra một nhân vật giả. Có lẽ nó là một phần của một kế hoạch lớn hơn”.
Tất nhiên chúng cũng tồn tại trên mạng xã hội, và Rizzoli chỉ ra một ví dụ về một người dùng Twitter với khuôn mặt do AI tạo ra đang lan truyền thông tin sai lệch về cuộc chiến ở Ukraine.
“Tiện ích mở rộng này của Chrome sẽ giúp chính quyền (và người dân) phát hiện và báo cáo các hồ sơ lan truyền giả mạo."
Theo Petapixel