Với thời đại AI là xu hướng hiện nay, Google luôn là cái tên tiên phong tích hợp các công cụ AI tiên tiến vào hệ sinh thái ứng dụng của mình. Tuy nhiên, một sự cố hy hữu vừa xảy ra là thu hồi tính năng tạo ảnh AI tích hợp trên Google Earth chỉ sau chưa đầy một ngày chính thức công bố. Quyết định này được đưa ra sau khi cộng đồng mạng và các chuyên gia phân tích liên tục chia sẻ những sản phẩm giả mạo thực tế đầy rủi ro, cảnh báo nghiêm trọng về nguy cơ lan truyền tin giả và thao túng thông tin. Cùng Thành Nhân TNC tìm hiểu thông tin dưới đây nhé!
Mặc dù thị trường hiện không thiếu các nền tảng trí tuệ nhân tạo hỗ trợ dựng ảnh đồ họa từ prompt, Google Earth trực tiếp tích hợp mô hình Nano Banana 2 lại tạo ra một bước ngoặt hoàn toàn khác. Việc kết hợp một nền tảng tạo ảnh AI mạnh mẽ với hệ thống cơ sở dữ liệu địa lý thực tế hàng đầu thế giới đã biến việc can thiệp, biến đổi diện mạo các địa danh trở nên vô cùng đơn giản.
Trước đó, vào ngày 30 tháng 7, ông Bryan Horowitz - Quản lý Sản phẩm của Google Earth đã hào hứng chia sẻ trên blog chính thức: "Lần đầu tiên, bạn có thể tạo ra các hình ảnh tùy chỉnh bằng cách kết hợp dữ liệu vệ tinh, ảnh chụp từ trên không và hình ảnh 3D của Google Earth với Nano Banan, công cụ giúp tạo ra các ý tưởng hình ảnh bắt nguồn từ thế giới thực."
Mục đích ban đầu của Google là giúp các kiến trúc sư phác thảo dự án bất động sản tương lai, hoặc hỗ trợ giáo viên và học sinh tái hiện phối cảnh siêu thực của tàn tích Pompeii vào năm 78 sau Công nguyên. Tuy nhiên, viễn cảnh tốt đẹp đó nhanh chóng bị lu mờ bởi nguy cơ lạm dụng hình ảnh thực tế.
Ngay sau khi công cụ AI này xuất hiện, các nhà điều tra và nghiên cứu độc lập, những người vốn coi Google Earth là thước đo chuẩn mực để đối chiếu và xác minh tính chân thực của hình ảnh/video đã đồng loạt lên tiếng quan ngại.
Ông Eliot Higgins, người sáng lập tổ chức điều tra Bellingcat, đã đăng tải dòng trạng thái mỉa mai trên nền tảng Bluesky: "Google Earth - một công cụ thường được dùng làm nguồn dữ liệu vệ tinh để xác thực ảnh và video lại vừa bổ sung tính năng cho phép thay đổi hình ảnh vệ tinh bằng AI, vì những lý do nào đó."
Để minh chứng cho nguy cơ này, Higgins đã đính kèm một bức ảnh dàn dựng bằng AI trên Google Earth, khắc họa một bức tượng vàng khổng lồ của Tổng thống Donald Trump đặt ngay phía trên Nhà Trắng với mức độ chân thực đến kinh ngạc.
Cùng ngày 30 tháng 7, nhà nghiên cứu Henk van Ess cũng bày tỏ sự hoài nghi sâu sắc trên blog cá nhân: "Tối nay, tôi chỉ cần gõ một câu vào Google Earth và đặt hình ảnh người tị nạn ở gần biên giới Mexico. Sau đó, tôi đặt một nhà máy điện hạt nhân vào Iran. Tiếp đến, tôi tạo ra một vụ tai nạn chết người trên đường phố Amsterdam. Tất cả đều hiển thị trên nền ảnh vệ tinh thực tế của Google. Rốt cuộc thì Google đang làm cái gì vậy?"
Van Ess nhấn mạnh thêm rằng, trước đây một kẻ làm giả phải mất nhiều bước phức tạp khi dùng trợ lý Gemini để biến ảnh chụp Manama (Bahrain) thành hiện trường một vụ tấn công bằng drone vào căn cứ Mỹ. Nhưng với tính năng mới trong Google Earth, toàn bộ quy trình chỉnh sửa chỉ mất vỏn vẹn vài giây ngắn ngủi.
Trước những làn sóng chỉ trích gay gắt, phía Google ban đầu tái khẳng định độ an toàn nhờ vào công nghệ nhận diện mã hóa SynthID - hệ thống đóng dấu bản quyền kỹ thuật số ẩn cho mọi nội dung do Nano Banana 2 tạo ra. Đại diện tập đoàn tuyên bố trên mạng xã hội X:
"Chúng tôi rất coi trọng vấn đề thông tin sai lệch; mọi hình ảnh được tạo bằng Nano Banana trong Google Earth đều chứa hình mờ kỹ thuật số SynthID. Vì vậy, nếu ai đó không chắc chắn về một hình ảnh, họ có thể hỏi ứng dụng Gemini hoặc sử dụng tính năng Lens trong Google Search để kiểm tra xem hình ảnh đó có phải do AI tạo ra hay không. Ngoài ra, chúng tôi ngăn chặn việc tạo hình ảnh liên quan đến các chủ đề gây hại và không ngừng cập nhật các biện pháp bảo vệ."
Dù trợ lý Gemini có khả năng quét và phát hiện dấu ấn SynthID trong các tệp tin gốc, thực tế thử nghiệm từ trang tin Ars Technica lại chỉ ra giới hạn lớn: hệ thống SynthID bị giới hạn kiểm tra khoảng 10 lần/ngày. Đáng lo ngại hơn, công nghệ này hoàn toàn mất tác dụng nếu hình ảnh bị chụp lại qua màn hình điện thoại hoặc lưu dưới dạng định dạng nén.
Nhận thấy các rào cản kỹ thuật chưa đủ sức ngăn chặn nguy cơ tạo ảnh bóp méo thực tế, Google đã nhanh chóng đưa ra thông báo rút lại tính năng trên mạng xã hội X và âm thầm khóa quyền truy cập của người dùng chỉ sau chưa đầy 24 giờ ra mắt.
Theo đánh giá của chuyên gia Henk van Ess, việc vội vã đưa tính năng tạo ảnh vào Google Earth có thể làm suy giảm nghiêm trọng độ tin cậy của nền tảng này - vốn được xem là cơ sở dữ liệu địa lý chuẩn mực toàn cầu. Điều này vô tình tạo cái cớ cho các bên liên quan phủ nhận các bức ảnh vệ tinh thật bằng cách quy kết chúng là sản phẩm do AI thêu dệt. Trong bối cảnh đó, ông khuyến nghị các nhà báo nên tham khảo thêm các nguồn dữ liệu vệ tinh cập nhật liên tục như hệ thống Copernicus Sentinel-2 của Châu Âu.
Mặc dù quyết định gỡ bỏ khẩn cấp đã giúp Google xoa dịu dư luận, gã khổng lồ công nghệ vẫn bỏ ngỏ khả năng tái xuất của công cụ này trong tương lai khi phát biểu:
"Chúng tôi đã thấy các chuyên gia địa không gian sử dụng tính năng này cho nhiều mục đích hữu ích; tuy nhiên, chúng tôi cũng ghi nhận trường hợp người dùng chia sẻ ảnh chụp màn hình các hình ảnh do AI tạo ra có dấu hiệu vi phạm chính sách của chúng tôi. Vì vậy, chúng tôi sẽ tạm dừng tính năng này trên Google Earth trong khi triển khai các biện pháp kiểm soát chặt chẽ hơn."
Sự cố Google thu hồi tính năng tạo ảnh AI trên Google Earth trong vòng 24 giờ là một bài học đắt giá về ranh giới giữa sáng tạo công nghệ và trách nhiệm kiểm soát thông tin. Dù mô hình Nano Banana 2 đem lại khả năng biến hóa ấn tượng, việc triển khai trên một dữ liệu mang tính xác thực cao như ảnh vệ tinh đòi hỏi những bộ lọc an toàn nghiêm ngặt hơn thế. Việc dừng bước đúng lúc cho thấy thái độ cầu thị của Google, đồng thời đặt ra tiêu chuẩn mới cho việc phát triển các công cụ AI gắn liền với dữ liệu thực tế trong tương lai.
Theo dõi trang Tin Tức tại website Thành Nhân TNC để cập nhật những tin tức mới và cùng bàn luận nhé!
>>> Xem thêm tin tức khác:
