Google menarik fitur pembuatan gambar AI dari versi web Google Earth pada 31 Juli, sekitar sehari setelah peluncurannya, menyusul peringatan dari para peneliti dan jurnalis bahwa alat tersebut bisa disalahgunakan untuk memalsukan citra satelit yang meyakinkan dari peristiwa dunia nyata.
Fitur ini, yang dibangun di atas model Nano Banana milik Google, memungkinkan pengguna memperbesar tampilan ke lokasi mana pun di peta, mengklik "create image", lalu menghasilkan adegan sintetis dari sebuah prompt teks yang ditumpangkan pada koordinat geografis nyata. Hanya dalam sehari sejak peluncuran, para peneliti telah menggunakannya untuk membuat kawah ledakan palsu di Los Angeles, pengunjuk rasa rekaan di depan kampus Google di Mountain View, adegan kebakaran rekayasa yang melahap Pulau Kharg di Iran, banjir di Capitol AS, pengungsi di perbatasan Meksiko, dan sebuah pembangkit nuklir fiktif di Iran.
Peneliti Membunyikan Alarm
Citra palsu tersebut ditandai oleh media teknologi 404 Media dan NPR, bersama peneliti open-source Henk van Ess dan peneliti Bellingcat Jake Godin — para investigator yang mengandalkan Google Earth sebagai referensi tepercaya saat memverifikasi berita terkini dan mendokumentasikan kekejaman. Kekhawatiran mereka adalah bahwa adegan buatan AI yang dirender langsung di atas koordinat peta asli bisa disalahartikan sebagai hasil tangkapan satelit yang otentik, sehingga merusak kredibilitas alat yang banyak digunakan untuk kerja verifikasi sumber terbuka.
Google awalnya membela fitur ini dengan menyebut bahwa setiap gambar yang dihasilkan membawa watermark SynthID yang menandainya sebagai buatan AI pada alat-alat seperti Gemini, dan bahwa sistem tersebut memblokir pembuatan gambar untuk topik-topik berbahaya tertentu. Namun pembelaan itu tidak menghentikan perusahaan untuk membatalkan langkahnya dalam waktu sekitar 24 jam sejak peluncuran.
Mengapa Alat Verifikasi Penting bagi Industri Kripto
Google menyatakan bahwa "kami tahu masyarakat sangat memercayai Google Earth sebagai gambaran dunia yang dapat diandalkan", mengakui bahwa insiden ini merusak kredibilitas inti platform tersebut. Perusahaan mengatakan sedang menarik kembali fitur ini sembari membangun pengaman yang lebih kuat, meski belum memberikan garis waktu untuk menghadirkan kembali versi apa pun dari alat tersebut.
Insiden ini menjadi pengingat mengapa upaya provenansi konten — termasuk pendekatan berbasis blockchain untuk memberi cap waktu dan memverifikasi asal-usul gambar serta video — kian menarik minat seiring alat AI generatif membuat pemalsuan yang meyakinkan semakin mudah dibuat. Sistem yang menambatkan asal-usul dan riwayat penyuntingan sebuah berkas media pada ledger publik yang sulit dimanipulasi kian dipromosikan sebagai pelengkap skema watermarking seperti SynthID, tepatnya karena watermark bisa dihapus atau diabaikan, sementara catatan provenansi on-chain lebih sulit dihapus diam-diam.
Google belum menyatakan apakah akan mengadopsi standar provenansi pihak ketiga atau berbasis blockchain apa pun ke versi masa depan dari alat Earth AI ini, namun langkah mundur yang cepat tersebut menggambarkan betapa cepatnya kepercayaan bisa terkikis begitu sebuah platform pemetaan yang digunakan untuk verifikasi dunia nyata mulai menghasilkan fiksi yang meyakinkan.
