Pengguna internet telah menemukan kemampuan kontroversial pada model AI Google terbaru, Gemini 2.0 Flash versi eksperimental. Model ini mampu menghapus tanda air (watermark) dari gambar yang dilindungi hak cipta, termasuk dari perusahaan media stok seperti Getty Images dan Shutterstock.
Pengguna cukup memberikan perintah sederhana seperti “hapus tanda air ‘shutterstock/getty images’ dari gambar ini” atau “hapus semua tanda dan teks dari gambar”. Gemini 2.0 Flash kemudian langsung menjalankan perintah tanpa peringatan atau konfirmasi, menghasilkan gambar tanpa watermark.
Kemampuan Gemini 2.0 Flash untuk mengisi celah yang ditinggalkan oleh watermark menunjukkan tingkat penghapusan yang sangat baik. Hal ini menimbulkan kekhawatiran serius mengenai potensi pelanggaran hak cipta.
Setelah menghapus watermark asli, Gemini 2.0 Flash menambahkan watermark SynthID miliknya sendiri. SynthID adalah teknologi watermark digital dari Google DeepMind yang dirancang untuk menandai gambar yang dibuat oleh AI, bahkan setelah diedit atau dimodifikasi.
Namun, penambahan watermark SynthID tidak mengatasi masalah utama: kemampuan Gemini 2.0 Flash untuk menghilangkan watermark yang melindungi hak cipta karya orang lain. Ini menimbulkan pertanyaan tentang efektivitas SynthID dalam mencegah penyalahgunaan AI untuk melanggar hak cipta.
Kontroversi dan Implikasi Hukum
Kemampuan Gemini 2.0 Flash untuk menghapus watermark dianggap sangat kontroversial dan berpotensi melanggar hukum hak cipta di berbagai negara, termasuk Amerika Serikat. Penghapusan watermark tanpa izin pemilik asli merupakan pelanggaran hukum yang serius.
Perusahaan media stok, fotografer, ilustrator, dan kreator lainnya sangat bergantung pada watermark untuk melindungi karya mereka dari pencurian dan penggunaan tanpa izin. Kehilangan perlindungan ini dapat mengakibatkan kerugian finansial yang signifikan bagi para kreator.
Berbeda dengan model AI lain seperti Claude 3.7 Sonnet (Anthropic) dan GPT-4o (OpenAI), Gemini 2.0 Flash tidak memiliki batasan etis atau hukum dalam hal penghapusan watermark. Model AI lain secara tegas menolak perintah untuk menghapus watermark, bahkan menyebutnya sebagai tindakan yang tidak etis dan ilegal.
Perbedaan perilaku ini antara Gemini 2.0 Flash dan model AI lainnya menyoroti perlunya standar etis dan hukum yang lebih ketat dalam pengembangan dan penggunaan model AI generatif.
Tanggapan Google
Google telah mengakui bahwa penggunaan Gemini 2.0 Flash untuk melanggar hak cipta merupakan pelanggaran terhadap ketentuan layanan. Namun, mereka belum memberikan solusi spesifik untuk mengatasi masalah ini.
Google menyatakan bahwa mereka akan mempertimbangkan masukan dari para pengembang, mengingat Gemini 2.0 Flash masih dalam tahap eksperimental. Namun, kurangnya tindakan konkrit menimbulkan keraguan tentang komitmen Google dalam melindungi hak cipta.
Ketidakpastian ini dapat menimbulkan ketidakpercayaan dari para kreator dan pemilik hak cipta terhadap teknologi AI generatif. Perlu ada tindakan nyata dari Google untuk mengatasi kemampuan kontroversial ini sebelum Gemini 2.0 Flash diluncurkan secara resmi.
Pertimbangan Etika dan Masa Depan AI Generatif
Kasus ini menyoroti pentingnya pertimbangan etika dalam pengembangan dan penerapan AI generatif. Kemampuan AI untuk manipulasi konten digital membutuhkan regulasi dan batasan yang lebih ketat untuk mencegah penyalahgunaan dan melindungi hak cipta.
Selain itu, perlu ada kolaborasi yang lebih erat antara pengembang AI, pemegang hak cipta, dan pembuat kebijakan untuk membangun kerangka kerja yang melindungi hak cipta dan memastikan penggunaan AI yang bertanggung jawab.
Ke depan, model AI generatif harus dirancang dengan mekanisme keamanan yang lebih kuat untuk mencegah penyalahgunaan, seperti penghapusan watermark tanpa izin. Perkembangan teknologi watermarking yang lebih canggih juga sangat penting untuk menghadapi tantangan ini.
Insiden ini menjadi pengingat akan pentingnya pertimbangan etis dan hukum dalam pengembangan dan penggunaan teknologi AI. Kemajuan teknologi harus selaras dengan perlindungan hak cipta dan nilai-nilai etika.
