The Potential Harm for Editing Personal Photo with AI

https://www.instagram.com/reel/DOiXTwrjKL-/?igsh=ZnVxdHlmMWg1NzZo

Di tengah maraknya bermunculan AI dari ChatGPT, Gemini, CiCi dll beberapa tahun belakangan, dan semakin massivnya penggunaan AI tersebut, aku masih trust issue dengan penggunaannya secara pribadi seperti recreate selfie menjadi foto dengan tema-tema tertentu. Misal lagi traveling ke Korea dengan nuansa bersalju, foto prewedding buatan, dan yang paling miris, rekayasa foto terbaru dengan orang yang sudah meninggal. Mungkin bagi sebagian orang itu bisa seolah mengobati rasa rindu, tapi bagi sebagian lainnya, itu justru meninggalkan rasa sakit karena sebenarnya mereka tidak bisa bertemu dengan orangnya. Seperti anak-anak Robin William yang sering ditag oleh fans ayahnya yang merecreate foto ayahnya seolah Ia masih hidup. saking seringnya, anak Robin William sampai membuat pernyataan melalui igsnya bahwa ia tidak suka dan sangat terganggu dengan tag-tag-an dari fans-fans tersebut. Menurutnya, orang yang sudah meninggal biarlah  dikenang apa adanya. tidak perlu dibuat rekayasa foto seolah ia masih hidup sampai sekarang dan berfoto dengan orang atau anggota keluarga yang memang masih hidup karena itu merupakan kepalsuan.

di sisi lain, dengan mengupload foto pribadi ke AI, mereka akan menyimpannya di database. kita yang hanya sebagai user tidak bisa mengontrol apa yang akan dilakukan oleh orang-orang yang memiliki akses terhadap file2 tersebut. mungkin mereka mengklaim akan menghapus berbagai file yang masuk dan tidak akan menggunakannya untuk hal yang tidak dibenarkan. but, who knows?

Dan tahu tidak, beberapa tahun sebelum AI ramai seperti saat ini, aku pernah menemukan sebuah acara yang mungkin di Indonesia bisa dikatakan podcast, tapi dengan penontonnya datang secara langsung, bahwa beberapa tahun ke depan wajah-wajah kita yang muncul di sosial media bisa jadi diambil oleh seseorang, lalu diteliti, dikumpulkan dari setiap foto yang diupload dan dibuat perkiraan perubahan wajah beberapa tahun ke depan. Di satu sisi, kumpulan foto itu bisamembantu polisi dalam melacak anak-anak yang diculik ketika kecil dan belum ditemukan selamam beberapa tahun, dengan harapan polisi memiliki gambaran seperti apa wajah anak itu setelah beberapa tahun belum ditemukan, Tapi di sisi lain, perkiraan wajah itu bisa digunakan untuk memanipulasi data diri online semisal facecheck akun perbankan atau dokumen penting lainnya. Itu baru ketika sosial media ramai digunakan. apalagi AI yang saat ini lebih canggih dan bahkan bisa menirukan vibes atau karakteristik atau gaya kita bercerita, berbicara, dll. Bukankah itu akan lebih berbahaya dan menyeramkan resiko dan efeknya?

----------

That is why, until now, I still refuse to edit my personal photos with AI. We don’t know what the future holds. Editing our own photos—or those of our children—makes them vulnerable to potential misuse. We cannot read the minds or the malicious intentions of people who might gain access to such files.

I once read that in the future, collections of stored digital photos could be compiled, arranged, and analyzed to predict how a person’s face will change over the years. And remember facial recognition technology, which we use when verifying bank accounts (like mobile banking)? Imagine if manipulated images of us were misused for banking purposes—not only draining our own accounts, but also being used as a false identity to deceive and steal from others. And we would be unable to deny it, since the photo in question would indeed look like us.

We do not know, and perhaps cannot yet imagine, how severe digital crimes may become in the future. So it is better to be cautious from now on, rather than blindly following trends and currents.

Wallahu a‘lam bish-shawab — And Allah knows best.