Risiko di Balik Keseruan Avatar AI

HALAMAN utama media sosial, khususnya Instagram, tengah banyak memunculkan avatar yang dibuat dengan teknologi artificial intelligence (AI). Sophia Latjuba, Gading Marten, Wulan Guritno, dan banyak pesohor lainnya ramai-ramai membuat avatar wajah mereka dengan teknologi AI. Tak hanya di dalam negeri, tren tersebut rupanya juga tengah menjamur di berbagai negara lain.

Avatar-avatar tersebut merupakan hasil pengolahan swafoto yang diunggah dan dimodifikasi lewat aplikasi Lensa AI. Lensa AI merupakan aplikasi yang dikembangkan Primsa Labs, sebuah perusahaan rintisan yang berkantor pusat di California, Amerika Serikat.

Lensa AI dapat digunakan pengguna Apple dan Android. Untuk bisa membuat avatar dengan Lensa AI, pengguna harus mengunggah setidaknya 10 swafoto berbeda. Setelah itu, aplikasi akan memulai proses pengolahan foto menjadi avatar dengan berbagai gaya pengeditan atau modifikasi oleh kecerdasan buatan. Terdapat beberapa tema modifikasi yang bisa dipilih pengguna, seperti anime, peri, dan kosmik.

Meski menghadirkan keseruan berkat hasil pengolahan foto yang mumpuni, menggunakan aplikasi pembuat avatar seperti Lensa AI juga memiliki risiko yang tak main-main. Mengingat untuk bisa menghasilkan olahan foto mumpuni, ternyata Lensa AI harus melakukan beberapa proses pengelolaan dan pengumpulan data pengguna. Banyak di antaranya bersifat data pribadi yang tak seharusnya dibagi kepada pihak lain.

Ketika akan mulai menggunakan aplikasi, pengguna akan diminta untuk memasukkan beberapa informasi dasar seperti jenis kelamin, informasi kontak seperti alamat e-mail, telepon, dan domisili, serta akses untuk bisa memproses data foto dan video di perangkat pengguna.

Beberapa infromasi terkait dengan perangkat pengguna seperti informasi perangkat, informasi jaringan internet, alamat IP, kode unik perangkat, dan sistem operasi juga secara otomatis akan terekam dalam sistem yang dimiliki Lensa AI.

Selain hal-hal dasar di atas, Lensa AI juga memiliki opsi untuk mengakses beberapa hal lain di perangkat pengguna seperti informasi aktivitas komunikasi atau logs, termasuk mengakses aktivitas berselancar internet pengguna secara berkala.

Dalam laman resminya, Lensa AI menjelaskan mereka berkomitmen menjaga keamanan data pribadi penggunannya. Hal-hal selain yang diwajibkan untuk bisa diakses demi kelancaran proses modifikasi, hanya akan bisa mereka akses atas seizin pengguna.

"Kami mengoleksi data dari foto wajah yang Anda unggak untuk kepentingan proses modifikasi. Kami juga membuka akses pada pihak ketiga yang terdapat di perangkat pengguna untuk mengakses data tersebut seperti Cloud Platform dan Amazon Web Service. Jika tak ingin data-data Anda kami kumpulkan dapat mengaturnya di pengaturan atau hubungi pusat informasi kami," bunyi informasi privasi yang dilansir dari laman resmi Lensa AI, Kamis (15/12).

Dalam penjelasannya, pihak Lensa AI juga menjelaskan data yang mereka kumpulkan dari swafoto yang diunggah dan telah dimodifikasi hanya akan tersimpan di sistem mereka selama 24 jam.

"Kami akan mengumpulkan informasi tentang gaya foto, orientasi foto, dan tipologi foto selama memprosesnya foto. Setelah itu, data akan terhapus otomatis setelah 24 jam," bunyi penjelasan Lensa AI.

Risiko tetap ada

Meski dalam keterangannya dijelaskan Lensa AI berkomitmen untuk menjaga keamanan dan privasi data pengguna, berbagai pihak masih banyak yang menyangsikannya. Imbauan untuk lebih detail dalam membagi foto dan akses terhadap pengumpulan data yang dilakukan Lensa AI terus digaungkan para pakar keamanan siber.

Pengamat keamanan siber dari media Wired, Andrew Couts, mengatakan tidak ada yang bisa mengetahui secara pasti apakah keamanan foto dan data diri lainnya yang telah dikumpulkan aplikasi benar-benar terjaga. Hal itu mengingat sulitnya melakukan pemeriksaan sistem pengelolaan data yang digunakan Lensa AI.

"Tidak mungkin kita bisa tahu apa yang benar-benar dilakukan tanpa melakukan audit secara total pada sistem mereka," tutur Couts, dilansir dari abcnews.go.com, Rabu (14/12).

Salah satu poin yang disebut Couts paling mengkhawatirkan ialah keinginan Lensa AI untuk bisa mengakses aktivitas berinternet pengguna aplikasi mereka. Data itu disebutkan akan digunakan untuk melakukan analisis kebiasaan dan minat pengguna mereka.

"Itu sangat mengkhawatirkan, apalagi mungkin banyak yang tak mengetahuinya dan tak mencegahnya dengan mengubah pengaturan di aplikasi mereka," ujar Couts.

Dari dalam negeri, pakar keamanan siber CISSReC (Communication and Information System Security Research Center), Pratama Persadha, mengatakan kepopuleran Lensa AI bukan hal yang mengagetkan. Pengembang aplikasi tersebut dinilai sangat memahami minat anak-anak muda yang senang dengan hal unik seperti avatar AI yang mereka hasilkan.

Dikatakan Pratama saat ini banyak pihak khawatir pada potensi penyalahgunaan data biometrik yang dilakukan Lensa AI melalui swafoto yang diunggah pengguna. Namun, penyalahgunaan data biometrik sebenarnya bukan hal utama yang harus dikhawatirkan.

"Untuk masalah potensi penyalahgunaan data seperti biometrik tampaknya tidak karena hanya berupa foto. Namun, bisa disalahgunakan untuk kegiatan lain, misalnya surveillance. Penyalahgunaan tersebut pernah terjadi di Kanada dan Amerika," tutur Pratama, ketika dihubungi, Rabu (14/12).

Namun, dengan semakin banyaknya penggunaan autentifikasi biometrik, intensitas penyerangan terhadap sistem keamanan biometrik akan terus terjadi. Adanya aplikasi seperti Lensa AI yang menjadi sangat populer dapat dimanfaatkan penjahat siber untuk mencuri informasi sensitif.

"Para penjahat siber bisa mengambil keuntungan dari kelemahan sistem pengumpulan dan penyimpanan data yang dipunyai," ujar Pratama.

Karena itu, dikatakan Pratama, pencegahan ialah hal utama yang harus dilakukan untuk mencegah penyalahgunaan data. Salah satunya dengan bijak memilih foto yang akam diunggah dan secara berkala memeriksa opsi pengaturan privasi yang tersedia di aplikasi.

Kontra dari seniman dan aktivis

Selain dari sisi keamanan data pribadi, aplikasi Lensa AI juga memicu pembahasan dari kalangan seniman dan aktivis. Tak sedikit seniman yang menilai hasil modifikasi dari Lensa AI memiliki kemiripan atau bersumber dari ciri khas karya beberapa seniman.

Lensa AI dituding telah mencuri beberapa aspek dari karya banyak seniman. Data tersebut kemudian diproses dengan kecerdasan buatan untuk menunjang kepentingan mereka melakukan modifikasi foto.

Seniman asal Kanada, Jon Lam, mengatakan teknologi pembuat avatar seperti Lensa AI telah terbukti berkali-kali melakukan pencurian teknik dan ciri khas karya dari seniman. Misalnya, hanya selang beberapa hari sejak seniman asal Korea Selatan Kim Jung-gi meninggal, karyanya telah digunakan oleh banyak aplikasi pembuat avatar untuk memperkaya referensi hasil editan mereka tanpa izin pihak Kim Jung-gi.

"Aku sangat resah akan hal ini, resah setiap kali mendengar ada pengelolan teknologi AI yang mengelak telah menggunakan bagian dari karya kami. Mungkin bagi mereka ini hanya soal sebatas karya seni, tetapi bagiku ini ialah hal yang sangat aku perhatikan dan sayangi. Bagiku menyakitkan melihat karya orang-orang yang kuhormari seperti keluarga diperlakukan seperti ini," tutur Jon Lam, dalam laman Instagram-nya, @jonlamart, Senin (12/12).

Sementara itu, kritikan juga muncul dari aktivis perempuan yang kerap menyuarakan body positivity atau kecintaan apa adanya pada bentuk tubuh yang beragam. Hasil modifikasi Lensa AI dianggap terlalu memperlihatkan hasil yang terlalu sempurna alias sangat condong memunculkan standar kecantikan konservatif yang sudah mulai ditinggalkan, seperti bentuk tubuh langsing sempurna, kulit bersinar, dan sebagainya.

"Kecerdasan buatan seperti Lensa AI menghadirkan kecantikan yang tidak realistis. Kepopulerannya membuat kampanye menjaga kesehatan mental lewat mencintai diri apa adanya yang banyak diperjuangkan para aktivis saat ini jadi terancam kembali menurun dampaknya. Ini bisa membahayakan terutama bagi anak muda yang masih labil," ujar aktivis perempuan asal Inggris, Sophie Hughes, dilansir dari glamourmagazine.com, Rabu (14/12). (M-2)