MEDIAAKU.COM – Kemajuan teknologi kecerdasan buatan atau Artificial Intelligence (AI) menghadirkan berbagai peluang baru di berbagai sektor. Namun, di balik manfaat tersebut, perkembangan AI juga memunculkan tantangan baru, terutama terkait meningkatnya risiko penipuan digital.
Melansir laman Kemkomdigi, Senin (22/6/2026) Wakil Menteri Komunikasi dan Digital, Nezar Patria, menilai penyalahgunaan teknologi AI, khususnya melalui deepfake, menjadi ancaman serius yang perlu diwaspadai. Teknologi ini memungkinkan pelaku kejahatan menciptakan konten palsu yang sangat menyerupai kondisi sebenarnya, sehingga sulit dikenali oleh masyarakat.
Dalam Indonesia Ethical AI Summit yang berlangsung di Jakarta Selatan tersebut, Nezar menjelaskan bahwa saat ini teknologi AI mampu meniru berbagai karakteristik manusia, mulai dari suara hingga tampilan wajah, untuk menghasilkan video manipulatif dengan tingkat kemiripan yang tinggi.
“Suara kita bisa direplikasi, wajah kita dapat ditiru, lalu ditampilkan dalam bentuk video deepfake yang dibuat AI dengan sangat meyakinkan,” ujar Nezar.
Ia mengungkapkan bahwa laju perkembangan AI berlangsung sangat cepat. Setelah memasuki era generative AI, teknologi ini kini bergerak menuju pengembangan agentic AI yang memiliki kemampuan menganalisis informasi dan mengambil keputusan secara lebih mandiri.
Menurut Nezar, inovasi tersebut memang menawarkan berbagai manfaat, tetapi juga membuka celah baru bagi penyalahgunaan teknologi, khususnya dalam kejahatan siber.
Ia menyoroti meningkatnya penggunaan AI oleh pelaku penipuan digital untuk menciptakan realitas sintetik atau synthetic reality, yaitu konten hasil rekayasa yang semakin sulit dibedakan dari konten asli.
“Kurangnya pemahaman masyarakat mengenai perkembangan AI membuat banyak orang mudah tertipu. Karena itu, kasus penipuan digital saat ini meningkat secara signifikan,” katanya.
Untuk mengurangi potensi risiko tersebut, Nezar menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Melalui pendekatan ini, manusia tetap memegang kendali dan memiliki kewenangan dalam setiap proses pengambilan keputusan penting.
Ia menyebut sejumlah pakar mendorong penerapan protokol yang lebih ketat agar sistem AI tidak beroperasi tanpa pengawasan manusia.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Lebih lanjut, Nezar menilai penerapan etika dalam pengembangan AI harus menjadi bagian integral dari seluruh proses inovasi, bukan sekadar komitmen sukarela.
Menurutnya, nilai-nilai seperti transparansi, akuntabilitas, dan keamanan perlu diterapkan sejak tahap perancangan hingga implementasi teknologi melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tegasnya.
Karena itu, ia mengajak para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk bersama-sama memperkuat tata kelola teknologi serta melakukan mitigasi risiko sejak tahap awal pengembangan.
Nezar berharap Indonesia Ethical AI Summit dapat menjadi wadah kolaborasi untuk merumuskan kebijakan yang mampu mendorong pemanfaatan AI secara inovatif, sekaligus memastikan penerapannya tetap aman dan bertanggung jawab.
“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.(*/Stephany)
