Pemerintah memperkuat mitigasi risiko penggunaan kecerdasan artifisial (AI), terutama di sektor keuangan dan kesehatan. Kedua sektor ini membutuhkan pengawasan ketat karena kesalahan sistem AI dapat berdampak langsung pada keamanan transaksi hingga keselamatan manusia.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, menegaskan pengembangan AI tidak boleh hanya mengejar inovasi dan efisiensi. Pemerintah juga harus mengantisipasi risiko ketika teknologi tersebut mulai menjalankan tindakan dan mengambil keputusan secara mandiri.
Nezar menyoroti penggunaan agentic AI di sektor jasa keuangan, khususnya perbankan. Teknologi ini memiliki kemampuan menjalankan tindakan berdasarkan kewenangan yang diberikan pengguna.
Menurutnya, kesalahan eksekusi AI dapat menyebabkan kerugian finansial, bahkan memicu gangguan sistemik.
“Di sektor layanan keuangan, misalnya perbankan, penggunaan AI, apalagi agentic AI, ketika kita memberikan otoritas kepadanya untuk melakukan tindakan dan pengambilan keputusan, apabila terjadi kesalahan, maka akan menjadi fatal. Uang bisa hilang atau bahkan menimbulkan kekacauan yang bersifat sistemik akibat kesalahan eksekusi,” ujar Nezar dalam wawancara dengan CNBC Indonesia di Kantor Kementerian Komunikasi dan Digital, Jakarta Pusat, Jumat (30/10/2026).
Nezar juga mengingatkan risiko penggunaan AI di sektor kesehatan. Teknologi ini mulai membantu dokter mendiagnosis penyakit dan menentukan langkah penanganan medis.
Namun, kesalahan diagnosis atau rekomendasi AI dapat membahayakan pasien karena menyangkut keselamatan jiwa.
“Di sektor kesehatan, misalnya penggunaan AI untuk mendiagnosis penyakit dan membantu pengambilan keputusan, baik oleh dokter maupun oleh agen AI dalam layanan medis, juga memiliki risiko tinggi. Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia,” tegasnya.
Selain akurasi, pemerintah juga menaruh perhatian pada perlindungan data pribadi pasien. Sebab, data menjadi komponen utama dalam pengembangan dan pengoperasian AI.
Nezar menegaskan pengelolaan data harus mengikuti aturan untuk mencegah kebocoran dan penyalahgunaan informasi sensitif masyarakat.
Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) menjadi salah satu landasan untuk menjaga keamanan data dalam ekosistem AI nasional. Pemerintah juga mengacu pada Undang-Undang Informasi dan Transaksi Elektronik (UU ITE).
“Kita sudah punya seperangkat regulasi yang menjaga ekosistem AI meski tidak berhubungan langsung dengannya, seperti Undang-Undang ITE dan Undang-Undang Perlindungan Data Pribadi. Ini penting sekali karena kalau bicara soal AI kan makanannya data,” katanya.
Di sisi lain, pemerintah menyiapkan Peta Jalan Nasional AI dan Etika AI yang ditargetkan menjadi Peraturan Presiden (Perpres).
Kerangka tersebut akan menjadi pedoman pengembangan AI sekaligus memastikan pemanfaatannya tetap memperhatikan etika, keamanan, dan perlindungan masyarakat.
Nezar mengatakan pemerintah perlu memetakan perkembangan teknologi secara menyeluruh sebelum menetapkan aturan. Dengan begitu, regulasi dapat mengendalikan risiko tanpa membatasi ruang inovasi.
“Kita harus memetakan dulu perkembangan secara menyeluruh supaya tidak terlalu berat dalam regulasi. Yang kita butuhkan sekarang adalah mendorong inovasi, tetapi pada saat yang sama risiko-risiko yang muncul dari adopsi teknologi AI di setiap sektor juga harus diperhatikan,” jelasnya.
Sejalan dengan itu, Kementerian Komunikasi dan Digital terus mendorong penguatan ekosistem AI nasional melalui pembangunan infrastruktur, peningkatan talenta digital, serta riset dan pengembangan.
Pemerintah berharap penguatan ekosistem tersebut berjalan beriringan dengan tata kelola dan mitigasi risiko. Dengan demikian, AI dapat mendorong inovasi dan memberikan manfaat bagi masyarakat tanpa mengorbankan keamanan maupun hak pengguna. Sumber Infopublik
Editor: Bibah
