EmitenNews.com - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan adanya risiko langsung bagi masyarakat Indonesia atas penggunaan kecerdasan artifisial atau Artificial Intelligence di sektor keuangan dan kesehatan. Risiko teknologi tersebut menjadi fatal jika sistem diberikan kewenangan mengambil keputusan secara mandiri.

Nezar menjelaskan bahwa kesalahan sistem AI pada sektor keuangan dapat memicu kerugian finansial hingga dampak sistemik. Sementara itu, pada sektor kesehatan, kesalahan diagnosis berbasis AI berpotensi langsung mengancam keselamatan dan nyawa pasien.

"Di sektor layanan keuangan, misalnya perbankan, penggunaan AI, apalagi agentic AI, ketika kita memberikan otoritas kepadanya untuk melakukan tindakan dan pengambilan keputusan, apabila terjadi kesalahan, maka akan menjadi fatal. Uang bisa hilang atau bahkan menimbulkan kekacauan yang bersifat sistemik akibat kesalahan eksekusi," kata Wamenkomdigi seperti dilansir RRI pada Sabtu (31/10).

Nezar menambahkan, pemanfaatan AI untuk membantu proses diagnosis penyakit maupun mendukung keputusan layanan medis oleh dokter harus diantisipasi secara ketat.

"Di sektor kesehatan, misalnya penggunaan AI untuk mendiagnosis penyakit dan membantu pengambilan keputusan, baik oleh dokter maupun oleh agen AI dalam layanan medis, juga memiliki risiko tinggi. Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia," ujar Wamenkomdigi.

Oleh karena itu, Kementerian Komdigi menegaskan pemanfaatan AI di sektor keuangan maupun kesehatan di Indonesia tidak boleh hanya berorientasi pada inovasi dan efisiensi semata. Setiap pengembang dan pengguna teknologi AI diminta memperhitungkan risiko yang muncul dari proses pengambilan keputusan otonom demi menjaga keamanan serta keselamatan masyarakat.(*)