Beijing, Bharata Online - Mahkamah Agung Rakyat Tiongkok meluncurkan pedoman khusus yang menangani sengketa terkait kecerdasan buatan (AI) pada hari Senin (7/9), sebagai upaya untuk mengimbangi perkembangan pesat teknologi tersebut.
Pedoman yang diterbitkan oleh Mahkamah Agung Rakyat atau Supreme People's Court (SPC) itu membahas berbagai sengketa yang muncul, termasuk deepfake dan kloning suara berbasis AI, diskriminasi harga berbasis algoritma, serta informasi palsu yang dihasilkan oleh AI.
Aturan baru ini muncul seiring dengan semakin mudahnya pembuatan tiruan identitas (peniruan) menggunakan AI yang sulit dibedakan dari konten asli. Hanya dengan beberapa foto atau rekaman suara singkat, materi yang cukup untuk menghasilkan replika digital yang meyakinkan dapat diperoleh.
Pedoman yang terdiri dari 5 bagian dan 24 pasal ini secara khusus berfokus pada isu-isu yang menjadi perhatian luas masyarakat, termasuk pertukaran wajah (face-swapping) dan kloning suara oleh AI, pelanggaran akibat halusinasi AI, diskriminasi harga berbasis big data, kendaraan otonom, serta pelatihan model AI.
"Dalam praktiknya, kekhawatiran terbesar adalah terkait deepfake AI. Sebagai contoh, pertukaran wajah menggunakan AI dapat menyalahgunakan kemiripan fisik siapa pun tanpa pandang bulu, sehingga masyarakat umum berpotensi menjadi sasaran deepfake. Kloning suara AI dapat 'mencuri' suara seseorang hanya dengan biaya beberapa yuan, menghasilkan suara sintetis yang terdengar sangat nyata dan meyakinkan. Untuk merespons kekhawatiran publik dan memandu praktik peradilan, pedoman ini menetapkan ketentuan berbeda untuk berbagai jenis tindakan penyalahgunaan dan penggunaan jahat teknologi AI yang melanggar hak-hak kepribadian," ujar Si Yanli, Wakil Kepala Kantor Penelitian Mahkamah Agung Rakyat, dalam konferensi pers di Beijing.
Pedoman tersebut menegaskan bahwa seseorang tidak boleh menggunakan AI untuk membuat atau menyebarluaskan replika digital orang lain yang dapat dikenali tanpa persetujuan mereka, termasuk kloning wajah dan suara. Penggunaan semacam itu merupakan pelanggaran terhadap hak-hak individu, sementara penggunaan wajah atau suara hasil AI untuk menyebarkan klaim palsu atau merusak reputasi seseorang juga dapat berujung pada pertanggungjawaban hukum.
Pedoman ini juga membahas diskriminasi algoritmik terhadap konsumen. Pelaku usaha yang menggunakan algoritma untuk menawarkan harga atau ketentuan transaksi berbeda atas barang atau jasa yang sama tanpa alasan yang wajar dapat dimintai pertanggungjawaban jika praktik tersebut merugikan konsumen.
Tantangan lainnya adalah sistem AI generatif dapat menghasilkan informasi yang salah atau tidak akurat, yang umum dikenal sebagai "halusinasi AI".
Penyedia layanan AI dapat dimintai pertanggungjawaban jika mereka telah diberitahu bahwa sistem mereka menghasilkan konten yang melanggar hak seseorang namun gagal mengambil tindakan tepat waktu. Pengguna juga dapat dimintai pertanggungjawaban atas cara mereka menggunakan AI. Siapa pun yang secara sengaja menggunakan prompt (perintah) atau metode lain untuk memicu sistem AI agar menghasilkan konten yang melanggar hak dan merugikan pihak lain dapat dimintai pertanggungjawaban hukum.
"Mustahil untuk mewajibkan penyedia layanan AI agar memprediksi, meninjau, dan melakukan pencegatan sejak awal—kasus demi kasus—terhadap apakah konten yang dihasilkan akan melanggar hak-hak tertentu. Namun, ketika AI menghasilkan konten yang melanggar hak akibat halusinasi AI atau pemicuan yang disengaja oleh pengguna, maka setelah menerima pemberitahuan dari pemegang hak, penyedia layanan AI generatif seharusnya—dan mampu—mengambil langkah-langkah yang diperlukan untuk melindungi kepentingan pemegang hak tersebut," ujar Zhou Jiahai, Kepala Kantor Penelitian Mahkamah Agung Rakyat Tiongkok.
Pedoman tersebut juga menyediakan mekanisme bagi masyarakat untuk mendapatkan perlindungan cepat ketika konten buatan AI berpotensi menimbulkan kerugian serius yang tidak dapat dipulihkan. Sebagai contoh, seseorang yang wajahnya dimanipulasi secara digital dan digunakan untuk menyebarkan klaim seksual palsu serta mencemarkan nama baik dapat mengajukan permohonan perintah pengadilan (injungsi) jika penundaan tindakan dapat mengakibatkan kerugian yang sulit dipulihkan di kemudian hari.
Seiring dengan kemajuan teknologi AI, pemerintah di seluruh dunia menghadapi tantangan untuk mendorong inovasi sekaligus melindungi masyarakat dari potensi dampak buruk.
Tiongkok telah mengambil serangkaian langkah untuk mengatasi tantangan yang ditimbulkan oleh AI. Pada bulan September 2025, negara tersebut memberlakukan aturan mengenai pelabelan konten yang dihasilkan atau disintesis oleh AI. Pedoman terbaru dari SPC ini menetapkan tata cara penanganan sengketa terkait AI oleh pengadilan, sekaligus melengkapi kerangka hukum Tiongkok yang terus berkembang terkait teknologi AI.
