Shanghai, Bharata Online - Seiring dengan pergeseran kecerdasan buatan (AI) dari "alat bantu" menjadi "mitra cerdas" dalam kehidupan sehari-hari, kaum muda di Tiongkok mendesak tata kelola yang jelas, menyoroti bahwa mereka akan hidup paling lama dengan konsekuensinya.
Mereka menekankan bahwa peran manusia harus tetap sentral, hambatan data harus dihilangkan, dan agen cerdas harus dibatasi dengan benar. Harapan ini menjadi landasan menjelang Konferensi AI Dunia 2026 dan Pertemuan Tingkat Tinggi tentang Tata Kelola AI Global di Shanghai, yang dijadwalkan dari Jumat (17/7) hingga Senin (20/7).
Feng Erhu, Asisten Profesor di Sekolah Kecerdasan Buatan di Universitas Shanghai Jiao Tong, menekankan bahwa AI harus tetap terkendali, dengan manusia yang membuat keputusan akhir.
"AI tidak dapat menggantikan manusia dalam membuat keputusan akhir. AI yang terkendali adalah AI yang baik. Tentu saja, dalam proses ini kita perlu mencapai keseimbangan yang lebih baik - menentukan tugas apa yang dapat dilakukan AI dan batasan apa yang dapat dipatuhi AI. Kita perlu membangun sistem tata kelola yang lebih komprehensif yang berorientasi pada model besar dan AI," ujarnya.
Mengenai hasil kerja sama tata kelola yang diharapkan dari konferensi tersebut, Guo Muze, seorang mahasiswa magister tahun 2024 di Sekolah Keunggulan Teknik Nasional di Universitas Tongji, menyatakan harapannya akan kemajuan dalam berbagi dan standardisasi data.
"Saya sangat berharap dapat melihat hasil yang lebih konkret dari konferensi ini mengenai berbagi data dan norma data. AI pada dasarnya membutuhkan masukan data mentah. Negara kita memimpin secara internasional dalam pembangunan infrastruktur dan dapat menyediakan sampel data dan referensi yang sangat baik untuk pembangunan global, setidaknya di bidang kecerdasan buatan dan teknik sipil, sehingga dapat memecah silo data," katanya.
Xu Kehao, seorang mahasiswa di Sekolah Komputasi dan Inovasi Cerdas di Universitas Fudan, menyoroti kekhawatiran tentang keamanan agen.
"Yang paling saya khawatirkan adalah keamanan agen cerdas. Dalam pemrograman, kita sering menggunakan agen untuk memberikan rekomendasi untuk berbagai proses. Terkadang agen tersebut menjalankan beberapa perintah aneh di terminal, yang menyebabkan berbagai kesalahan dan kekeliruan teknik. Pada saat-saat seperti itu, bagaimana kita membatasi agen ini? Seberapa besar wewenang yang harus kita berikan kepadanya? Saya berharap konferensi tahun ini akan menampilkan diskusi dan berbagi pengalaman yang relevan," ungkapnya.
Dengan tema "Kemitraan AI untuk Masa Depan yang Lebih Cerah", Konferensi AI Dunia 2026 akan menampilkan lebih dari 140 forum dan mempertemukan 1.400 tamu dari dalam dan luar negeri. Konferensi ini akan mencakup enam bagian: Konferensi dan Forum, Pameran dan Pertunjukan, Penghargaan dan Kompetisi, Pengalaman Aplikasi, Inkubasi Inovasi, dan Penarik Bakat.
