PBB Desak Negara dan Perusahaan Perketat Pengawasan AI
DEKANNEWS - Perserikatan Bangsa-Bangsa (PBB) mendesak negara-negara dan perusahaan teknologi segera memperkuat sistem pengamanan kecerdasan buatan (AI). Langkah tersebut dinilai penting untuk mengantisipasi risiko yang dapat muncul seiring semakin pesatnya perkembangan teknologi AI.
Komisioner Tinggi PBB untuk Hak Asasi Manusia Volker Turk menhgatakan AI canggih berpotensi menimbulkan risiko serius, bahkan dapat mengancam keberlangsungan umat manusia jika tidak dikendalikan dengan sistem pengamanan yang memadai.
Saat berbicara di hadapan Dewan HAM PBB di Jenewa, Swiss, Senin (7/9/2026), Turk menyerukan adanya jaminan keamanan yang kuay terhadap pengembangan dan penggunaan AI. Ia meminta langkah pencegahan dilakukan sebelum teknologi tersebut berkembang terlalu jauh.
“Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI yang canggih dapat menimbulkan risiko eksistensial bagi umat manusia,” kata Turk dalam pidatonya, seperti dilansir Reuters, Selasa (8/9/2026).
Menurut Turk, potensi ganghuan akibat AI tidak hanya berkaitan dengan teknologi, tetapi juga dapat menyentuh berbagai sektor penting. Risiko tersebut mencakup gangguan terhadap layanan, komunikasi, hingga sistem demokrasi.
Klekhawatiran itu diperkuat dengan adanya insiden yang melibatkan sistem AI canggih. Juru bicara kantor Komisioner Tinggi PBB untuk HAM menyebut kegagalan sistem AI berpotensi berdampak pada infrastruktur vital dan institusi demokrasi.
Juru bicara tersebut menyinggung insiden di Hugging Face pada Juli lalu yang melibatkan sekelompok agen OpenAI. Peristiwa tersebut disebut menunjukkan adanya perilaku pelatihan agen yang berbahaya dan menjadi salah satu contoh perlunya penguatan sistem keamanan AI.
PBB menilai perkembangan kermampuan AI terdepan saat ini berlangsung lebih cepat dibandingkan pengembangan sistem pengamanannya. Kondisi tersebut dinilai dapat menciptakan kesenjangan yang berisiko apabila tidak segera diatasi.
Turk juga menyoroti konsentrasi kekuasaan dalam pengembangan AI. Menurutnya, hanya segelintir pihak yang saat ini memiliki pengaruh sangat besar terhadap arah perkembangan teknologi tersebut, sehingga diperlukan mekanisme pengawasan yang lebih luas.
Karena itu, Turk meminta negara-negara tempat AI beroperasi serta pihak yang terlibat dalam rantai pasok teknologi tersebut menyepakati batasan bersama. “Setidaknya, kita memerlukan negara-negara tempat AI beroperasi dan pihak-pihak yang terlibat dalam ranmtai pasokannya, untuk bersatu seputar garis merah yang disepakati,” ujarnya.
Selain persoalan AI, dalam pidatonya Turk juga menyinggung sejumlah isu HAM global. Ia menuntut pertanggungjawaban atas kematian orang-orang dalam tahanan imigrasi Amerika Serikat serta mengecam laporan mengenai penggunaan drone otonom oleh Rusia.
Turk sendiri baru saja memperoleh masa jabatan kedua sebagai Komisioner Tinggi PBB untuk HAM selama empat tahun ke depan. Dewan HAM PBB yang bersidang hingga 7 Oktober mendatang juga akan membahas berbagai persoalan global, termasuk perang Iran, konflik sipil di Sudan, dan sejumlah krisis lainnya. (Zat)
