Sebuah laporan Perserikatan Bangsa-Bangsa yang dirilis hari ini mengusulkan agar badan internasional tersebut mengawasi upaya global pertama yang sesungguhnya untuk memantau dan mengatur kecerdasan buatan.
Laporan tersebut, yang dihasilkan oleh Badan Penasihat Tingkat Tinggi Sekretaris Jenderal PBB tentang AI, merekomendasikan pembentukan badan yang mirip dengan Panel Antarpemerintah tentang Perubahan Iklim untuk mengumpulkan informasi terkini tentang AI dan risikonya.
Laporan tersebut menyerukan dialog kebijakan baru tentang AI sehingga 193 anggota PBB dapat membahas risiko dan menyetujui tindakan. Lebih lanjut, laporan tersebut merekomendasikan agar PBB mengambil langkah-langkah untuk memberdayakan negara-negara miskin, terutama di belahan bumi selatan, untuk mendapatkan manfaat dari AI dan berkontribusi pada tata kelolanya. Ini harus mencakup, katanya, menciptakan dana AI untuk mendukung proyek-proyek di negara-negara ini, menetapkan standar AI dan sistem berbagi data, dan menciptakan sumber daya seperti pelatihan untuk membantu negara-negara dengan tata kelola AI. Beberapa rekomendasi laporan dapat difasilitasi oleh Global Digital Compact, sebuah rencana yang ada untuk mengatasi kesenjangan digital dan data antara negara-negara. Akhirnya, laporan tersebut menyarankan untuk menciptakan kantor AI di dalam PBB yang didedikasikan untuk mengoordinasikan upaya-upaya yang ada di dalam PBB untuk memenuhi tujuan laporan tersebut.
“Ada komunitas internasional yang sepakat bahwa AI memiliki bahaya dan risiko, serta peluang,” kata Alondra Nelson, seorang profesor di Institute for Advanced Study yang bertugas di badan penasihat PBB atas rekomendasi Gedung Putih dan Departemen Luar Negeri.
Kemampuan luar biasa yang ditunjukkan oleh model bahasa dan chatbot dalam beberapa tahun terakhir telah memicu harapan akan revolusi dalam produktivitas ekonomi, tetapi juga mendorong beberapa pakar untuk memperingatkan bahwa AI mungkin berkembang terlalu cepat dan akan segera menjadi sulit dikendalikan. Tidak lama setelah ChatGPT muncul, banyak ilmuwan dan pengusaha menandatangani surat yang menyerukan penghentian sementara pengembangan teknologi selama enam bulan sehingga risikonya dapat dinilai.
Kekhawatiran yang lebih mendesak mencakup potensi AI untuk mengotomatiskan disinformasi, menghasilkan video dan audio deepfake, menggantikan pekerja secara massal, dan memperburuk bias algoritmik masyarakat dalam skala industri. “Ada rasa urgensi, dan orang-orang merasa kita perlu bekerja sama,” kata Nelson.
Proposal PBB mencerminkan minat tinggi di antara para pembuat kebijakan di seluruh dunia dalam mengatur AI untuk mengurangi risiko ini. Namun, hal ini juga terjadi saat negara-negara besar—terutama Amerika Serikat dan Tiongkok—berlomba untuk memimpin dalam teknologi yang menjanjikan manfaat ekonomi, ilmiah, dan militer yang besar, dan saat negara-negara ini menetapkan visi mereka sendiri tentang bagaimana AI seharusnya digunakan dan dikendalikan.
Pada bulan Maret, Amerika Serikat mengajukan sebuah resolusi kepada PBB yang menyerukan negara-negara anggota untuk mendukung pengembangan “AI yang aman, terjamin, dan dapat dipercaya.” Pada bulan Juli, Tiongkok mengajukan sebuah resolusinya sendiri yang menekankan kerja sama dalam pengembangan AI dan penyediaan teknologi tersebut secara luas. Semua negara anggota PBB menandatangani kedua perjanjian tersebut.
“AI merupakan bagian dari persaingan AS-Tiongkok, jadi hanya ada sedikit hal yang akan mereka sepakati,” kata Joshua Meltzer, seorang pakar di Brookings Institute, sebuah lembaga pemikir di Washington, DC. Perbedaan utama, katanya, meliputi norma dan nilai apa yang harus diwujudkan oleh AI dan perlindungan seputar privasi dan data pribadi.