Ilmuwan AI terkemuka memperingatkan risiko signifikan yang terkait dengan pesatnya perkembangan teknologi AI dalam Discussion board Kebijakan. Mereka mengusulkan agar perusahaan teknologi besar dan penyandang dana publik mendedikasikan setidaknya sepertiga anggaran mereka untuk penilaian dan mitigasi risiko. Mereka juga menganjurkan standar world yang ketat untuk mencegah penyalahgunaan AI dan menekankan pentingnya tata kelola yang proaktif untuk mengarahkan pengembangan AI menuju hasil yang bermanfaat dan menghindari potensi bencana. Kredit: SciTechDaily.com
Pakar AI merekomendasikan investasi yang signifikan dalam mitigasi risiko AI dan peraturan world yang lebih ketat untuk mencegah penyalahgunaan dan memandu pengembangan AI dengan aman.
Para peneliti telah memperingatkan tentang risiko ekstrem yang terkait dengan pesatnya perkembangan teknologi kecerdasan buatan (AI), namun belum ada konsensus mengenai cara mengelola bahaya ini. Dalam Discussion board Kebijakan, pakar AI terkemuka dunia Yoshua Bengio dan rekannya menganalisis risiko kemajuan teknologi AI.
Hal ini mencakup dampak sosial dan ekonomi, penggunaan berbahaya, dan potensi hilangnya kendali manusia atas sistem AI otonom. Mereka mengusulkan langkah-langkah tata kelola yang proaktif dan adaptif untuk memitigasi risiko-risiko ini.
Para penulis mendesak perusahaan-perusahaan teknologi besar dan penyandang dana publik untuk berinvestasi lebih banyak, mengalokasikan setidaknya sepertiga anggaran mereka untuk menilai dan memitigasi risiko-risiko ini. Mereka juga menyerukan lembaga hukum world dan pemerintah untuk menegakkan standar yang mencegah penyalahgunaan AI.
Seruan untuk Pengembangan AI yang Bertanggung Jawab
“Untuk mengarahkan AI menuju hasil positif dan menjauhi bencana, kita perlu melakukan reorientasi. Ada jalan yang bertanggung jawab – jika kita memiliki kebijaksanaan untuk mengambilnya,” tulis para penulis.
Mereka menyoroti perlombaan di antara perusahaan-perusahaan teknologi di seluruh dunia untuk mengembangkan sistem AI generalis yang mungkin menyamai atau melampaui kemampuan manusia di banyak bidang penting. Namun, kemajuan pesat ini juga menimbulkan risiko berskala sosial yang dapat memperburuk ketidakadilan sosial, melemahkan stabilitas sosial, dan memungkinkan kejahatan dunia maya berskala besar, peperangan otomatis, manipulasi massal yang disesuaikan, dan pengawasan yang meluas.
Salah satu kekhawatiran yang disoroti adalah potensi hilangnya kendali atas sistem AI otonom, yang akan membuat intervensi manusia menjadi tidak efektif.
Prioritas Mendesak untuk Penelitian AI
Para ahli AI berpendapat bahwa umat manusia belum cukup siap untuk menangani potensi risiko AI ini. Mereka mencatat bahwa, dibandingkan dengan upaya untuk meningkatkan kemampuan AI, sangat sedikit sumber daya yang diinvestasikan untuk memastikan pengembangan dan penerapan teknologi ini secara aman dan etis. Untuk mengatasi kesenjangan ini, penulis menguraikan prioritas mendesak untuk penelitian, pengembangan, dan tata kelola AI.
Untuk informasi lebih lanjut mengenai penelitian ini, lihat Ilmuwan AI Memperingatkan akan Melepaskan Risiko di Luar Kendali Manusia.
Referensi: “Mengelola risiko AI yang ekstrem di tengah kemajuan pesat” oleh Yoshua Bengio, Geoffrey Hinton, Andrew Yao, Daybreak Music, Pieter Abbeel, Trevor Darrell, Yuval Noah Harari, Ya-Qin Zhang, Lan Xue, Shai Shalev-Shwartz, Gillian Hadfield, Jeff Clune, Tegan Maharaj, Frank Hutter, Atılım Güneş Baydin, Sheila McIlraith, Qiqi Gao, Ashwin Acharya, David Krueger, Anca Dragan, Philip Torr, Stuart Russell, Daniel Kahneman, Jan Brauner dan Sören Mindermann, 20 Mei 2024, Sains.
DOI: 10.1126/science.adn0117
