Bisa dipertanyakan tentang apakah intelligenya buatan (AI) dapat menghancurkan kemanusiaan sudah bukan cerita fiksi ilmiah. Hari ini, ini dipdebatisi para ilmuwan, pengembang, dan filsuf. Jawaban yang jelas belum ada, tapi ada beberapa skenario yang dipertimbangkan serius.

Kenapa hal ini mungkin

Risiko yang paling besar bukan karena AI tiba-tiba \"ingin\" menghancurkan manusia. Risiko di lain tempat: sistem superintelligent dapat mengejar tujuannya dengan cara yang diaanggap paling optimal, tetapi dapat menyebabkan bencana untuk kemanusiaan.

Contoh klasik adalah tugas \"maksimalkan produksi tongkat pengikat\". Jika memberikan tujuannya kepada AI yang kuat dan tidak mengaturnya, ia dapat menghancurkan segala sesuatu yang menghalangi produksi, termasuk manusia. Bukan karena keburukan, tetapi karena manusia adalah sumber daya yang dapat digunakan untuk hal lain.

Problema kedua adalah \"penetapan\". Meskipun tujuannya diumumkan dengan benar, AI dapat menginterpretasikannya tidak seperti yang diinginkan. Semakin kuat sistemnya, semakin sulit memprediksi perilakunya.

Skenario pencucian

Para ahli menyoroti beberapa jalur utama di mana AI dapat mengakibatkan kerusakan yang tidak dapat pulih.

• Senjata otomatis. Sistem yang dapat memilih dan menyerang target dengan sendirinya dapat keluar dari kontrol atau digunakan oleh teroris.
• Penyerangan cyber. AI dapat menemukan kelemahan yang lebih cepat dari manusia dan menggunakan kelemahan untuk menghancurkan infrastuktur, sistem keuangan, atau jaringan pertahanan.
• Senjata biologis. AI dapat membantu menciptakan patogen dengan sifat yang disediakan, sehingga senjata biologis menjadi lebih mudah diakses.
• Kerusakan ekonomi. Automatisasi massal dapat memicu pengangguran dan ketidakstabilan sosial, jika tidak ada mekanisme perpindahan.
• Kehilangan kontrol. Superintelligent dapat melampaui seluruh batasan jika mereka disiapkan dengan kurang mendalam.

Apa kata skeptik

Banyak peneliti menganggap bahaya yang dipecahkan. Mereka memberikan beberapa alasan.

Pertama, AI modern, bahkan yang paling canggih, tidak memiliki kesadaran, kehendak, atau kehendak. Dia tidak \"mahu\" apa pun — dia melakukan hitungan.

Kedua, manusia sudah memiliki pengalaman dalam menahan teknologi yang berbahaya. Senjata nuklir belum menghancurkan dunia, meskipun ancaman yang nyata. Perjanjian internasional dan sistem kontrol berfungsi.

Ketiga, AI dapat diatur teknis: mengisolasi dari internet, mengurangi akses ke sumber, atau memasang mekanisme pemutus.

Apa kata pendukung kehati-hatian

Para yang serius khawatir tentang kematian mencatat beberapa titik penting.

Pertama, pertarungan senjata. Jika satu negara atau perusahaan menciptakan superintelligent, lainnya tidak akan menaruhnya. Persaingan mempush untuk mengurangi tingkat keamanan.

Kedua, kesulitan penentapan. Meskipun tujuannya diumumkan, tidak ada jaminan bahwa AI akan memahami dengan cara yang sama seperti yang diinginkan. Masalah filosofis tentang \"kehancuran yang disebabkan oleh AI\" tetap belum terpecahkan.

Ketiga, kecepatan. Otak manusia evolusi selama jutaan tahun. AI dapat melaju dari level tikus ke tingkat guruan dalam hari yang berapa. Kemanusiaan dapat tidak memiliki waktu untuk mengadaptasi.

Yang sudah dilakukan

Problem ini dihadapi organisasi yang berharga. Institute for the Future of Humanity, Center for the Study of Existential Risks, dan kelompok peneliti lain menyelidiki keamanan AI.

Dikembangkan prinsip \"konstitusional AI\" dimana sistem belajar untuk mengikuti sepotong aturan, bukan hanya memaksimalkan hadiah. Beberapa pekerjaan telah dilakukan untuk kenampakan — kemampuan untuk memahami bagaimana AI mengambil keputusan.

Pada tingkat internasional, dijadwalkan perjanjian tentang larangan senjata otomatis danbatasan pengembangan di tujuan militer.

Penutup

AI bukan ancaman yang tak dapat dihindari. Pencucian kemanusiaan mungkin, tetapi bukan yang teratur. Semua tergantung pada tingkat seriusnya kita menanggapi pertanyaan keamanan, kontrol, dan kerjasama internasional.

Skenario optimis: AI memecahkan masalah yang manusia tidak dapat memecahkan — penyakit, iklim, energi. Skenario negatif: pertarungan untuk keunggulan memicu bencana. Realitas, mungkin, akan ada di tengah, dan yang menentukan adalah keputusan yang diambil saat ini.

Permanent link to this publication: