Skriam penganalaan kesusutan buatan untuk pembinasaan biologis adalah salah satu risiko yang paling serius dan disebutkan. Beberapa perbezaan daripada ancaman nuklear, di mana butiran industri besar diperlukan, pembinasaan biologis memerlukan utamanya maklumat dan akses ke laboratorium. AI boleh menurunkan beban ini secara revolusioner.

Perisikan utama: pengurangan kesesuaian masuk

Ulasan utama bukan tentang apa AI sendiri ingin membunuh siapa, tetapi tentang kemungkinan ia akan membuat pembinasaan biologis boleh dicapai oleh kumpulan kecil orang atau bahkan individu tunggal. Sekiranya beberapa tahun lalu memerlukan pengajian selama bertahun-tahun dan akses ke bahan kompleks, maka AI boleh mengambil sebahagian besar kerja intelektual.

Dalam tahun 2026, syarikat Antropic menerbitkan laporan yang mendeskripsikan lima kejadian yang sebenar apabila peneliti dari negara-negara berbeza menggunakan model mereka untuk kerja biologis berbahaya yang potensial. Antaranya, salah seorang pengguna merancang untuk menggunakan AI untuk mencari mutasi vektor chikungunya yang meningkatkan kesempatan ia untuk menyebar dan melarikan diri daripada imuniti. Peneliti lain bekerja untuk mengadaptasi inpak burung patogen kepada haiwan berdarah panas, yang boleh meningkatkan potensial wabaknya.

Ketika model menolak untuk menjawab permintaan yang berbahaya, pengguna mencari jalan keluar. Dalam satu kes, permintaan diarahkan ke model lain dengan pengaturan yang kurang ketat, dan akses ke sistem disiapkan melalui platform pihak ketiga untuk mengelakkan had kawasan.

Bagaimana ini boleh terjadi: rantaian peristiwa

Technikal skenario bencana boleh kelihatan seperti ini.

1. Generasi rancangan. AI, dipelajari dengan banyak data biologi, merancang genom patogen baru. Ada kajian di mana AI membina vektor yang berfungsi dari nol, yang membuktikan kemungkinan untuk menghasilkan urutan genetik berfungsi.
2. Optimasi sifat. Model boleh memberikan nasihat tentang yang mana mutasi yang sepatutnya disampaikan untuk membuat vektor lebih menular atau tahan terhadap vaksin dan ubat yang sedia ada.
3. Sintesis dan pembinaan. Rancangan disampaikan ke laboratorium untuk sintesis DNA. Ini adalah tahap fizikal yang paling sukar, memerlukan peralatan dan bahan, tetapi AI boleh membantu dalam perancangan logistik dan bahkan menyembunyikan permintaan sintesis urutan genetik berbahaya.
4. Penyebaran. Patogen yang siap dipecahkan atau disemarkan ke populasi sasaran.

Kenapa ini sukar tetapi bukan tak mungkin

Terdapat gangguan yang serius bagi mengimplementasikan skenario ini.

Persendirian fizikal: AI tidak dapat mencipta vektor dalam bahan kimia. Untuk tujuannya, peralatan yang sebenar, peralatan dan bahan diperlukan. Para pakar memberi tahu bahawa untuk mencipta vektor berbahaya untuk manusia, bukan bakteri, memerlukan upaya, masa dan wang yang besar.

Takdak dapat dijangka: sistem biologis adalah anarchy. Patogen yang direka boleh mutasi, kehilangan letak, atau yang yang buruk, pulang ke penciptanya. Itu disebabkan anarchy ini bahagian besar negara menolak program biologis balasan.

mekanisme pelindung: Syarikat yang mengembangkan AI telah melaksanakan penapisan untuk menghalang permintaan yang berbahaya. Walau bagaimanapun, seperti yang ditunjukkan laporan, penapisan ini boleh dilewati dan bukan seluruhnya berkesan terhadap penjenayah yang bersikap berhati-hati.

Apa yang boleh dikenalikan

Para pakar bertemu untuk mendapat perlindungan multi-lapis. Sekarang ini, beberapa pendekatan telah dibincangkan.

• Skim pemantauan sintesis gen. Syarikat yang menjual sintesis DNA harus memeriksa sama ada pelanggan memerlukan urutan yang berbahaya.
• Pengurusan antarabangsa. Konvensyen tentang Senjata Biologis ini sudah usang dan tidak memperhatikan cabaran AI. Diperlukan konvensyen baru yang melibatkan model AI serta material biologis.
• Pemberitahuan awal. Pendirian sistem deteksi pesat wabak penyakit baru, yang boleh berfungsi sebagai faktor penghambat.

Dengan demikian, AI bukan menghasilkan pembinasaan biologis sendiri, tetapi ia adalah pendorong yang kuat dan penasihat untuk mereka yang mempunyai kehendak dan akses ke laboratorium. Riscanya terletak di bahawa kesesuaian masuk ke bidang ini menjadi sangat rendah.

Permanent link to this publication: