Ban senjata yang memilih sasaran mereka sebelum mereka memulakan perlumbaan senjata, Stephen Hawking, Elon Musk dan penandatangan lain dari surat terbuka

Stephen Hawking, pengasas Tesla Elon Musk dan pengasas bersama Apple Steve Wozniak adalah antara penandatangan surat yang diterbitkan pada Persidangan Bersama Antarabangsa mengenai Kepintaran Artificial, yang berlangsung pada hari Khamis di Buenos Aires. > Mereka memberi amaran bahawa penciptaan senjata yang memilih dan memusnahkan sasaran secara autonomi, tanpa campur tangan manusia, mungkin akan memulakan perlombaan senjata global yang baru-sesuatu yang dapat terjadi dalam beberapa tahun, Dalam kajian semasa AI.

Beberapa menganggap penciptaan senjata autonomi menjadi revolusi ketiga dalam peperangan, selepas penemuan serbuk mesiu dan bom nuklear. Senjata sedemikian mungkin termasuk quadcopters bersenjata yang dapat mencari dan menghapuskan orang yang memenuhi kriteria yang telah ditentukan sebelumnya. Senjata sedia ada seperti peluru berpandu pelayaran atau drone pesawat yang ditembak jauh tidak dianggap berautonomi kerana manusia memilih sasaran mereka, jadi pembangunan perisian perisikan buatan untuk membuat keputusan itu adalah satu-satunya halangan kepada penciptaan senjata autonomi.

Jika kita menerima peperangan itu mesti dilancarkan, maka ada kebaikan dan keburukan penggunaan senjata autonomi.

Persoalan utama umat manusia menghadapi hari ini adalah sama ada untuk memulakan perlumbaan senjata global AI atau untuk mencegahnya bermula , para saintis menulis, memberi amaran bahawa ia hanya akan mengambil satu kuasa ketenteraan yang membangun senjata AI untuk membuat perlumbaan senjata global hampir tidak dapat dielakkan.

"Titik akhir dari trajektori teknologi ini jelas: Senjata autonomi akan menjadi Kalashnikovs esok," mereka menulis

Tanpa memerlukan isotop radioaktif yang mahal untuk mendapatkan senjata nuklear, senjata autonomi akan mudah dan murah untuk menghasilkan massa, dan tidak dapat dielakkan berakhir di pasar gelap dan di tangan dari pengganas, diktator dan panglima perang, mereka memberi amaran, sambil menambahkan bahawa senjata sedemikian akan sesuai untuk pembunuhan, negara-negara yang tidak stabil, menundukkan populasi dan pembersihan etnik.

"Oleh itu, kami percaya bahawa perlumbaan senjata AI militer tidak akan memberi manfaat kepada manusia, "kata penandatangan itu, menyimpulkan bahawa ia" harus dihalang oleh larangan terhadap senjata autonomi yang menyinggung di luar kawalan manusia yang bermakna. "

Teks penuh surat itu, dan penandatangannya, boleh didapati di laman web Institut Masa Depan Kehidupan yang berpusat di Boston, sebuah pemikir yang mengatakan ia sedang berusaha untuk meredakan risiko eksistensial yang dihadapi oleh manusia. Pengasasnya termasuk pengasas bersama Skype Jaan Tallinn, dan lembaga penasihat saintifiknya termasuk Hawking, Musk dan pelakon Alan Alda dan Morgan Freeman.