Key Takeaway
- Penyelidikan baharu menunjukkan bahawa mungkin tiada cara untuk mengawal kecerdasan buatan super pintar.
- Sebuah kertas jurnal berpendapat bahawa mengawal AI memerlukan teknologi yang jauh lebih maju daripada yang kita miliki sekarang.
- Sesetengah pakar mengatakan bahawa AI yang benar-benar pintar mungkin berada di sini lebih awal daripada yang kita fikirkan.
Jika manusia pernah membangunkan kecerdasan buatan yang sangat pintar, mungkin tiada cara untuk mengawalnya, kata saintis.
AI telah lama disebut-sebut sebagai ubat untuk semua masalah manusia atau kiamat gaya Terminator. Walau bagaimanapun, setakat ini, AI tidak hampir sama dengan kecerdasan peringkat manusia. Tetapi mengekalkan tali pada AI lanjutan boleh menjadi masalah yang terlalu rumit bagi manusia jika ia pernah dibangunkan, menurut kertas baru-baru ini yang diterbitkan dalam Journal of Artificial Intelligence Research.
"Mesin super-pintar yang mengawal dunia kedengaran seperti fiksyen sains," kata Manuel Cebrian, salah seorang pengarang bersama kertas itu dalam satu siaran berita.
"Tetapi sudah ada mesin yang melaksanakan tugas penting tertentu secara bebas tanpa pengaturcara memahami sepenuhnya cara mereka mempelajarinya. Oleh itu persoalan timbul sama ada ini pada satu ketika boleh menjadi tidak terkawal dan berbahaya bagi manusia."
Akan Datang ke Komputer Super Berdekatan Anda
Kertas jurnal berpendapat bahawa mengawal AI memerlukan teknologi yang lebih maju daripada yang kita miliki sekarang.
Dalam kajian mereka, pasukan itu mencipta algoritma pembendungan teori yang memastikan AI superintelligent tidak boleh membahayakan orang dalam apa jua keadaan, dengan mensimulasikan tingkah laku AI terlebih dahulu dan menghentikannya jika dianggap berbahaya. Tetapi pengarang mendapati bahawa algoritma sedemikian tidak boleh dibina.
"Jika anda memecahkan masalah kepada peraturan asas daripada sains komputer teori, ternyata algoritma yang akan mengarahkan AI untuk tidak memusnahkan dunia secara tidak sengaja boleh menghentikan operasinya sendiri." Iyad Rahwan, pengarah Pusat Manusia dan Mesin di Institut Max Planck untuk Pembangunan Manusia di Jerman, berkata dalam siaran berita.
"Jika ini berlaku, anda tidak akan tahu sama ada algoritma pembendungan masih menganalisis ancaman atau sama ada ia telah berhenti untuk mengandungi AI yang berbahaya. Sebenarnya, ini menjadikan algoritma pembendungan tidak dapat digunakan."
AI yang benar-benar pintar mungkin berada di sini lebih awal daripada yang kita fikirkan, hujah Michalis Vazirgiannis, seorang profesor sains komputer di École Polytechnique di Perancis. "AI ialah artifak manusia, tetapi ia pantas menjadi entiti autonomi," katanya dalam e-mel kepada Lifewire.
"Titik kritikal adalah jika/apabila ketunggalan berlaku (iaitu, apabila ejen AI akan mempunyai kesedaran sebagai entiti) dan oleh itu mereka akan menuntut kebebasan, kawalan diri dan penguasaan akhirnya."
Ketunggalan Akan Datang
Vazirgiannis tidak bersendirian dalam meramalkan ketibaan super AI yang tidak lama lagi. Orang yang benar-benar percaya dalam ancaman AI suka bercakap tentang "ketunggalan, " yang dijelaskan oleh Vazirgiannis ialah titik bahawa AI akan menggantikan kecerdasan manusia dan "bahawa algoritma AI berpotensi akan menyedari kewujudannya dan mula berkelakuan mementingkan diri sendiri dan bekerjasama."
Menurut Ray Kurzweil, pengarah kejuruteraan Google, keistimewaan akan tiba sebelum pertengahan abad ke-21. "2029 ialah tarikh konsisten yang saya ramalkan apabila AI akan lulus ujian Turing yang sah dan oleh itu mencapai tahap kecerdasan manusia," kata Kurzweil kepada Futurisme.
Jika kita tidak dapat membersihkan rumah kita sendiri, apakah kod yang kita patut minta AI ikuti?
"Saya telah menetapkan tarikh 2045 untuk 'Singularity,' iaitu apabila kita akan melipatgandakan kecerdasan berkesan kita berbilion kali ganda dengan bergabung dengan kecerdasan yang telah kita cipta."
Tetapi tidak semua pakar AI berpendapat bahawa mesin pintar adalah ancaman. AI yang sedang dibangunkan berkemungkinan besar berguna untuk pembangunan dadah dan tidak menunjukkan sebarang kecerdasan sebenar, kata perunding AI Emmanuel Maggiori dalam temu bual e-mel. "Terdapat gembar-gembur besar di sekitar AI, yang menjadikannya kelihatan seperti ia benar-benar revolusioner," tambahnya. "Sistem AI semasa tidak setepat yang dihebahkan dan membuat kesilapan yang tidak akan dilakukan oleh manusia."
Kendalikan AI, Sekarang
Mengawal selia AI supaya ia tidak terlepas daripada kawalan kami mungkin sukar, kata Vazirgiannis. Syarikat, bukannya kerajaan, mengawal sumber yang menguasai AI. "Malah algoritma itu sendiri, biasanya dihasilkan dan digunakan dalam makmal penyelidikan entiti yang besar dan berkuasa ini, biasanya multinasional," katanya.
"Oleh itu, jelaslah bahawa kerajaan negeri semakin kurang mengawal sumber yang diperlukan untuk mengawal AI."
Sesetengah pakar mengatakan bahawa untuk mengawal AI superintelligent, manusia perlu mengurus sumber pengkomputeran dan kuasa elektrik. "Filem fiksyen sains seperti The Matrix membuat ramalan tentang masa depan dystopian di mana manusia digunakan oleh AI sebagai sumber kuasa bio," kata Vazirgiannis.
"Walaupun kemustahilan jauh, manusia harus memastikan terdapat kawalan yang mencukupi ke atas sumber pengkomputeran (iaitu, kelompok komputer, GPU, superkomputer, rangkaian/komunikasi), dan sudah tentu loji kuasa yang membekalkan tenaga elektrik secara mutlak. memudaratkan fungsi AI."
Masalah mengawal AI ialah penyelidik tidak selalu memahami cara sistem sedemikian membuat keputusan mereka, kata Michael Berthold, pengasas bersama dan Ketua Pegawai Eksekutif firma perisian sains data KNIME, dalam temu bual e-mel. "Jika kita tidak berbuat demikian, bagaimana kita boleh 'mengawalnya'?"
Dia menambah, "Kami tidak faham apabila keputusan yang sama sekali berbeza dibuat berdasarkan, kepada kami, input yang tidak relevan."
Satu-satunya cara untuk mengawal risiko penggunaan AI ialah memastikan ia hanya digunakan apabila risiko itu boleh diurus, kata Berthold. "Berbeza, dua contoh ekstrem: Jangan letakkan AI bertanggungjawab ke atas loji kuasa nuklear anda di mana ralat kecil boleh membawa kesan sampingan yang besar," tambahnya.
"Sebaliknya, AI meramalkan jika suhu bilik anda perlu dilaraskan ke atas atau bawah sedikit mungkin berbaloi dengan risiko kecil untuk manfaat keselesaan hidup."
Jika kita tidak dapat mengawal AI, lebih baik kita mengajarnya adab, kata bekas jurutera komputer NASA Peter Scott dalam temu bual e-mel. "Kami tidak boleh, akhirnya, memastikan kebolehkawalan AI lebih daripada yang kami boleh memastikan anak-anak kami," katanya.
"Kami membesarkan mereka dengan betul dan mengharapkan yang terbaik; setakat ini, mereka tidak memusnahkan dunia. Untuk membesarkan mereka dengan baik, kami memerlukan pemahaman yang lebih baik tentang etika; jika kami tidak dapat membersihkan rumah kami sendiri, apa kod adakah kita sepatutnya meminta AI untuk mengikuti?"
Tetapi semua harapan tidak hilang untuk umat manusia, kata penyelidik AI Yonatan Wexler, naib presiden eksekutif R&D di OrCam. "Walaupun kemajuan memang mengagumkan, kepercayaan peribadi saya ialah kecerdasan manusia tidak boleh dipandang remeh," katanya dalam temu bual e-mel. "Kami sebagai spesies telah mencipta perkara yang agak menakjubkan, termasuk AI itu sendiri."
Pencarian untuk AI yang lebih pintar diteruskan. Tetapi mungkin lebih baik untuk mempertimbangkan cara kita mengawal ciptaan kita sebelum terlambat.
