Key Takeaway
- Pakar mengatakan bahawa serangan siber yang dibantu AI boleh menggodam data anda.
- Pakar keselamatan siber terkenal Bruce Schneier berkata pada persidangan baru-baru ini bahawa dia semakin bimbang tentang penembusan AI dalam sistem komputer.
- Satu serangan siber dipacu AI telah dilancarkan terhadap TaskRabbit pada 2018, yang menjejaskan 3.75 juta pengguna.
Penggodam boleh menyelidiki komputer anda menggunakan kecerdasan buatan tidak lama lagi.
Pakar keselamatan siber terkenal Bruce Schneier memberitahu persidangan baru-baru ini bahawa dia bimbang bahawa penembusan AI dalam sistem komputer tidak dapat dielakkan. Pakar mengatakan bahawa serangan AI adalah ancaman yang semakin meningkat.
"Dengan AI menjadi semakin membantu dari perspektif penggodaman, data pengguna dan pengguna mungkin lebih berisiko dengan ketara," kata Andrew Douglas, pakar keselamatan siber di Deloitte Risk & Financial Advisory, dalam temu bual e-mel. "Penggodam biasanya mencari sasaran paling mudah dengan jumlah usaha yang paling sedikit, dan AI akan membolehkan mereka menyasarkan lebih ramai orang dengan pertahanan yang lebih baik dalam masa yang lebih singkat."
Schneier adalah yang terbaharu menyuarakan amaran tentang bahaya AI. "Mana-mana sistem AI yang baik secara semula jadi akan menemui penggodaman," Schneier dilaporkan berkata pada persidangan baru-baru ini. "Mereka mencari penyelesaian baru kerana mereka kekurangan konteks manusia, dan akibatnya ialah beberapa penyelesaian itu akan memecahkan jangkaan yang manusia miliki-maka, satu penggodaman."
Telefon AI Ke Rumah Anda
Penggodam sudah menggunakan AI untuk mencungkil komputer. Satu serangan siber dipacu AI telah dilancarkan terhadap TaskRabbit pada 2018, menjejaskan 3.75 juta pengguna, tetapi terbukti tidak dapat dikesan, Chris Hauk, seorang peguam bela privasi pengguna di tapak web Pixel Privacy, berkata dalam temu bual e-mel.
"Serangan itu dilancarkan oleh penggodam yang menggunakan botnet besar yang dikawal oleh AI, yang menggunakan mesin hamba untuk melakukan serangan DDoS besar-besaran pada pelayan TaskRabbit," tambahnya.
Algoritma pembelajaran mesin telah digunakan untuk berjaya menembusi sistem di Defcon pada 2016, kata Ray Walsh, pakar privasi data di ProPrivacy, dalam temu bual e-mel. Pada masa itu, tujuh pasukan bersaing untuk Cabaran Besar DARPA untuk memenangi hadiah $2 juta. "Semasa cabaran, pesaing menggunakan AI untuk mencari kelemahan, mencipta eksploitasi dan menggunakan tampung melalui cara automatik," tambahnya.
Bruce Young, seorang profesor keselamatan siber di Universiti Sains dan Teknologi Harrisburg, berkata dalam temu bual e-mel bahawa AI sedang digunakan untuk mengawal botnet, sekumpulan komputer yang terjejas di bawah kawalan pelakon jahat yang digunakan untuk menyerang orang lain. komputer.
"AI boleh digunakan untuk mengumpulkan maklumat seseorang secara automatik, contohnya, bank, perubatan, lesen memandu, hari lahir," katanya. "Mereka boleh merumuskan percubaan pancingan data yang canggih dan menghantar kepada pengguna e-mel yang nampaknya sah."
AI boleh digunakan untuk menggodam dengan menemui kelemahan dan mengeksploitasinya, kata Paul Bischoff, seorang peguam bela privasi di laman web Comparitech, dalam temu bual e-mel.
AI dan pembelajaran mesin dapat mengesan corak yang akan dilepaskan oleh manusia. Corak ini boleh mendedahkan kelemahan… AI kemudiannya boleh mengeksploitasi kelemahan tersebut…
"AI dan pembelajaran mesin boleh mengesan corak yang manusia akan terlepas," tambahnya. "Corak ini boleh mendedahkan kelemahan dalam keselamatan siber atau keselamatan operasi sasaran. AI kemudiannya boleh mengeksploitasi kelemahan tersebut dengan lebih pantas daripada manusia, tetapi juga lebih fleksibel daripada bot tradisional."
AI boleh mengubah dan memperbaiki serangannya tanpa input manusia, kata Bischoff.
"AI sangat sesuai untuk penyembunyian dan boleh bersembunyi dalam sistem di mana ia menuai data atau melancarkan serangan dalam jangka masa yang panjang," tambahnya.
Melindungi Diri Anda Daripada AI
Malangnya, tiada perkara khusus yang boleh dilakukan pengguna untuk melindungi diri mereka daripada penggodaman berasaskan AI, kata Bischoff.
"Ikut sahaja garis panduan biasa," katanya. "Kurangkan jejak digital anda, kemas kini perisian anda, gunakan antivirus, gunakan tembok api, hanya muat turun perisian bereputasi daripada sumber yang bereputasi, jangan klik pada pautan atau lampiran dalam mesej yang tidak diminta."
Tetapi, sediakan diri anda untuk lebih banyak serangan berpandukan AI.
"AI digunakan untuk keselamatan siber dan serangan siber, dan pada masa hadapan, kita mungkin melihat sistem AI menyerang satu sama lain," kata Bischoff. "Sebagai contoh, AI boleh digunakan untuk mengenal pasti tingkah laku bukan manusia dan mengambil tindakan terhadap bot. Sebaliknya, AI boleh digunakan oleh bot untuk meniru tingkah laku manusia dengan lebih tepat dan memintas sistem pengesanan bot."
Kumpulan tajaan negara akan menjadi sumber penggodaman AI pada masa hadapan, kata Kris Bondi, Ketua Pegawai Eksekutif firma keselamatan siber Mimoto, dalam temu bual e-mel.
"Kategori ini sudah memacu peningkatan pelanggaran yang semakin canggih," tambah Bondi. "Jika AI digunakan dengan berkesan untuk penggodaman, ini mungkin bermakna lebih banyak percubaan pelanggaran yang lebih canggih. Ini mempunyai implikasi kepada individu, infrastruktur, pengintipan korporat dan keselamatan negara."
