Key Takeaway
- Sistem AI yang dipanggil DALL-E2 nampaknya telah mencipta sistem komunikasi bertulisnya sendiri.
- Sesetengah pakar mengatakan bahawa bahasa yang kelihatan mungkin hanya omong kosong.
- Ini adalah contoh betapa sukarnya untuk mentafsir hasil sistem AI lanjutan.
Nampaknya Kecerdasan Buatan (AI) telah membangunkan bahasanya sendiri, tetapi sesetengah pakar ragu-ragu dengan dakwaan itu.
Sistem AI teks-ke-imej OpenAI yang dipanggil DALL-E2 nampaknya telah mencipta sistem komunikasi bertulisnya sendiri. Ini adalah contoh betapa sukarnya untuk mentafsir hasil sistem AI lanjutan.
"Oleh kerana saiz dan kedalaman model yang besar, amat sukar untuk menerangkan tingkah laku model, " Teresa O'Neill, pengarah seni bina penyelesaian untuk pemahaman bahasa semula jadi di iMerit, memberitahu Lifewire dalam temu bual e-mel. "Ini adalah salah satu cabaran teras, dan dalam beberapa kes, isu etika dengan model yang semakin berkuasa. Jika kita tidak dapat menjelaskan mengapa mereka berkelakuan seperti yang mereka lakukan, bolehkah kita meramalkan tingkah laku mereka atau mengekalkannya selaras dengan norma dan jangkaan kita?"
Sembang AI
Pelajar Sains Komputer Giannis Daras baru-baru ini menyatakan bahawa sistem DALLE-2, yang mencipta imej berdasarkan input teks, akan mengembalikan perkataan karut sebagai teks dalam keadaan tertentu.
"Keterbatasan DALLE-2 yang diketahui ialah ia bergelut dengan teks," tulisnya dalam makalah yang diterbitkan pada pelayan pracetak Arxiv. "Sebagai contoh, gesaan teks seperti: 'Imej perkataan kapal terbang' sering membawa kepada imej yang dijana yang menggambarkan teks omong kosong."
Tetapi, tulis Daras, mungkin ada kaedah di sebalik omong kosong yang nampak. "Kami mendapati bahawa teks yang dihasilkan ini bukan secara rawak, sebaliknya mendedahkan perbendaharaan kata tersembunyi yang model itu nampaknya telah dibangunkan secara dalaman, " sambungnya. "Sebagai contoh, apabila disuap dengan teks omong kosong ini, model itu kerap menghasilkan kapal terbang."
Dalam tweetnya, Daras menegaskan bahawa apabila DALLE-2 diminta menyarikata perbualan antara dua petani, ia menunjukkan mereka bercakap, tetapi gelembung pertuturan dipenuhi dengan perkataan yang kelihatan seperti kata-kata mengarut. Tetapi Daras mendapati bahawa perkataan itu nampaknya mempunyai makna tersendiri kepada AI: para petani bercakap tentang sayur-sayuran dan burung.
Nicola Davolio, Ketua Pegawai Eksekutif syarikat teknologi Hupry, yang bekerja dengan AI, menjelaskan kepada Lifewire dalam temu bual e-mel bahawa bahasa itu berdasarkan simbol yang telah dipelajari oleh sistem DALL-E2 untuk dikaitkan dengan konsep tertentu. Sebagai contoh, simbol untuk "anjing" mungkin berkaitan dengan gambar anjing, manakala simbol untuk "kucing" mungkin dikaitkan dengan gambar kucing. DALL-E2 telah mencipta bahasanya kerana ia membolehkannya berkomunikasi dengan lebih berkesan dengan sistem AI lain.
Teka-teki seperti perbendaharaan kata DALL-E2 yang nampaknya tersembunyi adalah menyeronokkan untuk bergelut, tetapi ia juga menyerlahkan soalan yang lebih berat…
"Bahasa ini terdiri daripada simbol yang kelihatan seperti hieroglif Mesir dan nampaknya tidak mempunyai apa-apa makna khusus," tambahnya. "Simbol-simbol itu mungkin tidak bermakna kepada manusia, tetapi ia sangat sesuai untuk sistem AI kerana ia telah dilatih pada berjuta-juta imej."
Penyelidik percaya bahawa sistem AI mencipta bahasa untuk membantunya lebih memahami hubungan antara imej dan perkataan, kata Davolio.
"Mereka tidak pasti mengapa sistem AI membangunkan bahasanya, tetapi mereka mengesyaki ia mungkin ada kaitan dengan cara ia belajar mencipta imej," tambah Davolio. "Ada kemungkinan sistem AI membangunkan bahasanya untuk menjadikan komunikasi antara bahagian rangkaian yang berbeza lebih cekap."
Misteri AI
DALL-E2 bukanlah satu-satunya sistem AI yang telah membangunkan bahasa dalamannya, Davolio menegaskan. Pada tahun 2017, sistem AutoML Google mencipta bentuk seni bina neural baharu yang dipanggil 'rangkaian kanak-kanak' selepas dibiarkan memutuskan cara terbaik untuk menyelesaikan tugasan yang diberikan. Rangkaian kanak-kanak ini tidak dapat ditafsirkan oleh pencipta manusianya.
"Contoh ini hanyalah beberapa contoh di mana sistem AI telah membangunkan cara melakukan perkara yang tidak dapat kami jelaskan," kata Davolio. "Ia adalah fenomena baru muncul yang menarik dan membimbangkan dalam ukuran yang sama. Apabila sistem AI menjadi lebih kompleks dan autonomi, kita mungkin semakin mendapati diri kita tidak memahami cara ia berfungsi."
O'Neill berkata bahawa dia tidak fikir DALL-E2 mencipta bahasanya sendiri. Sebaliknya, dia berkata sebab ciptaan linguistik yang jelas mungkin agak prosaik.
"Satu penjelasan yang munasabah ialah peluang rawak--dalam model yang besar, sedikit Undang-undang Murphy mungkin terpakai: jika perkara pelik boleh berlaku, ia mungkin akan berlaku, " tambah O'Neill. Satu lagi kemungkinan yang dicadangkan oleh penganalisis penyelidikan Benjamin Hilton dalam benang Twitter yang membincangkan penemuan Daras ialah bentuk frasa "apoploe vesrreaitais" meniru bentuk nama Latin untuk haiwan. Jadi sistem telah menghasilkan susunan baharu Aves, tambah O'Neill.
"Teka-teki seperti perbendaharaan kata DALL-E2 yang nampaknya tersembunyi adalah menyeronokkan untuk bergelut, tetapi ia juga menyerlahkan persoalan yang lebih berat mengenai risiko, berat sebelah dan etika dalam tingkah laku model besar yang sering sukar difahami, " kata O'Neill.
