Kecerdasan buatan mungkin akan menjadi agen perubahan terpenting di abad ke-21. Itu akan mengubah ekonomi kita, budaya kita, politik kita dan bahkan tubuh dan pikiran kita sendiri dengan cara yang hampir tidak dapat dibayangkan oleh kebanyakan orang. Jika Anda mendengar skenario tentang dunia pada tahun 2050 dan kedengarannya seperti fiksi ilmiah, mungkin itu salah; Tetapi jika Anda mendengar skenario tentang dunia pada tahun 2050 dan tidak terdengar seperti fiksi ilmiah, itu pasti salah.
Teknologi tidak pernah deterministik: ia dapat digunakan untuk menciptakan jenis masyarakat yang sangat berbeda. Pada abad ke-20, kereta api, listrik, dan radio digunakan untuk membentuk kediktatoran Nazi dan komunis, tetapi juga untuk mendorong demokrasi liberal dan pasar bebas. Di abad ke-21, AI akan membuka spektrum kemungkinan yang lebih luas. Memutuskan mana yang akan disadari mungkin menjadi pilihan paling penting yang harus dibuat umat manusia dalam beberapa dekade mendatang.
AI harus menjadi salah satu item terpenting dalam agenda politik kita - AI hampir tidak terdaftar di radar politik kita
Pilihan ini bukanlah masalah teknik atau sains. Ini masalah politik. Oleh karena itu, ini bukanlah sesuatu yang dapat kita serahkan ke Silicon Valley - itu harus menjadi salah satu item terpenting dalam agenda politik kita. Sayangnya, AI sejauh ini hampir tidak terdaftar di radar politik kami. Ini belum menjadi subjek utama dalam kampanye pemilihan mana pun, dan sebagian besar partai, politisi, dan pemilih tampaknya tidak memiliki pendapat tentang hal itu. Ini sebagian besar karena kebanyakan orang hanya memiliki pemahaman yang sangat redup dan terbatas tentang pembelajaran mesin, jaringan saraf, dan kecerdasan buatan. (Ide yang paling umum tentang AI berasal dari film SF seperti The Terminator dan The Matrix.) Tanpa pemahaman lapangan yang lebih baik, kita tidak dapat memahami dilema yang kita hadapi: ketika sains menjadi politik, ketidaktahuan ilmiah menjadi resep bencana politik.
Max Tegmark's Life 3.0 mencoba memperbaiki situasi. Ditulis dengan gaya yang dapat diakses dan menarik, dan ditujukan untuk masyarakat umum, buku ini menawarkan peta politik dan filosofis dari janji dan bahaya revolusi AI. Alih-alih mendorong satu agenda atau prediksi apa pun, Tegmark berupaya mencakup sebanyak mungkin alasan, meninjau berbagai macam skenario terkait dampak AI di pasar kerja, peperangan, dan sistem politik.
Life 3.0 melakukan pekerjaan yang baik untuk mengklarifikasi istilah dasar dan perdebatan utama, dan dalam menghilangkan mitos umum. Sementara fiksi ilmiah telah menyebabkan banyak orang khawatir tentang robot jahat, misalnya, Tegmark dengan tepat menekankan bahwa masalah sebenarnya adalah konsekuensi tak terduga dari pengembangan AI yang sangat kompeten. Kecerdasan buatan tidak perlu jahat dan tidak perlu dibungkus dalam kerangka robotik untuk mendatangkan malapetaka. Dalam kata-kata Tegmark, “risiko nyata dengan kecerdasan umum buatan bukanlah kedengkian tetapi kompetensi. AI superintelligent akan sangat baik dalam mencapai tujuannya, dan jika tujuan itu tidak sejalan dengan kita, kita dalam masalah.”
"Tegmark mencakup sebanyak mungkin hal, meninjau dampak AI di pasar kerja, peperangan, dan sistem politik".
Mengenai obsesi dengan robot, kita harus mengingatkan diri kita sendiri bahwa sistem pengawasan - sistem yang terus-menerus melacak orang dan menggunakan algoritme Big Data untuk menganalisis perilaku dan kepribadian mereka - dapat menghancurkan privasi, individualitas, dan lembaga demokrasi kita tanpa memerlukan Terminator- mesin pembunuh gaya.
Peta Tegmark secara alami tidak lengkap, dan secara khusus tidak memberikan perhatian yang cukup pada pertemuan AI dengan bioteknologi. Abad ke-21 tidak akan dibentuk oleh infotech saja, melainkan oleh penggabungan infotech dengan bioteknologi. AI akan menjadi sangat penting karena AI akan memberi kita kekuatan komputasi yang diperlukan untuk meretas organisme manusia. Jauh sebelum munculnya komputer superintelligent, masyarakat kita akan sepenuhnya diubah oleh AI yang agak kasar dan bodoh yang tetap cukup baik untuk meretas manusia, memprediksi perasaan mereka, membuat pilihan atas nama mereka, dan memanipulasi keinginan mereka.
Begitu algoritme mengenal Anda lebih baik daripada Anda sendiri, institusi seperti pemilu demokratis dan pasar bebas menjadi usang, dan otoritas bergeser dari manusia ke algoritme. Alih-alih takut akan robot pembunuh yang mencoba membunuh kita, kita harus memperhatikan gerombolan bot yang tahu cara menekan tombol emosi kita lebih baik daripada ibu kita, dan menggunakan kemampuan luar biasa ini untuk mencoba menjual sesuatu kepada kita. Mungkin kiamat dengan berbelanja.
Namun masalah sebenarnya dari buku Tegmark adalah bahwa buku itu segera terbentur batas perdebatan politik saat ini. Revolusi AI mengubah banyak masalah filosofis menjadi pertanyaan politik praktis dan memaksa kita untuk terlibat dalam "filosofi dengan tenggat waktu" (seperti yang disebut oleh filsuf Nick Bostrom ). Para filsuf telah berdebat tentang kesadaran dan kehendak bebas selama ribuan tahun, tanpa mencapai konsensus. Ini tidak terlalu penting di zaman Platoatau Descartes, karena pada masa itu satu-satunya tempat Anda dapat menciptakan kecerdasan super adalah dalam imajinasi Anda. Namun di abad ke-21, perdebatan ini bergeser dari fakultas filsafat ke jurusan teknik dan ilmu komputer. Dan sementara filsuf adalah orang yang sabar, insinyur tidak sabar, dan investor hedge fund lebih gelisah lagi. Ketika para insinyur Tesla datang untuk merancang mobil tanpa pengemudi, mereka tidak sabar menunggu para filsuf berdebat tentang etika mobil ini.
Akibatnya Tegmark segera meninggalkan perdebatan akrab tentang pasar kerja, privasi dan senjata pemusnah massal, dan bertualang ke alam yang sampai saat ini lebih terkait dengan filsafat, teologi dan mitologi daripada politik. Ini hampir tidak bisa dihindari. Untuk penciptaan AI superintelligent adalah peristiwa di tingkat global atau bahkan kosmik daripada tingkat nasional. Selama 4 miliar tahun kehidupan di Bumi berevolusi sesuai dengan hukum seleksi alam dan kimia organik. Sekarang sains akan mengantar era kehidupan non-organik yang berkembang melalui rancangan cerdas, dan kehidupan semacam itu pada akhirnya mungkin akan meninggalkan Bumi untuk menyebar ke seluruh galaksi. Pilihan yang kita buat hari ini mungkin berdampak besar pada lintasan kehidupan selama ribuan tahun yang tak terhitung jumlahnya dan jauh melampaui planet kita sendiri.
Meskipun Tegmark mungkin benar dalam mengambil sesuatu ke tingkat kosmik ini, saya khawatir banyak, jika tidak sebagian besar, calon pembacanya tidak akan mengikutinya ke sana. Sistem politik kita, dan memang pikiran individu kita, tidak dibangun untuk berpikir dalam skala seperti itu. Mekanisme politik saat ini hampir tidak bisa membuat keputusan dalam skala dekade - bagaimana mereka bisa membuat keputusan dalam skala ribuan tahun? Siapa yang punya waktu untuk khawatir tentang AI yang mengambil alih planet ini ketika Anda harus berurusan dengan Donald Trump dan Brexit ?
Dalam kasus revolusi AI, seperti yang sering terjadi sebelumnya dalam sejarah manusia, kita mungkin akan membuat keputusan paling mendalam atas dasar pertimbangan jangka pendek rabun. Masa depan kehidupan di Bumi akan ditentukan oleh politisi kecil yang menyebarkan ketakutan tentang ancaman teroris, oleh pemegang saham yang khawatir tentang pendapatan triwulanan dan oleh pakar pemasaran yang mencoba memaksimalkan pengalaman pelanggan.
No comments:
Post a Comment