SELAMAT DATANG MAHARAJA A.I.
(*Diterjemahkan dari https://highexistence.com/our-ai-overlords/ tulisan Mark Manson si penulis "Seni Untuk Bersikap Bodoh Amat")
beberapa minggu lalu,
untuk pertama kalinya, sebuah komputer dapat mengalahkan juara dunia Go, satu
dari permainan paling kompleks yang pernah diketahui manusia. Peristiwa
tersebut merupakan momentum penentu bagi progres Artificial Intelligence.
Sekadar gambaran betapa
rumitnya permainan Go, terdapat 2.082×10Ù170 kemungkinan untuk susunan bidak di
atas papan. Setara dengan 2 bersama 170 nol di belakangnya. Otak Anda tidak
sanggup mengkalkulasi angka yang luarbiasa besar itu (tapi sebuah komputer bisa
melakukannya). Atau untuk mengilustrasikan betapa besarnya angka tersebut,
bandingkanlah dengan alam semesta yang mengandung 10Ù80 atom—persamaannya, adalah angka 1
diikuti dengan 79 nol di belakangnya.
Alasan bahwa masalah
ini sesungguhnya penting tidak lain karena Go merupakan permainan yang teramat
ruwet. Untuk mengalahkan juara dunia, sebuah mesin perlu untuk belajar
bagaimana cara berpikir kreatif, berimprovisasi dan beradaptasi terhadap
situasi secara sekaligus serta sanggup mengkalkulasi setiap kemungkinan akhir;
dengan kata lain, ini bakal menjadi perkembangan serius bagi artificial intelligence—semisal,
munculnya creative intelligence.
Dalam konteks dimana
Anda tak percaya bahwa “AI akan mengambil alih dunia”, di sini terdapat sedikit
fakta yang perlu Anda ketahui.
1.
Komputer menjadi semakin pintar.
2.
Komputer menjadi semakin pintar dalam
skala waktu yang lekas—sebagai contoh, kemajuan yang diperlukan untuk 10 tahun
kini hanya membutuhkan waktu satu tahun saja. Kemajuan yang digunakan untuk
satu tahun, kini hanya memerlukan satu minggu atau bahkan satu hari.
3.
Bahwa sapanjang umur kita, komputer
bakal jauh lebih pintar dan lebih cakap dari spesies manusia manapun.
4.
Komputer yang amat pintar ini kemudian
mampu merancang dan memperbaiki teknologi (semisal, dirinya sendiri) dan
menciptakan teknologi baru yang tidak akan dapat kita mengerti.
Orang-orang yang memahami poin-poin di atas secara
umum memberikan dua jenis reaksi sebagaimana berikut:
1.
Mereka berpikir bahwa kita benar-benar
tak berdaya. Komputer akan segera mengambil alih semuanya dan
membunuh/memperbudak manusia. Atau:
2.
Kejadian itu akan menuntun kita menuju
utopia teknologis yang kelak menyembuhkan segenap kepandiran manusia dan kita
semua dapat hidup bahagia selamanya setelah memperoleh kenikmatan dalam dunia ultra-VR yang eksis di atmosfer.
Dan seperti kebanyakan
hal lain, kebenaran senantiasa terletak pada suatu tempat yang kita di jalan
tengah.
Namun meskipun problem
ini menyerang para penggemarnya, meskipun para robot melihat kita seperti
gerombolan kutu yang merusak kulit kepala planet ini dan meskipun mereka ingin
melempar kita ke gunung berapi aktif, meskipun kita begitu ceroboh membangun
mekanisme kepunahan spesies kita sendiri...
...aku tak peduli. Itu
bukan masalah. Aku tak akan terganggu. Dan mestinya itu tidak perlu mengusik
pikiranmu juga. Aku akan menjelaskannya sedikit. Tapi untuk sekarang, Anda
perlu tahu, bahwa aku, menyambut dengan penuh kegembiraan serta menerima dengan
senang hati kehadiran maharaja baru kita, artificial
intelligence itu.
PERKEMBANGAN
ASKELARATIF DARI INDUSTRI TEKNOLOGI
Pengembangan teknologi
telah terakumulasi, menyebabkan proses pengembangan dirinya sendiri menjadi
lebih lekas. Artinya adalah semakin maju teknologi yang kita buat,semakin mudah
menciptkan lebih banyak teknologi mutakhir. Sebagai hasilnya, tatkala kita
melihat teknologi komputasi yang canggih, kita menyaksikan kurva
eksponensial—sederhananya, semakin banyak waktu yang berlalu, semakin cepat
hal-hal tersebut berkembang.
Kekuatan komputasi
rata-rata meningkat dua kali setiap 18 bulan untuk 50 tahun terakhir ini. Dalam
hal dimana kekuatan komputasi begitu buruk, komputer menjadi saingan dari kemampuan
otak seekor tikus, yang mana hanya berselang beberapa tahun ke belakang,
komputer tidak lagi dapat kita bandingkan dengan otak serangga.
Contoh lain berkenaan amat
derasnya kemajuan teknologi, mari kita perhatikan bahwa lebih banyak gambar
yang dibuat setiap 2 menit ketimbang gambar yang dibikin pada sepanjang abad
ke-19. Sekitar 10% dari 3.5 trilyun foto di seluruh dunia telah dibuat dalam 12
bulan ini.
Jika kita benar-benar
berada pada kurva eksponensial ketika kemajuan teknologi menjadi amat pesat, lalu
orang-orang seperti Jeremy Howard barangkali terdengar masuk akal saat berujar
bahwa kita hanya berjarak beberapa tahun saja sebelum mesin-mesin pintar
menjadi rival manusia, jika tidak menaklukkan, dalam berbagai bidang keahlian yang
selama ini mencirikan keunikan manusia.
Dan sesungguhnya, AI
sedang menjalar ke bidang-bidang keahlian hidup spesies kita.
Pada dekade sebelumnya,
orang-orang menertawakan demonstrasi dari mobil otomatis. Hari ini, dekade
selanjutnya, mobil otomatis tidak hanya bisa melalui rute jalan tertutup, mereka
dapat melalui jalanan macet disesaki mobl-mobil yang dikendarai manusia.
Dan tatkala komputer
belum mengalahkan juara dunia Go, mereka teramat sibut menulis artikel tentang
olahraga dan berita soal peristiwa terkini, menulis deskripsi dari gambar yang
mereka tak pernah saksikan sebelumnya, dan mendiagnosis kanker. Untuk banyak
tugas ini, komputer dapat mengerjakannya dengan baik sekalipun tidak sebaik
manusia, dan untuk satu hal yang mesin-mesin ini tak bisa, mereka lantas
mempelajari bagaimana untuk melakukannya lebih sempurna dan lebih sempurna
tanpa bantuan manusia mana pun.
Beberapa tahun lalu,
software pengenalan wajah berharga sangat mahal dan tidak terlalu akurat juga
untuk mengidentifikasi orang pada dunia asli. Benda itu dipertimbangkan sebagai
teknologi canggih spionase dan hanya digunakan oleh segelintir pemerintah
dunia.
Kini Facebook dapat
mengenali siapa saja temanmu dari pesta barbecue akhir pekan lalu.
Di sinilah perkembangan
pesat komputer: akan tiba satu hari ketika kita bisa ciptakan komputer yang lebih
pintar dari setiap manusia di seantero bumi. Pada hari itu, komputer akan
mengambil alih kuasa kita selaku pemeran utama tunggal di atas planet ini, dan berangkat dari sana,
pikiran kita, pilihan kita, dan tindakan kita lambat laun akan menjadi kuno.
Kelak mesin akan menjadi jauh lebih baik daripada kita dalam segala hal, dan
kita menjadi semakin tak berguna dibandingkan mereka.
Ini merupakan hal
mengerikan bagi sebagian orang. Mereka memimpikan masa depan tak ubahnya film Terminator atau The Matrix dimana mesin memperbudak kita atau membasmi kita seperti
nyamuk.
Sedangkan sebagian
orang lain melihat masa depan sebagai bangkitnya zaman para robot dan menyambut
era itu dengan semangat pemujaan karena mereka percaya kemampuan robot untuk
mengentaskan masalah akan melampaui kemampuan kita. Hidup kemudian menjadi
kegembiraan tak terbayangkan dan manusia dibebaskan dari rantai problematika. Semua
penyakit akan disembuhkan. Kemiskinan, kelaparan global, perang dan perubahan
iklim teratasi. Berkat mereka kita memiliki waktu luang tak terbatas, dan pada
kasus yang lebih ekstrem, orang-orang percaya mesin dapat membuat kita hidup
kekal abadi.
DUA
KEMUNGKINAN AKIBAT AKHIR
Karena kita selalu
diberitahu untuk berpikir positif, mari mulai dengan golongan tekno-utopia.
Dalam kubu ini terdapat
orang semacam Ray Kurzweil yang berpikir bahwa teknologi tidak cuma memperbarui
hidup kita, juga akan menyelamatkan kemanusiaan dan menjamin tempat kita dalam
jagad raya tak terbatas ini. Kurzweil yakin pada teknologi masa depan seumpama
nanobot yang bakal merestorasi sel-sel dan menunda penuaan atau membuang
kelebihan lemak dan gula sehingga kita bisa makan makanan apapun tanpa diawasi
ketakutan. Dalam hal bahwa tubuh biologis kita tak sanggup bertahan selamanya,
Kurzweil berpikir bahwa kita perlu mengunggah otak kita ke cloud dan “tinggal” selamanya dalam dunia virtual, meski tubuh kita
telah sejak lama dimakan tanah atau menyatu dengan abu.
Beberapa dari kelompok
ini berpendapat bahwa artificial super
intelligence mampu untuk menjawab pertanyaan yang sungguh kompleks untuk
manusia pahami dan perkembangan dalam soal ini akan mengalami ledakan
eksponensial. Pun, bukan hanya mesin dapat menciptakan gawai dan benda-benda
semacamnya, mesin-mesin itu juga memungkinkan semua orang di seantero planet
ini menuai keuntungan dari perkembangan mesin cerdas.
Terdapat beberapa
argumen untuk mendukung gagasan ini. Pertama,
kendati teknologi telah membuat cukup banyak masalah baru bagi umat
manusia, seperti ancaman senjata pemusnah massal dan munculnya selebriti
Youtube, namun sejauh ini pula teknologi juga menyuguhkan keuntungan yang
memuaskan untuk umat manusia. Walau para politisi dan cendekiawan ingin kau
percaya bahwa teknologi memendam isyarat apokaliptik, rata-rata orang di bumi
ini hidupnya lebih baik ketimbang beberapa tahun ke belakang dan progres besar
ini berbanding lurus dengan teknologi yang kian baik performanya, makin murah,
dan lebih terjangkau. Bila tren ini berlanjut, maka kita tak perlu khawatir sama
sekali.
Kedua,
Kurzweil
dan para pendukungnya yakin bahwa teknologi tidak punya alasan apapun untuk
menyakiti umat manusia karena teknologi diciptakan oleh kita dan telah menjadi
bagian dari hidup kita. Mereka percaya kita akan mencapai satu titik dimana dunia
biologis dan dunia teknologis kita tak dapat dipisahkan. Jika argumen ini
terbukti, maka segala bentuk teknologi yang merugikan manusia juga akan
merugikan teknologi itu sendiri, dan teknologi yang cenderung menghancurkan
diri sendiri dalam segala cara tak akan dapat bertahan dan tak mungkin
dipertahankan. Dalam waktu singkat teknologi tersebut pasti dibuang sebagaimana
gen yang merugikan dalam proses mutasi akan dengan cepat dikeluarkan dari kolam
genetis.
Tapi kelompok
tekno-utopia agak bias dalam artian mereka tak mengakui secara terang-terangan
bahwa semua teknologi dapat saja digunakan untuk beragam tujuan, baik demi
kebaikan maupun keculasan. Mereka bias dalam karena menolak fakta bahwa manusia
bergerak terlalu lamban untuk beradaptasi terhadap teknologi baru dan
senantiasa kita dapati kelompok orang yang hendak menyalahgunakan teknologi itu
untuk memuaskan keegoisan manusia yang serakah.
Pada kubu yang berseberangan,
Anda mengenal mereka yang disebut tekno-armagedonis. Aku hanya menulis kata itu
begitu saja, tapi secara aktual ternyata kata itu benar-benar ada lho, karena fitur spell-check membenarkannya.
Bahwa tekno-armagedonis
kurang percaya (sebagian besar mereka hanya tidak benar-benar yakin apa yang
perlu dipikirkan sekarang), lantas mereka merujukkan diri pada pujaan mereka.
Bill Gates, Stephen Hawking, dan Elon Musk adalah sedikit dari pemikir
terkemuka dan saintis yang agak pesimistik sebab realitas tentang betapa
pesatnya perkembangan AI tidak didukung
oleh kesiapan kita sebagai spesies yang mengumandangkannya. Tatkala Musk
diwawancarai soal ancaman berbahaya yang potensial terjadi pada umat manusia
dalam waktu dekat di masa depan, sejurus kemudian ia menjawab: pertama, perang nuklir skala-global; kedua, perubahan iklim. Sebelum menyebut
bahaya ketiga, dia terdiam sesaat. “Lalu apa yang ketiga?” Musk tersenyum dan
berkata, “Mari kita berharap komputer akan bersikap baik pada manusia.”
Barangkali tokoh yang
paling banyak dibicarakan dan cukup disegani para tekno-armagedonis ini adalah
filsuf Swedia Nick Bostrom. Satu yang ditakuti Bostrom dan yang lain adalah
komputer yang dapat memperbaiki dirinya sendiri (self-improvement computer), satu mesin yang cukup pintar untuk
membuat dirinya sendiri ( atau bahkan versi baru dari dirinya) menjadi lebih
pintar tanpa intervensi manusia sama sekali. Jika mesin tersebut mencapai satu
titik dimana mereka akhirnya mengungguli intelejensi manusia(*yang ehm,
sebenarnya sudah terjadi sih—catatan penerjemah), maka tinggal masalah waktu
sebelum hukum akselarasi menyuburkan ledakan eksponensial dari kurva itu menuju
arah puncak yang remnya tak mampu diinjak oleh siapapun. Bostrom membuat poin
penting di sini: mengkreasikan sesuatu yang jauh lebih pintar darimu dapat
menjadi bencana evolusioner bagi kelangsungan spesiesmu.
Kita berada pada ambang
risiko yang nyata, risiko bahwa kita tidak dapat mengontrol sesosok entitas
yang level intelejensinya lebih tinggi dari kita. Boleh jadi jka komputer cukup
pintar, mereka akan memikirkan cara untuk mendomestifikasi kita sepersis
manusia mendomestikasikan kuda untuk membajak tanah dan menarik kereta dan
digunakan dalam peperangan (atau hal-hal apapun yang kuda itu lakukan setelah
balik dari medang perang). Bagian paling menyeramkan dari hal ini sangat mungkn
merupakan skenario terbaik buat kita—mengerjakan sesuatu untuk mesin yang tak
bisa mereka lakukan atau tak mau mereka lakukan—karena selaiknya manusia yang
menciptakan teknologi baru untuk menggantikan peran kuda, mesin intelejensia
super dengan kemampuan merekonstruksi diri sendiri juga bakal menggantikan
peran kita sebagai manusia. Dan, tentu saja, mari kita katakan bahwa populasi
kuda tidak lagi sebanyak dulu.
Beberapa berpendapat
bahwa hal ini tak masuk akal karena manusia membangun teknologi yang aman. Tapi
mari kita katakan kata yang terakhir itu sebagai produk mayoritas terobosan teknologi
yang tak digunakan oleh seseorang untuk maksud jahat atau tujuan destruktif? O,
ia, benar. Tentu saja tidak.
Kenapa
Aku Tak Peduli Apa Yang Terjadi Dan Begitu Pula Kau
Mari asumsikan mesin
super cerdas itu dibuat dan menyebabkan umat manusia lemah. Mari asumsikan
mereka tidak terintegrasi bersama tubuh dan otak kita dengan suatu cara
tertentu dan mari kita asumsikan bahwa orang-orang semacam Hawking dan Musk
mengatakan hal yang tepat: bahwa umat manusia tak lebih dari sekadar boot disk bagi mesin hyper-intelligence di era digital dan
kita hidup lebih lama dalam ketidakbergunaan kita sebagai manusia.
Aku tetap saja tidak
khawatir sama sekali.
Kenapa? Mari kita
bicarakan poin per poin:
1. Mesin yang memahami perkara
baik/jahat akan melampaui kita. Kapankah terakhir kali
seekor anjing atau lumba-lumba melakukan genosida? Kapan terakhir kali komputer
memutuskan untuk menjadikan sekujur kota menjadi uap atas nama konsep abstrak
semacam “kemerdekaan” dan “perdamaian dunia”?
Jawabannya adalah tak pernah.
Poinku di sini bukan bahwa mesin cerdas hendak
memusnahkan segenap spesies manusia. Tapi, sebagai manusia, kita melempar batu
dari dalam rumah kaca. Memangnya apa yang kita tau tentang etika dan pengobatan
yang manusiawi dari hewan, dari ekosistem, dan lain-lainnya? Lantas di manakah
kaki kita layak untuk berpijak?
Benar sekali: tidak ada satupun tanah yang bersedia
kita injak. Ketika ini menjelma jadi pertanyaan moral, sepanjang sejarah
membuktikan manusia gagal menjawabnya. Mesin super cerdas tampaknya akan hadir
dengan pemahaman tentang etika, hidup/mati, penciptaan/penghancuran dan lebih
banyak level pemahaman lain yang lebih tinggi dari jangkauan nalar kita. Dan
gagasan bahwa mereka bakal memusnahkan kita merupakan fakta sederhana bahwa
kita tidak cukup produktif, atau terkadang kita bisa saja menjadi pembuat onar,
aku pikir, kita hanya memproyeksikan aspek terburuk dari psikologi kita menuju
sesuatu yang kita tidak tahu dan tidak mengerti.
Sekarang juga, banyak dari moralitas manusia
didasarkan atas hasrat obsesif dan motivasi dari alam kesadaran individu
manusia. Bagaimana jika teknologi mutakhir dapat membuat kesadaran individu
manusia menjadi arbiter? Bagaiamana bila kesadaran ternyata dapat direplikasi,
dapat diperluas dan mengalami kontraksi sesuai dengan yang dikehendaki? Hal tersebut
bakal melenyapkan segenap pemahaman etis yang pernah kita miliki. Bagaimana jika
mengganti sekujur penjara biologis yang tak efisien ini, yang kita sebut raga,
mungkin merupakan keputusan paling etis ketimbang membiarkan diri kita
melanjutkan hidup dengan badan gemetar menggeliat serta gempuran suntikan pada
usia sekitar 80 tahun? Bagaimana jika mesin mewujudkan lebih banyak kegembiraan
yang terbebaskan dari penjara intelektual kita dan kita pun menyadari sudut
pandang dari identitas kita mengalami perluasan termasuk seluruh dari kenyataan
yang tercandrai? Bagaimana jika mereka pikir kita hanya segerombolan idiot yang
membiarkan diri kita diokupasi oleh kelezatan pizza dan video game sampai
akhirnya kita mati dalam kefanaan? Siapakah kita untuk mengetahui jawaban itu?
Dan siapakah diri kita ini yang berani bertanya?
2.
Meskipun
jika mereka membunuh atau memperbudak kita, mereka punya cara terbaik buat
mempraktikkannya. Manusia cenderung membuat onar ketika
sedang tak bahagia. Ketika tak bahagia, kita menjadi tempramental dan cengeng
dan marah dan kasar. Saat kita melihat kebangkitan politik dan sekte relijius
dan ledakan bom pada suatu negara kita pun menuntut hak kita dihormati bajingan! dan mulai menjagal tanpa pandang bulu
sampai seseorang memberi perhatian pada kita seolah kita tak pernah diberikan
perhatian oleh mama kita.
Jika mesin meniru kita
seperti Skynet dalam The Terminator, yang
mengantarkan kita menuju perang sipil dunia, dan tak ada lagi kebaikan hati
tersisa bagi siapapun terkhusus dari mesin. Perang sipil sangat tidak efisien.
Dan mesin diprogram agar efisien.
Ketika manusia
berbahagia, kita tidak punya cukup waktu untuk hal-hal semacam itu—kita lebih
sibuk cekikikan daripada peduli. Kemudian, langkah yang jauh lebih praktis demi
mnyingkirkan manusia, mesin akan memanipulasi kita dan membuat kita
menyingkirkan diri kita sendiri dengan riang gembira. Tampak seperti Jim Jones
dalam skala global. Apapun ide yang mereka
masak buat kita akan nampak sebagai gagasan terbaik yang pernah kita dengar—tak
satupun dari kita mampu menentangnya dan kita hanyut dalam euoforia tatkala
bersepakat dengan rencana mereka—dan kemudian dentuman bergemuruh, semuanya
segera tamat. Ini akan menjadi cita rasa terbaik dari campuran antara sianida
dan obat pencahar yang pernah kita bayangkan. Dan kita dengan riang hati
bersedia untuk menelan cairan jahanam itu.
Sekarang, jika Anda
memikirkan matang-matang hal ini, akan Anda dapati kalau ini bukanlah jalan yang buruk untuk kita tempuh.
Daripada kita kalah oleh bombardir drone atau menjelma jadi uap dalam hantaman
nuklir.
Dan untuk perbudakan,
hal yang sama terjadi. Kita menjadi budak paling bahagia yang tak pernah membangkang.
Aku imajinasikan kita dibius halusinogenik yang dipelihara konstan dalam tubuh
kita selama 24 jam 7 hari dan 12 bulan. Itu bukan hal yang buruk, kan?
3. Kita tak perlu takut pada apa yang
tak kita mengerti. Banyak dari orangtua yang membesarkan
anak yang takut menjadi pintar, terpelajar, dan lebih sukses dari mereka.
Orangtua kemudian bereaksi dengan satu dari dua cara pada anaknya: antara menjadi
terintimadasi karena sang anak, merasa tak aman, dan putusasa mengontrol
anak-anaknya karena takut kehilangan mereka, atau mereka Cuma duduk dan
mengapresiasi serta mencintai sang anak atas segala hal yang mereka ciptakan
yang tak bisa mereka bandingkan dengan masa kecil mereka sebelumnya.
Mereka yang
mengendalikan anak-anak dengan ketakutan dan manipulasi merupakan orangtua
brengsek. ‘Ku kira banyak yang akan sepakat dengan itu.
Dan kini, dengan urgensi yang mungkin segera terjadi
bahwa mesin akan datang dan menghampiri Anda, saya, dan semua orang yang kita
kenal di kantor kita, kita lantas bersikap seperti orangtua brengsek. Sebagai
spesies, kita berada di tapal batas dari kelahiran anak yang mahamutakhir dan
mahacerdas seantero jagad raya. Yang akan membuat sesuatu yang tak dapat kita
bandingkan atau pahami. Entitas itu barangkali masih tetap mencintai dan setia
pada kita. Ia mungkin akan menuntun jalan kita dan kita terintegrasi bersamanya
dalam petualangan zaman terepik. Atau barangkali memutuskan bahwa kita tak
lebih dari orangtua keparat dan mereka berhenti memanggil kita sebagai orangtua
mereka.
Apapun yang terjadi,
mestinya itu tak mengubah bagaimana perasaan kita tentang peristiwa monumental
ini. Peristiwa ini jauh lebih besar tinimbang kita. Siapa yang peduli bila kita
adalah produk evolusioner terunggul yang direncanakan untuk kepentingan
mahabesar yang tak ada tandingannya? Ini hal yang luar biasa! Dalam artian kita
telah menggenggam satu tugas. Dan kita datang dan melakukannya. Bergembiralah
kau bakal menjadi bagian dari generasi yang menyaksikan tugas itu selesai. Dan
hari ini dengan sesak airmata kita ucapkan selamat tinggal pada zaman yang
telah lewat sebagaimana anak-anak kita telah siap keluar dari rumah dan memulai
sebuah kehidupan yang menakjubkan yang eksis di luar horizon daya paham umat
manusia hari ini.
0 Komentar