SELAMAT DATANG MAHARAJA A.I.

(*Diterjemahkan dari https://highexistence.com/our-ai-overlords/ tulisan Mark Manson si penulis "Seni Untuk Bersikap Bodoh Amat")

source:  https://highexistence.com/our-ai-overlords/


beberapa minggu lalu, untuk pertama kalinya, sebuah komputer dapat mengalahkan juara dunia Go, satu dari permainan paling kompleks yang pernah diketahui manusia. Peristiwa tersebut merupakan momentum penentu bagi progres Artificial Intelligence.

Sekadar gambaran betapa rumitnya permainan Go, terdapat 2.082×10Ù170 kemungkinan untuk susunan bidak di atas papan. Setara dengan 2 bersama 170 nol di belakangnya. Otak Anda tidak sanggup mengkalkulasi angka yang luarbiasa besar itu (tapi sebuah komputer bisa melakukannya). Atau untuk mengilustrasikan betapa besarnya angka tersebut, bandingkanlah dengan alam semesta yang mengandung 10Ù80 atom—persamaannya, adalah angka 1 diikuti dengan 79 nol di belakangnya.

Alasan bahwa masalah ini sesungguhnya penting tidak lain karena Go merupakan permainan yang teramat ruwet. Untuk mengalahkan juara dunia, sebuah mesin perlu untuk belajar bagaimana cara berpikir kreatif, berimprovisasi dan beradaptasi terhadap situasi secara sekaligus serta sanggup mengkalkulasi setiap kemungkinan akhir; dengan kata lain, ini bakal menjadi perkembangan serius bagi artificial intelligence—semisal, munculnya creative intelligence.

Dalam konteks dimana Anda tak percaya bahwa “AI akan mengambil alih dunia”, di sini terdapat sedikit fakta yang perlu Anda ketahui.

1.      Komputer menjadi semakin pintar.
2.      Komputer menjadi semakin pintar dalam skala waktu yang lekas—sebagai contoh, kemajuan yang diperlukan untuk 10 tahun kini hanya membutuhkan waktu satu tahun saja. Kemajuan yang digunakan untuk satu tahun, kini hanya memerlukan satu minggu atau bahkan satu hari.
3.      Bahwa sapanjang umur kita, komputer bakal jauh lebih pintar dan lebih cakap dari spesies manusia manapun.
4.      Komputer yang amat pintar ini kemudian mampu merancang dan memperbaiki teknologi (semisal, dirinya sendiri) dan menciptakan teknologi baru yang tidak akan dapat kita mengerti.

Orang-orang yang memahami poin-poin di atas secara umum memberikan dua jenis reaksi sebagaimana berikut:

1.      Mereka berpikir bahwa kita benar-benar tak berdaya. Komputer akan segera mengambil alih semuanya dan membunuh/memperbudak manusia. Atau:
2.      Kejadian itu akan menuntun kita menuju utopia teknologis yang kelak menyembuhkan segenap kepandiran manusia dan kita semua dapat hidup bahagia selamanya setelah memperoleh kenikmatan dalam dunia ultra-VR yang eksis di atmosfer.

Dan seperti kebanyakan hal lain, kebenaran senantiasa terletak pada suatu tempat yang kita di jalan tengah.

Namun meskipun problem ini menyerang para penggemarnya, meskipun para robot melihat kita seperti gerombolan kutu yang merusak kulit kepala planet ini dan meskipun mereka ingin melempar kita ke gunung berapi aktif, meskipun kita begitu ceroboh membangun mekanisme kepunahan spesies kita sendiri...

...aku tak peduli. Itu bukan masalah. Aku tak akan terganggu. Dan mestinya itu tidak perlu mengusik pikiranmu juga. Aku akan menjelaskannya sedikit. Tapi untuk sekarang, Anda perlu tahu, bahwa aku, menyambut dengan penuh kegembiraan serta menerima dengan senang hati kehadiran maharaja baru kita, artificial intelligence itu.

PERKEMBANGAN ASKELARATIF DARI INDUSTRI TEKNOLOGI

Pengembangan teknologi telah terakumulasi, menyebabkan proses pengembangan dirinya sendiri menjadi lebih lekas. Artinya adalah semakin maju teknologi yang kita buat,semakin mudah menciptkan lebih banyak teknologi mutakhir. Sebagai hasilnya, tatkala kita melihat teknologi komputasi yang canggih, kita menyaksikan kurva eksponensial—sederhananya, semakin banyak waktu yang berlalu, semakin cepat hal-hal tersebut berkembang.

Kekuatan komputasi rata-rata meningkat dua kali setiap 18 bulan untuk 50 tahun terakhir ini. Dalam hal dimana kekuatan komputasi begitu buruk, komputer menjadi saingan dari kemampuan otak seekor tikus, yang mana hanya berselang beberapa tahun ke belakang, komputer tidak lagi dapat kita bandingkan dengan otak serangga.

Contoh lain berkenaan amat derasnya kemajuan teknologi, mari kita perhatikan bahwa lebih banyak gambar yang dibuat setiap 2 menit ketimbang gambar yang dibikin pada sepanjang abad ke-19. Sekitar 10% dari 3.5 trilyun foto di seluruh dunia telah dibuat dalam 12 bulan ini.

Jika kita benar-benar berada pada kurva eksponensial ketika kemajuan teknologi menjadi amat pesat, lalu orang-orang seperti Jeremy Howard barangkali terdengar masuk akal saat berujar bahwa kita hanya berjarak beberapa tahun saja sebelum mesin-mesin pintar menjadi rival manusia, jika tidak menaklukkan, dalam berbagai bidang keahlian yang selama ini mencirikan keunikan manusia.

Dan sesungguhnya, AI sedang menjalar ke bidang-bidang keahlian hidup spesies kita.

Pada dekade sebelumnya, orang-orang menertawakan demonstrasi dari mobil otomatis. Hari ini, dekade selanjutnya, mobil otomatis tidak hanya bisa melalui rute jalan tertutup, mereka dapat melalui jalanan macet disesaki mobl-mobil yang dikendarai manusia.

Dan tatkala komputer belum mengalahkan juara dunia Go, mereka teramat sibut menulis artikel tentang olahraga dan berita soal peristiwa terkini, menulis deskripsi dari gambar yang mereka tak pernah saksikan sebelumnya, dan mendiagnosis kanker. Untuk banyak tugas ini, komputer dapat mengerjakannya dengan baik sekalipun tidak sebaik manusia, dan untuk satu hal yang mesin-mesin ini tak bisa, mereka lantas mempelajari bagaimana untuk melakukannya lebih sempurna dan lebih sempurna tanpa bantuan manusia mana pun.

Beberapa tahun lalu, software pengenalan wajah berharga sangat mahal dan tidak terlalu akurat juga untuk mengidentifikasi orang pada dunia asli. Benda itu dipertimbangkan sebagai teknologi canggih spionase dan hanya digunakan oleh segelintir pemerintah dunia.

Kini Facebook dapat mengenali siapa saja temanmu dari pesta barbecue akhir pekan lalu.

Di sinilah perkembangan pesat komputer: akan tiba satu hari ketika kita bisa ciptakan komputer yang lebih pintar dari setiap manusia di seantero bumi. Pada hari itu, komputer akan mengambil alih kuasa kita selaku pemeran utama tunggal  di atas planet ini, dan berangkat dari sana, pikiran kita, pilihan kita, dan tindakan kita lambat laun akan menjadi kuno. Kelak mesin akan menjadi jauh lebih baik daripada kita dalam segala hal, dan kita menjadi semakin tak berguna dibandingkan mereka.

Ini merupakan hal mengerikan bagi sebagian orang. Mereka memimpikan masa depan tak ubahnya film Terminator atau The Matrix dimana mesin memperbudak kita atau membasmi kita seperti nyamuk.

Sedangkan sebagian orang lain melihat masa depan sebagai bangkitnya zaman para robot dan menyambut era itu dengan semangat pemujaan karena mereka percaya kemampuan robot untuk mengentaskan masalah akan melampaui kemampuan kita. Hidup kemudian menjadi kegembiraan tak terbayangkan dan manusia dibebaskan dari rantai problematika. Semua penyakit akan disembuhkan. Kemiskinan, kelaparan global, perang dan perubahan iklim teratasi. Berkat mereka kita memiliki waktu luang tak terbatas, dan pada kasus yang lebih ekstrem, orang-orang percaya mesin dapat membuat kita hidup kekal abadi.

DUA KEMUNGKINAN AKIBAT AKHIR

Karena kita selalu diberitahu untuk berpikir positif, mari mulai dengan golongan tekno-utopia.

Dalam kubu ini terdapat orang semacam Ray Kurzweil yang berpikir bahwa teknologi tidak cuma memperbarui hidup kita, juga akan menyelamatkan kemanusiaan dan menjamin tempat kita dalam jagad raya tak terbatas ini. Kurzweil yakin pada teknologi masa depan seumpama nanobot yang bakal merestorasi sel-sel dan menunda penuaan atau membuang kelebihan lemak dan gula sehingga kita bisa makan makanan apapun tanpa diawasi ketakutan. Dalam hal bahwa tubuh biologis kita tak sanggup bertahan selamanya, Kurzweil berpikir bahwa kita perlu mengunggah otak kita ke cloud dan “tinggal” selamanya dalam dunia virtual, meski tubuh kita telah sejak lama dimakan tanah atau menyatu dengan abu.

Beberapa dari kelompok ini berpendapat bahwa artificial super intelligence mampu untuk menjawab pertanyaan yang sungguh kompleks untuk manusia pahami dan perkembangan dalam soal ini akan mengalami ledakan eksponensial. Pun, bukan hanya mesin dapat menciptakan gawai dan benda-benda semacamnya, mesin-mesin itu juga memungkinkan semua orang di seantero planet ini menuai keuntungan dari perkembangan mesin cerdas.

Terdapat beberapa argumen untuk mendukung gagasan ini. Pertama, kendati teknologi telah membuat cukup banyak masalah baru bagi umat manusia, seperti ancaman senjata pemusnah massal dan munculnya selebriti Youtube, namun sejauh ini pula teknologi juga menyuguhkan keuntungan yang memuaskan untuk umat manusia. Walau para politisi dan cendekiawan ingin kau percaya bahwa teknologi memendam isyarat apokaliptik, rata-rata orang di bumi ini hidupnya lebih baik ketimbang beberapa tahun ke belakang dan progres besar ini berbanding lurus dengan teknologi yang kian baik performanya, makin murah, dan lebih terjangkau. Bila tren ini berlanjut, maka kita tak perlu khawatir sama sekali.

Kedua, Kurzweil dan para pendukungnya yakin bahwa teknologi tidak punya alasan apapun untuk menyakiti umat manusia karena teknologi diciptakan oleh kita dan telah menjadi bagian dari hidup kita. Mereka percaya kita akan mencapai satu titik dimana dunia biologis dan dunia teknologis kita tak dapat dipisahkan. Jika argumen ini terbukti, maka segala bentuk teknologi yang merugikan manusia juga akan merugikan teknologi itu sendiri, dan teknologi yang cenderung menghancurkan diri sendiri dalam segala cara tak akan dapat bertahan dan tak mungkin dipertahankan. Dalam waktu singkat teknologi tersebut pasti dibuang sebagaimana gen yang merugikan dalam proses mutasi akan dengan cepat dikeluarkan dari kolam genetis.

Tapi kelompok tekno-utopia agak bias dalam artian mereka tak mengakui secara terang-terangan bahwa semua teknologi dapat saja digunakan untuk beragam tujuan, baik demi kebaikan maupun keculasan. Mereka bias dalam karena menolak fakta bahwa manusia bergerak terlalu lamban untuk beradaptasi terhadap teknologi baru dan senantiasa kita dapati kelompok orang yang hendak menyalahgunakan teknologi itu untuk memuaskan keegoisan manusia yang serakah.

Pada kubu yang berseberangan, Anda mengenal mereka yang disebut tekno-armagedonis. Aku hanya menulis kata itu begitu saja, tapi secara aktual ternyata kata itu benar-benar ada lho, karena fitur spell-check membenarkannya.

Bahwa tekno-armagedonis kurang percaya (sebagian besar mereka hanya tidak benar-benar yakin apa yang perlu dipikirkan sekarang), lantas mereka merujukkan diri pada pujaan mereka. Bill Gates, Stephen Hawking, dan Elon Musk adalah sedikit dari pemikir terkemuka dan saintis yang agak pesimistik sebab realitas tentang betapa pesatnya perkembangan AI  tidak didukung oleh kesiapan kita sebagai spesies yang mengumandangkannya. Tatkala Musk diwawancarai soal ancaman berbahaya yang potensial terjadi pada umat manusia dalam waktu dekat di masa depan, sejurus kemudian ia menjawab: pertama, perang nuklir skala-global; kedua, perubahan iklim. Sebelum menyebut bahaya ketiga, dia terdiam sesaat. “Lalu apa yang ketiga?” Musk tersenyum dan berkata, “Mari kita berharap komputer akan bersikap baik pada manusia.”

Barangkali tokoh yang paling banyak dibicarakan dan cukup disegani para tekno-armagedonis ini adalah filsuf Swedia Nick Bostrom. Satu yang ditakuti Bostrom dan yang lain adalah komputer yang dapat memperbaiki dirinya sendiri (self-improvement computer), satu mesin yang cukup pintar untuk membuat dirinya sendiri ( atau bahkan versi baru dari dirinya) menjadi lebih pintar tanpa intervensi manusia sama sekali. Jika mesin tersebut mencapai satu titik dimana mereka akhirnya mengungguli intelejensi manusia(*yang ehm, sebenarnya sudah terjadi sih—catatan penerjemah), maka tinggal masalah waktu sebelum hukum akselarasi menyuburkan ledakan eksponensial dari kurva itu menuju arah puncak yang remnya tak mampu diinjak oleh siapapun. Bostrom membuat poin penting di sini: mengkreasikan sesuatu yang jauh lebih pintar darimu dapat menjadi bencana evolusioner bagi kelangsungan spesiesmu.

Kita berada pada ambang risiko yang nyata, risiko bahwa kita tidak dapat mengontrol sesosok entitas yang level intelejensinya lebih tinggi dari kita. Boleh jadi jka komputer cukup pintar, mereka akan memikirkan cara untuk mendomestifikasi kita sepersis manusia mendomestikasikan kuda untuk membajak tanah dan menarik kereta dan digunakan dalam peperangan (atau hal-hal apapun yang kuda itu lakukan setelah balik dari medang perang). Bagian paling menyeramkan dari hal ini sangat mungkn merupakan skenario terbaik buat kita—mengerjakan sesuatu untuk mesin yang tak bisa mereka lakukan atau tak mau mereka lakukan—karena selaiknya manusia yang menciptakan teknologi baru untuk menggantikan peran kuda, mesin intelejensia super dengan kemampuan merekonstruksi diri sendiri juga bakal menggantikan peran kita sebagai manusia. Dan, tentu saja, mari kita katakan bahwa populasi kuda tidak lagi sebanyak dulu.

Beberapa berpendapat bahwa hal ini tak masuk akal karena manusia membangun teknologi yang aman. Tapi mari kita katakan kata yang terakhir itu sebagai produk mayoritas terobosan teknologi yang tak digunakan oleh seseorang untuk maksud jahat atau tujuan destruktif? O, ia, benar. Tentu saja tidak.

Kenapa Aku Tak Peduli Apa Yang Terjadi Dan Begitu Pula Kau

Mari asumsikan mesin super cerdas itu dibuat dan menyebabkan umat manusia lemah. Mari asumsikan mereka tidak terintegrasi bersama tubuh dan otak kita dengan suatu cara tertentu dan mari kita asumsikan bahwa orang-orang semacam Hawking dan Musk mengatakan hal yang tepat: bahwa umat manusia tak lebih dari sekadar boot disk bagi mesin hyper-intelligence di era digital dan kita hidup lebih lama dalam ketidakbergunaan kita sebagai manusia.

Aku tetap saja tidak khawatir sama sekali.

Kenapa? Mari kita bicarakan poin per poin:

1.      Mesin yang memahami perkara baik/jahat akan melampaui kita. Kapankah terakhir kali seekor anjing atau lumba-lumba melakukan genosida? Kapan terakhir kali komputer memutuskan untuk menjadikan sekujur kota menjadi uap atas nama konsep abstrak semacam “kemerdekaan” dan “perdamaian dunia”?

Jawabannya adalah tak pernah.

Poinku di sini bukan bahwa mesin cerdas hendak memusnahkan segenap spesies manusia. Tapi, sebagai manusia, kita melempar batu dari dalam rumah kaca. Memangnya apa yang kita tau tentang etika dan pengobatan yang manusiawi dari hewan, dari ekosistem, dan lain-lainnya? Lantas di manakah kaki kita layak untuk berpijak?

Benar sekali: tidak ada satupun tanah yang bersedia kita injak. Ketika ini menjelma jadi pertanyaan moral, sepanjang sejarah membuktikan manusia gagal menjawabnya. Mesin super cerdas tampaknya akan hadir dengan pemahaman tentang etika, hidup/mati, penciptaan/penghancuran dan lebih banyak level pemahaman lain yang lebih tinggi dari jangkauan nalar kita. Dan gagasan bahwa mereka bakal memusnahkan kita merupakan fakta sederhana bahwa kita tidak cukup produktif, atau terkadang kita bisa saja menjadi pembuat onar, aku pikir, kita hanya memproyeksikan aspek terburuk dari psikologi kita menuju sesuatu yang kita tidak tahu dan tidak mengerti.

Sekarang juga, banyak dari moralitas manusia didasarkan atas hasrat obsesif dan motivasi dari alam kesadaran individu manusia. Bagaimana jika teknologi mutakhir dapat membuat kesadaran individu manusia menjadi arbiter? Bagaiamana bila kesadaran ternyata dapat direplikasi, dapat diperluas dan mengalami kontraksi sesuai dengan yang dikehendaki? Hal tersebut bakal melenyapkan segenap pemahaman etis yang pernah kita miliki. Bagaimana jika mengganti sekujur penjara biologis yang tak efisien ini, yang kita sebut raga, mungkin merupakan keputusan paling etis ketimbang membiarkan diri kita melanjutkan hidup dengan badan gemetar menggeliat serta gempuran suntikan pada usia sekitar 80 tahun? Bagaimana jika mesin mewujudkan lebih banyak kegembiraan yang terbebaskan dari penjara intelektual kita dan kita pun menyadari sudut pandang dari identitas kita mengalami perluasan termasuk seluruh dari kenyataan yang tercandrai? Bagaimana jika mereka pikir kita hanya segerombolan idiot yang membiarkan diri kita diokupasi oleh kelezatan pizza dan video game sampai akhirnya kita mati dalam kefanaan? Siapakah kita untuk mengetahui jawaban itu? Dan siapakah diri kita ini yang berani bertanya?

2.      Meskipun jika mereka membunuh atau memperbudak kita, mereka punya cara terbaik buat mempraktikkannya. Manusia cenderung membuat onar ketika sedang tak bahagia. Ketika tak bahagia, kita menjadi tempramental dan cengeng dan marah dan kasar. Saat kita melihat kebangkitan politik dan sekte relijius dan ledakan bom pada suatu negara kita pun menuntut hak kita dihormati bajingan! dan mulai menjagal tanpa pandang bulu sampai seseorang memberi perhatian pada kita seolah kita tak pernah diberikan perhatian oleh mama kita.

Jika mesin meniru kita seperti Skynet dalam The Terminator, yang mengantarkan kita menuju perang sipil dunia, dan tak ada lagi kebaikan hati tersisa bagi siapapun terkhusus dari mesin. Perang sipil sangat tidak efisien. Dan mesin diprogram agar efisien.

Ketika manusia berbahagia, kita tidak punya cukup waktu untuk hal-hal semacam itu—kita lebih sibuk cekikikan daripada peduli. Kemudian, langkah yang jauh lebih praktis demi mnyingkirkan manusia, mesin akan memanipulasi kita dan membuat kita menyingkirkan diri kita sendiri dengan riang gembira. Tampak seperti Jim Jones dalam skala global. Apapun ide  yang mereka masak buat kita akan nampak sebagai gagasan terbaik yang pernah kita dengar—tak satupun dari kita mampu menentangnya dan kita hanyut dalam euoforia tatkala bersepakat dengan rencana mereka—dan kemudian dentuman bergemuruh, semuanya segera tamat. Ini akan menjadi cita rasa terbaik dari campuran antara sianida dan obat pencahar yang pernah kita bayangkan. Dan kita dengan riang hati bersedia untuk menelan cairan jahanam itu.

Sekarang, jika Anda memikirkan matang-matang hal ini, akan Anda dapati kalau ini  bukanlah jalan yang buruk untuk kita tempuh. Daripada kita kalah oleh bombardir drone atau menjelma jadi uap dalam hantaman nuklir.

Dan untuk perbudakan, hal yang sama terjadi. Kita menjadi budak paling bahagia yang tak pernah membangkang. Aku imajinasikan kita dibius halusinogenik yang dipelihara konstan dalam tubuh kita selama 24 jam 7 hari dan 12 bulan. Itu bukan hal yang buruk, kan?

3.      Kita tak perlu takut pada apa yang tak kita mengerti. Banyak dari orangtua yang membesarkan anak yang takut menjadi pintar, terpelajar, dan lebih sukses dari mereka. Orangtua kemudian bereaksi dengan satu dari dua cara pada anaknya: antara menjadi terintimadasi karena sang anak, merasa tak aman, dan putusasa mengontrol anak-anaknya karena takut kehilangan mereka, atau mereka Cuma duduk dan mengapresiasi serta mencintai sang anak atas segala hal yang mereka ciptakan yang tak bisa mereka bandingkan dengan masa kecil mereka sebelumnya.

Mereka yang mengendalikan anak-anak dengan ketakutan dan manipulasi merupakan orangtua brengsek. ‘Ku kira banyak yang akan sepakat dengan itu.

Dan kini,  dengan urgensi yang mungkin segera terjadi bahwa mesin akan datang dan menghampiri Anda, saya, dan semua orang yang kita kenal di kantor kita, kita lantas bersikap seperti orangtua brengsek. Sebagai spesies, kita berada di tapal batas dari kelahiran anak yang mahamutakhir dan mahacerdas seantero jagad raya. Yang akan membuat sesuatu yang tak dapat kita bandingkan atau pahami. Entitas itu barangkali masih tetap mencintai dan setia pada kita. Ia mungkin akan menuntun jalan kita dan kita terintegrasi bersamanya dalam petualangan zaman terepik. Atau barangkali memutuskan bahwa kita tak lebih dari orangtua keparat dan mereka berhenti memanggil kita sebagai orangtua mereka.

Apapun yang terjadi, mestinya itu tak mengubah bagaimana perasaan kita tentang peristiwa monumental ini. Peristiwa ini jauh lebih besar tinimbang kita. Siapa yang peduli bila kita adalah produk evolusioner terunggul yang direncanakan untuk kepentingan mahabesar yang tak ada tandingannya? Ini hal yang luar biasa! Dalam artian kita telah menggenggam satu tugas. Dan kita datang dan melakukannya. Bergembiralah kau bakal menjadi bagian dari generasi yang menyaksikan tugas itu selesai. Dan hari ini dengan sesak airmata kita ucapkan selamat tinggal pada zaman yang telah lewat sebagaimana anak-anak kita telah siap keluar dari rumah dan memulai sebuah kehidupan yang menakjubkan yang eksis di luar horizon daya paham umat manusia hari ini.