Life 3.0 : Being Human in the Age of Artificial Intelligence

Max Tegmark
Knopf (2017)
364 hal

𝑻𝒉𝒆 𝒔𝒂𝒅𝒅𝒆𝒔𝒕 𝒂𝒔𝒑𝒆𝒄𝒕 𝒐𝒇 𝒍𝒊𝒇𝒆 𝒓𝒊𝒈𝒉𝒕 𝒏𝒐𝒘 𝒊𝒔 𝒕𝒉𝒂𝒕 𝒔𝒄𝒊𝒆𝒏𝒄𝒆 𝒈𝒂𝒕𝒉𝒆𝒓𝒔 𝒌𝒏𝒐𝒘𝒍𝒆𝒅𝒈𝒆 𝒇𝒂𝒔𝒕𝒆𝒓 𝒕𝒉𝒂𝒏 𝒔𝒐𝒄𝒊𝒆𝒕𝒚 𝒈𝒂𝒕𝒉𝒆𝒓 𝒘𝒊𝒔𝒅𝒐𝒎 – 𝑰𝒔𝒂𝒂𝒄 𝑨𝒔𝒊𝒎𝒐𝒗

Sejak pertama tahu tentang bagaimana di tahun 80an beberapa negara berlomba mengembangkan senjata nuklir, Max Tegmark merasa seperti kutipan Isaac Asimov di atas, bahwa sains dan teknologi maju lebih cepat daripada kebijaksanaan manusia menerapkannya. Setelah menjadi fisikawan dan berkecimpung di dunia artificial intelligence, ia tahu persis potensi ‘superintelligent machine’ dan bagaimana tanpa kebijaksanaan, berpotensi berkembang tak terkontrol. Ia bertekad tidak akan mengeluhkan sesuatu tanpa berpikir secara serius tentang apa yang bisa dilakukannya mengenai hal tersebut. Dari sini ia mendirikan yayasan non profit Future of Life Institute (FLI).

Melalui FLI, Max Tegmark menyatukan para pakar, pemikir, dan praktisi artificial intelligence dunia dalam sebuah wadah untuk menggojlok dan menyatukan visi dalam usaha mengembangkan (dan mengontrol) teknologi AI untuk dunia yang lebih baik.
(Sebenarnya FLI tidak hanya berurusan dengan AI, tetapi juga senjata nuklir, biotech, dan perubahan iklim, tetapi buku ini khusus membahas AI)

Buku ini ditulis Tegmark untuk menjelaskan tentang AI terutama AGI (artificial general intelligence, ketika AI mencapai level yang sama dengan human intelligence, bahkan lebih), hasil pemikiran dan dialog para pakar AI, sains dan teknologi, serta pakar bidang-bidang lainnya seperti ekonomi, etika, filsafat, hukum, yang berkaitan erat dengan potensi kemunculan mesin supercerdas (jika terwujud) di masa depan. Tapi tidak itu saja, dalam buku ini Tegmark juga mengajak pembaca berdialog (ia banyak bertanya “Bagaimana menurut anda?” “Potensi AGI mana yang menurut anda paling baik?”) dan berpartisipasi menyalurkan pendapatnya melalui website FLI.

Buku ini dibuka dengan skenario imajinatif tentang bagaimana suatu ‘superintelligence’ bisa menguasai dunia dan membawanya ke arah yang lebih baik. Sebuah tim rahasia mengembangkan AGI dengan tujuan kebaikan. Ketika AGI tercapai, lalu dilepaskan ke dunia dan berevolusi sendiri. Ia mulai dengan menguasai media, lalu menguasai kepercayaan publik dan memperluas pengaruhnya. Dari sini dia bisa menghitung optimasi politisi dan pengambil kebijakan mana yang akan mendukung tujuannya (untuk membawa bumi ke arah lebih baik). Ditunjang media dan publik, politisi ybs berkuasa, dan kemudian sistem yang sama diterapkan di seluruh dunia sehingga (menurut optimasi si superintelligence) dunia akan terus berjalan ke arah yang baik di segala sektor.

Skenario idealnya begitu, tapi mungkinkah tercapai? Dalam 8 bab berikutnya Max Tegmark menganalisa secara mendalam berbagai segi yang berhubungan dengan AGI dan superintelligence.

1. Welcome to the Most Important Conversation of Our Time

Bab ini antara lain membahas definisi ‘hidup’, untuk menerangkan apa itu Life 3.0 seperti yang tertulis di judul buku.
Tegmark memberikan definisi ‘hidup’ sebagai suatu proses yang dapat mempertahankan kompleksitasnya dan bereplikasi. Proses ini berkembang lewat 3 tahap:
Life 1.0 (tahap biologis), berevolusi dengan cara mengembangkan hardware (fisik) dan software (DNA)nya secara bersamaan.
Life 2.0 (tahap budaya), mengembangkan hardware dan mampu merancang sendiri softwarenya (lewat kemampuan belajar). Manusia termasuk di tahap ini.
Life 3.0 (tahap teknologi) mampu merancang hardware dan softwarenya sendiri.
Di bab ini Tegmark mengingatkan, sebelum berdebat tentang AI, samakan dulu definisi ‘life’, ‘intelligence’, atau ‘consciousness’nya, karena kalau tidak perdebatannya tidak akan ada ujungnya.

2. Matter Turns Intelligent

Edward Robert Harrison, astronom Inggris pernah berkata “Hidrogen, jika diberi cukup waktu, berubah menjadi manusia.”
Bab ini mengeksplorasi tentang definisi kecerdasan, memori, komputasi dan ‘belajar’.

Apa definisi cerdas? Ternyata di antara para peneliti kecerdasan pun, tidak ada kesatuan definisi. Karenanya Tegmark mengartikan ‘intelligence’ secara luas: kemampuan untuk mencapai tujuan. Luas sekali bukan? Dan karena ada banyak tujuan, maka ada banyak juga tipe kecerdasan.

3. The Near Future: Breakthroughs, Bugs, Laws, Weapons and Jobs

Bab ini membahas perkembangan AI sampai saat ini, ketika perkembangannya sudah meluas tetapi kecerdasannya masih sempit dan terbatas. Meskipun begitu, AI sudah sangat banyak membantu manusia dan sangat besar manfaatnya. Karena itu sebelum semakin berkembang, manusia harus memikirkan bagaimana membuat AI lebih kokoh terhadap gangguan. Bagaimana memastikan AI aman dari segi verifikasi, validasi, keamanan, dan kontrol.
Di sini juga digambarkan bagaimana AI bisa membantu manusia di bidang hukum, ekonomi, perdagangan, dll. Dan karena besar kemungkinan banyak pekerjaan masa depan yang diambil alih oleh AI, Tegmark menyarankan supaya anak-anak mulai berpikir untuk mengambil karir di bidang-bidang yang belum bisa diganti oleh AI, yang butuh kemampuan sosial, kreativitas, dan yang tidak terduga/sulit dikomputasi.

4. Intelligence Explosion?
5. Aftermath: The Next 10,000 Years
6. Our Cosmic Endowment: The Next Billion Years and Beyond

Bab 4 sampai 6 mengeksplorasi berbagai skenario apa yang terjadi ketika superintelligence tercapai, menguasai dunia bahkan kosmos. Bagian ini agak mirip buku-buku fiksi ilmiah, tapi menurut Tegmark, buku-buku fiksi ilmiah yang ada sekarang terlalu sempit mengartikan ‘intelligence’ dan bagaimana cara mereka menguasai kosmos. “Mereka selalu berbentuk manusia!”, kata Tegmark. Padahal intelligence bisa hanya berbentuk informasi, dan dibandingkan dalam bentuk fisik manusia, lebih mudah bagi informasi untuk berkeliling kosmos.

7. Goals

Bab ini membahas apa itu goal, atau tujuan kehidupan. Karena dalam hubungannya dengan AGI, kita perlu memikirkan, apa tujuan si AGI ini, siapa yang menentukannya, dan apakah AGI ini akan selalu mengikuti tujuan si pembuatnya, atau bisa nantinya berbelok membuat tujuan sendiri?

8. Consciousness

Bab ini membahas tentang kesadaran. Apa definisi kesadaran, bagaimana kok partikel-partikel semesta yang dungu ini bisa menyusun dirinya sehingga mencapai kesadaran? Mungkinkah AI punya kesadaran? Jika ya, bagaimana kesadaran versi AI? Sudah sejauh apa penelitian dan teori tentang kesadaran?
Di sini Tegmark mendefinisikan kesadaran secara luas, sebagai ‘suatu pengalaman subjektif’, suatu fenomena yang muncul ketika suatu informasi diproses dengan cara tertentu.
Menurut Tegmark, semesta tidak ada artinya tanpa ‘conscious beings’ yang memberinya arti, karenanya untuk mengembangkan AGI apalagi superintelligent machine, kita sangat perlu memahami apa itu kesadaran.

Di akhir buku ini diceritakan tentang awal mula berdirinya FLI, bagaimana usaha Tegmark menghubungi para pakar dan visionaris AI dan mengumpulkan mereka untuk dialog dan diskusi dalam suatu konferensi (di Puerto Rico, dan Asilomar, California) untuk merumuskan dan menyatukan prinsip-prinsip riset AI.

Untuk informasi lebih jauh tentang FLI dan AI bisa berkunjung ke websitenya https://futureoflife.org/artificial-intelligence/