Apa hubungan witch hunt di Abad Pertengahan Eropa, Stalin, Nazi, dan AI? Menurut sejarawan Yuval Noah Harari, penulis buku mega best-seller Sapiens dan Homo Deus, kita perlu mempelajari dan mengambil hikmah dari sejarah peristiwa-peristiwa ini dalam kaitannya dengan perkembangan teknologi AI.

Nexus: A Brief History of Information Networks from the Stone Age to AI

Yuval Noah Harari
Random House (2024)
528 hal

Sebetulnya saya agak kecele sama buku ini. Mungkin karena di judulnya ada ‘information’ dan ‘AI’, saya mengira isinya akan membahas tentang information theory Claude Shannon, Gregory Chaitin, atau ‘it from bit’nya John Wheeler. Tentu aja saya yang salah, udah tau Yuval itu sejarawan, kok berharap bahasan fisika dan computer science? Memang Yuval sendiri bercerita di buku ini bahwa meskipun dia berlatar belakang sejarah dan bukan computer science, pasca terbitnya buku Homo Deus tahun 2016 tiba-tiba orang-orang menganggapnya sebagai pakar AI. Haha. Tapi anggapan itu membuka pintu baginya untuk berdialog dengan para pakar AI beneran. Dan dalam berbagai dialognya itu, ia merasa bahwa ada kesan terlalu naif dalam keoptimisan mereka akan perkembangan AI, tanpa melihat sejarah manusia dalam konteks jaringan informasi. Menurutnya, mempelajari sejarah berguna untuk lebih memahami perkembangan teknologi, ekonomi, budaya, dan perubahan prioritas politik di masa sekarang. Risetnya tentang sejarah, politik, dan konflik masa lalu bisa dikaitkan dengan perkembangan AI dan bisa memberikan perspektif baru untuk bahan pemikiran bersama.

Karena ‘informasi’ bisa didefinisikan berbeda oleh berbagai cabang ilmu, dalam buku ini Yuval memfokuskan informasi dalam konteks komunikasi manusia, bisa melalui bahasa lisan, tulisan, simbol, atau apapun yang mengkomunikasikan sesuatu. Tapi sesuatu menjadi informasi yang punya arti atau tidak, tergantung perspektif penerimanya. Dicontohkan kisah spionase di mana bukaan daun jendela dijadikan kode/informasi bagi pihak Inggris yang berperang dengan Ottoman. Bagi orang lain jendela itu tidak ada artinya, namun merupakan informasi berharga bagi tentara Inggris. Jadi suatu hal/benda baru menjadi informasi ketika ditempatkan pada konteks tertentu.

Menurut Yuval, adalah naif memandang informasi sebagai representasi realitas dalam usaha mencari kebenaran, karena sebagian besar informasi di dunia tidak merepresentasikan apapun. Karena itu, ia sangat tidak sepakat dengan mereka yang berpandangan bahwa solusi bagi masalah yang diakibatkan oleh misinformasi dan disinformasi adalah tambahan informasi. Pandangan ini, yang disebut counterspeech doctrine, mengatakan bahwa dalam jangka panjang, diskusi bebas akan membongkar kebohongan dan kesalahan persepsi. Menurutnya, jika memang benar informasi itu berkaitan dengan kebenaran, maka seharusnya saat ini kita sudah tahu mana yang benar mana yang tidak, karena informasi berlimpah. Tapi buktinya tidak.
Informasi yang berlimpah tidak membuat Homo Sapiens lebih bijak. Menurutnya, fungsi informasi adalah MENCIPTAKAN realitas baru dengan mengaitkan hal-hal yang terpisah; sifatnya adalah menghubungkan, bukan merepresentasikan. Informasi adalah apapun yang menghubungkan titik-titik berbeda ke dalam suatu jaringan. “Information doesn’t necessarily inform us about things. Rather, it puts things in formation,” tulisnya. Nexus, yang dijadikan judul buku ini, berarti koneksi atau hubungan antar berbagai hal, manusia, atau peristiwa, terutama sebagai bagian dari suatu rantai sebab akibat. Melihat informasi sebagai ‘social nexus’ membantu kita memahami berbagai aspek dalam sejarah manusia yang bertentangan dengan pandangan naif tadi.

Dalam sejarah manusia, penemuan teknologi informasi baru selalu merupakan katalis bagi suatu perubahan besar, karena peran terpenting informasi adalah untuk merangkai network baru, alih-alih sebagai penyampai fakta. Informasinya sendiri bisa benar bisa salah, tapi selalu menciptakan koneksi-koneksi baru dengan jangkauan lebih luas. Berbagai revolusi besar dalam sejarah biasanya dibingkai dalam perspektif politik, ideologi, atau ekonomi, namun kita juga bisa melihatnya sebagai revolusi aliran informasi. Dan dalam hal inilah perspektif sejarah menjadi relevan dalam bahasan AI. Lagipula, pada dasarnya teknologi itu netral, manusia yang menciptakan dan menggunakannyalah yang bisa mengarahkannya menjadi kebaikan ataupun keburukan. Maka kita juga perlu mempelajari bagaimana manusia menggunakan teknologi informasi di masa lalu untuk mengambil hikmahnya menghadapi perkembangan teknologi AI, sebelum terlambat.

Buku ini terbagi menjadi 11 bab yang dikelompokkan ke dalam 3 bagian besar: Human Networks, The Inorganic Network, dan Computer Politics.

Human Networks membahas bagaimana peran storytelling atau narasi yang membentuk ‘intersubjective reality’ (bahasa kerennya dari myth/mitos) yang dipegang banyak orang. Soal mitos sudah dibahas ya di buku Sapiens, tapi sebagai pengulangan, mitos di sini jangan diartikan sebagai ‘cerita bohong’ ya, melainkan narasi yang dipercayai dan dipegang oleh suatu kelompok dalam kaitannya dengan tempatnya di dunia dan bagaimana berlaku di dalamnya. Bagaimanapun, Homo Sapiens bisa menguasai dunia bukan karena jago menjadikan informasi sebagai representasi realitas yang akurat, melainkan karena kita pintar memanfaatkan informasi dalam bentuk narasi untuk menghubungkan banyak orang melalui kesepakatan dan kerjasama. Mitos digunakan untuk menciptakan keteraturan, dan tidak selalu merepresentasikan kebenaran.

Mungkin banyak yang otomatis mengasosiasikan dengan agama, namun mitos juga berlaku untuk negara, identitas budaya, sistem perekonomian, politik, dll. Misalnya dalam buku ini Yuval mengritik mitos pendirian negaranya sendiri, Israel (meskipun Yuval orang Israel, di buku ini dia banyak mengritik negaranya dan pemerintahnya saat ini yang dianggapnya ekstrim. Saya menangkap pemikiran-pemikirannya ini juga dipengaruhi pengalamannya sebagai minoritas di sana). Sastrawan Yahudi Hayim Bialik dari Ukraina dan aktivis politik Theodor Herzl dari Hungaria pada abad 19 membentuk visi pendirian Jewish state di Palestina, berdasarkan mitologi dari kitab suci (bahwa itu tanah mereka) tanpa memahami dan memperhitungkan kondisi sebenarnya di lapangan, bahwa saat itu Palestina adalah tempat tinggal ratusan ribu orang Arab dan Yahudi Mizrahi, dan kedua kelompok ini kemudian terusir dari tanahnya “partly as a result of poems composed half a century earlier in Ukraine,” tulis Yuval.

Apa relevansi mitos ini dengan teknologi informasi?
Munculnya teknologi untuk mencetak buku dan koran, telah membuka jalur informasi menjadi lebih luas. Informasinya sendiri bisa benar bisa salah, tapi jangkauannyalah yang menjadi lebih luas melalui teknologi. Ada masanya di Abad Pertengahan, buku yang paling ngehits adalah buku how-to tentang bagaimana memburu dan membunuh ‘penyihir’, yang ditulis oleh seorang biarawan. Dan efeknya luar biasa merusak. Banyak orang yang tidak bersalah, termasuk anak-anak, dibunuh atas tuduhan ini.

Begitu juga kemunculan teknologi radio dan TV, yang membuka jalur informasi menjadi lebih luas lagi. Bagi sistem demokrasi yang merupakan jaringan informasi terdistribusi, yang membuka kesempatan untuk diskusi bebas dan perbedaan pendapat, terbukanya jalur informasi ini banyak manfaatnya. Apalagi karena dalam demokrasi ada sistem ‘check and balance’ yang bertugas menjaga supaya pemimpinnya tidak semena-mena (eksekutif diawasi oleh legislatif dan yudikatif, juga jurnalisme bebas dan akademisi). Dalam sistem ini, informasi yang salah bisa dikoreksi. Tapi di negara dengan sistem kediktatoran, yang merupakan jaringan informasi terpusat dan tidak memiliki self-correcting mechanism, terbukanya jalur informasi tidak mengubah informasinya sendiri, hanya memperluas jaringannya. Pusat mendikte segalanya dan semua orang harus patuh dalam diam, kalau tidak mau disikat.

Yuval mengambil contoh Jerman dan Soviet. Nazisme dan Stalinisme adalah dua jaringan terkuat yang pernah ada dalam sejarah manusia, dan jalur informasinya terpusat di pemimpinnya, tanpa ada sistem koreksi. Teknologi informasi digunakan untuk menyebarkan propaganda, dan mereka yang melawan dihilangkan. Sejarah mencatat betapa besar kerusakan yang mereka ciptakan. Dan sejarah ini berpotensi berulang dengan teknologi informasi yang lebih powerful, yang dimanfaatkan oleh gerakan politik populisme seperti yang banyak muncul sekarang.

Dari sini sudah kebayang ya, apa argumen Yuval?

Di bagian kedua, The Inorganic Network, dibahas tentang komputer sebagai teknologi informasi level berikutnya. Teknologinya kali ini tidak sekadar menjadi alat yang pasif, yang mengalihkan informasi dari satu tempat ke tempat lainnya. Algoritma komputernya sendiri bisa ikut serta mengambil keputusan! Untuk pertama kalinya dalam sejarah, jaringan informasi manusia mengikutsertakan non-human intelligence sebagai anggotanya, sesuatu yang ‘tidak punya pertimbangan moral’ dan hanya mempertimbangkan apakah dia bisa mencapai tujuannya atau tidak, dengan cara apapun, sesuai apa yang diprogramkan.

Dicontohkan tentang algoritma Facebook yang ditentukan oleh perusahaan dengan tujuan ‘meningkatkan user engagement’. Ketika kemudian algoritma menemukan bahwa postingan paling laku, paling banyak user engagementnya, adalah postingan yang memicu kebencian dan kemarahan, maka algoritma memutuskan bahwa postingan seperti itulah yang banyak diangkat dan disebarkan di Facebook. Akibatnya? Diceritakan bahwa algoritma Facebook berkontribusi besar dalam genosida etnis Rohingya di Myanmar. Inilah pertama kalinya dalam sejarah, algoritma komputer ikut bertanggung jawab dalam suatu kampanye ethnic-cleansing. Tragis dan menyedihkan.

Meskipun sudah ada usaha memperbaiki, namun bisa kita lihat sendiri bagaimana algoritma media sosial tetap lebih banyak mempromosikan postingan-postingan yang heboh, memicu kemarahan, meskipun isinya berupa disinformasi dan hoax (konten keren kayak review buku ilmiah populer nggak akan bisa bersaing deh, hiks). Belum lagi soal bagaimana saat ini semakin banyak aspek kehidupan yang ditentukan oleh algoritma komputer, seperti layak tidaknya seseorang mendapat kredit bank, kans masuk universitas, dll (btw, hal-hal ini juga dibahas di buku-buku yang pernah saya review seperti Rage Inside the Machine dan Weapons of Math Destruction). Teknologi face recognition yang sekarang banyak dipakai, diawali dengan melatih komputer untuk mengenali foto kucing. Tampak nggak berbahaya, ya? Tapi teknologi yang sama dikembangkan tentara Israel untuk mengawasi orang Palestina, dan dikembangkan Iran untuk menangkap para perempuan yang tidak berhijab. Nah, bagaimana jika teknologi ini dipakai oleh para pemimpin diktator, yang mengerahkan AI untuk surveillance system?

Algoritma komputer yang relatif masih bisa dikendalikan oleh manusia saja bisa merusak seperti itu karena ‘alignment problem’, bagaimana lagi dengan AI yang bisa berkembang menjadi suatu entitas Superintelligence? Di bagian Computer Politics Yuval mengeksplorasi kemungkinan-kemungkinan bagaimana komunikasi antar komputer bisa terjadi tanpa bisa dikontrol oleh manusia, karena berupa ‘black box’. Kita tidak tahu proses bagaimana AI menghasilkan keputusan A atau B, manusia tidak lagi bisa mengontrolnya. Keputusan programmer saat ini bisa merambat ke masa depan, entah sampai kapan dan efeknya seperti apa.
Oya, tentang AI dan superintelligence, bisa dibaca juga buku Life 3.0 dari Max Tegmark yang pernah saya review. Ada skenario imajiner seandainya dunia ini dikuasai oleh suatu entitas superintelligence. Max Tegmark juga berpendapat seperti Yuval, bahwa tanpa kebijaksanaan, AI berpotensi berkembang tak terkontrol dan karenanya ia mendirikan yayasan non profit Future of Life Institute (FLI) yang menyatukan para pakar AI dalam sebuah wadah untuk menggojlok dan menyatukan visi dalam usaha mengembangkan dan mengontrol teknologi AI untuk dunia yang lebih baik.

Lalu apa kesimpulan dari buku ini? Menurut Yuval, jangan menciptakan teknologi yang tidak bisa dikontrol. Bukan berarti harus berhenti, namun sebelum terlambat, mari kita berkomitmen membangun mekanisme self-correctionnya dulu, batas-batas untuk menjaga supaya AI tidak merajalela di luar kendali. Semakin powerful suatu jaringan informasi, semakin vital pula tersedianya mekanisme self-correction. Dan ini sebenarnya berlaku juga bagi kita sebagai penerima dan pengguna informasi. Kita harus punya self-correcting mechanism, dalam artian harus punya skill critical thinking, mau menerima kesalahan dan belajar dari kesalahan, serta mengoreksi kesalahan tersebut. Dengan begitu informasi tidak hanya sekadar menjadi pengetahuan, melainkan membawa pada kebijaksanaan.

-dydy-