Jangan Takut pada AI, Takutlah pada Kebodohan Manusia
Tahun lalu, fisikawan teoretis terkenal Stephen Hawking berkelakar bahwa kecerdasan buatan adalah "hal terbaik atau terburuk yang pernah terjadi pada umat manusia."
Dia tidak sendirian dalam sentimen itu. Untuk setiap pernyataan bahwa algoritma AI akan mengubah dunia menjadi lebih baik, tampaknya ada argumen tandingan distopia bahwa teknologi tersebut akan menghancurkan umat manusia. Pendukung pandangan terakhir sering menggunakan citra seperti Terminator untuk menekankan risiko yang akan segera ditimbulkan oleh penguasa robot super cerdas bagi umat manusia. Namun, pandangan ini hampir sama banyaknya dengan Frankenstein karya Mary Shelley , yang pertama kali diterbitkan pada tahun 1818. Perbedaan utamanya adalah bahwa ia menggantikan monster Frankenstein dengan robot yang diberdayakan oleh AI.
Namun, sebagian besar skenario ini tidak tahan terhadap pengamatan lebih dekat. Mengapa robot dengan kecerdasan buatan ingin memusnahkan manusia—terutama jika mereka, yah, cerdas? Apakah kekhawatiran ini sendiri rasional? “Bukan kecerdasan buatan yang saya khawatirkan, melainkan kebodohan manusia yang membuat saya khawatir,” kata futuris Peter Diamandis dalam podcast Exponential Wisdom miliknya, Episode 33 , mengutip rekannya Neil Jacobstein, yang mengepalai divisi AI di Singularity University.
Kita akan lebih baik berfokus pada pola pikir irasional manusia daripada takut pada sosok menakutkan yang didukung AI. Dengan demikian, kita akan memahami bias dan pola pikir tidak logis kita yang dapat memengaruhi algoritma AI. Hal ini juga akan membantu memahami bagaimana AI dapat mengatasi keterbatasan intelektual bawaan kita dan meningkatkan produktivitas .
Buku Thinking Fast and Slow karya Daniel Kahneman merupakan sumber yang berharga dalam hal ini. Buku ini merangkum penelitian selama beberapa dekade yang mengantarkan Kahneman meraih Hadiah Nobel Memorial di bidang Ilmu Ekonomi pada tahun 2002. Buku ini membahas dasar-dasar psikologis dari bias sekaligus mengeksplorasi ekonomi perilaku. Temuannya juga menantang asumsi rasionalitas manusia dalam teori ekonomi modern.
Berikut ringkasannya:
Dua Sistem Otak
Sistem 1 (cepat) beroperasi secara tidak disengaja, otomatis, dan cepat, dengan sedikit atau tanpa usaha dan tanpa rasa kendali sukarela. Sistem ini bertanggung jawab atas intuisi, perasaan, dan kesan kita. Sebaliknya,
Sistem 2 (lambat) mengalokasikan perhatian pada aktivitas mental yang membutuhkan usaha, termasuk perhitungan kompleks. Sistem 2 membutuhkan fokus dan membentuk keyakinan kita. Operasi sistem 2 terkait dengan pengalaman subjektif tentang agensi, pilihan, dan konsentrasi. Sistem 2 dapat mengubah sistem 1 di bawah apa yang kita sebut "pengendalian diri" sampai batas tertentu. Namun, keadaan menjadi lebih rumit selama multitasking.
Sistem Sibuk dan Sistem Malas
Sistem 1 selalu aktif, selalu sibuk, dan selalu mencari jawaban. Sistem ini mengendalikan semua yang kita lakukan secara otomatis, tanpa sadar, dan naluriah. Sistem ini memberi kita informasi, baik kita mencarinya atau tidak, menciptakan prasangka, dan memberi tahu kita apakah kita "menyukai" atau "tidak menyukai" sesuatu. Sistem 2 melakukan tugas-tugas yang tidak dapat dilakukan oleh sistem 1. Oleh karena itu, kedua sistem harus bekerja sama untuk menciptakan pikiran yang berfungsi dengan baik. Sistem 2 lambat dan malas. Menurut hukum upaya minimal untuk aktivitas fisik, sistem ini berusaha melakukan sesedikit mungkin. Dengan demikian, kita pada dasarnya malas, itulah sebabnya pikiran kita menggunakan heuristik untuk menyelesaikan pekerjaan.
Perhatian dan Upaya atau Kemudahan Kognitif dan Ketegangan Kognitif
Sistem 1 selalu melakukan perhitungan, dan mengaktifkan Sistem 2 jika diperlukan upaya lebih. Jika otak kita merasakan bahwa semuanya baik-baik saja, kita mendapatkan manfaat dari kemudahan dan kesenangan kognitif (kita menyukai apa yang kita lihat, merasa nyaman, dll.). Jika otak kita mengidentifikasi informasi baru, mendeteksi potensi ancaman, data penting, atau permintaan yang belum terpenuhi, kita mengalami ketegangan kognitif. Dalam keadaan ini, kita merasa kurang nyaman tetapi cenderung membuat lebih sedikit kesalahan. Konsep-konsep ini hanya merujuk pada tingkat upaya yang diperlukan untuk memproses informasi. Manusia berusaha menghindari ketegangan kognitif, yang membuat kita sangat rentan terhadap bias. Kita berusaha untuk mengkonfirmasi bias tersebut melalui kemalasan yang menyebabkan pengambilan keputusan yang buruk.
Sistem 1 berfungsi dengan cara mengambil kesimpulan secara terburu-buru, alih-alih mempertimbangkan dengan cermat, dan menghasilkan jawaban yang hampir sepenuhnya berdasarkan pengalaman sebelumnya. Sistem 1 menggunakan pengalaman terbatas ini dalam berpikir intuitif dan mengambil kesimpulan hanya berdasarkan bukti tersebut, yang tidak ideal dalam hal pengambilan keputusan.
Heuristik, Senapan Mental
Ketika pikiran menghadapi pertanyaan atau konsep yang sulit, dan tidak ada jawaban langsung yang muncul, Sistem 1 melakukan substitusi, mencari pertanyaan yang terkait dan lebih sederhana daripada menjawab pertanyaan yang lebih sulit tersebut. Konsep ini juga dikenal sebagai "tembak mental". Prinsip ini menjelaskan mengapa manusia memiliki bias yang begitu kuat dan dapat sama sekali tidak menyadarinya. Kita dapat menyangkal keberadaan bias tersebut bahkan jika ditunjukkan oleh orang lain, seperti ilusi optik, stereotip rasial, penilaian cepat tentang apa yang adil, dan pengambilan kesimpulan berdasarkan sebab akibat.
Heuristik dan bias yang diuraikan oleh Kahneman meliputi anchoring, availability, narrative fallacy, dan outcome bias. Kekeliruan naratif terjadi ketika cerita-cerita yang keliru dari masa lalu membentuk cara kita melihat dunia dan apa yang kita harapkan dari masa depan. Kekeliruan naratif terjadi ketika kita menilai masa lalu berdasarkan hasil, bukan berdasarkan keadaan uniknya. Hindsight bias, yaitu kecenderungan untuk berpikir bahwa kita sudah mengetahui sesuatu sejak awal padahal mungkin tidak, adalah kekeliruan lainnya.
Kesalahan Perencanaan
Bias ini terjadi ketika kita meremehkan waktu, risiko, dan biaya dari suatu tugas di masa depan, serta melebih-lebihkan manfaatnya bahkan ketika seharusnya kita tahu lebih baik.
Penghindaran Risiko dan Kerugian
Penghindaran risiko mengacu pada perilaku yang dilakukan ketika dihadapkan pada ketidakpastian, di mana kita berupaya mengurangi ketidakpastian tersebut, kita menghindari risiko meskipun hasil yang pasti jauh kurang menguntungkan daripada mengambil tindakan berisiko.
Kesalahan Logika Biaya Tenggelam dan Ketakutan Akan Penyesalan
Biaya hangus adalah biaya yang sudah kita keluarkan, tetapi memengaruhi keputusan kita saat ini karena keengganan kita terhadap risiko. Harga yang kita bayarkan adalah tolok ukur nilai potensial saat ini.
Mengalami Diri dan Mengingat Diri
Diri yang mengalami beroperasi secara intuitif dan cepat, dan kemudian diambil kembali oleh diri yang mengingat, tetapi sering kali diubah dan diwarnai oleh otak.
Keakuratan Algoritma
Dalam hal memprediksi masa depan, algoritma hampir selalu lebih akurat daripada manusia—bahkan para ahli. Manusia, bahkan yang berpendidikan tinggi sekalipun, tidak konsisten dan seringkali keliru mempercayai intuisi atau "naluri" mereka. Data yang diproses melalui algoritma jauh lebih konsisten dan tidak bias daripada interpretasi manusia. Algoritma adalah proses langkah demi langkah untuk melakukan fungsi tertentu yang pada akhirnya akan menghasilkan hasil yang sama jika diikuti dengan benar. Algoritma akan selalu menghasilkan output yang sama jika diberikan output yang sama, dan algoritma pendek dapat dibuat untuk melakukan tugas-tugas kompleks. Ini seperti resep.
Apa Arti Semua Ini
Kita tidak selalu bisa mempercayai pikiran dan intuisi kita, karena adanya bias, heuristik, kekeliruan, dan penolakan yang salah. Kita harus mencoba mendekati masalah dengan berpikir perlahan dan sistematis, berusaha menghindari kesimpulan yang terburu-buru dan masalah yang tampaknya memiliki jawaban sederhana. Sadarilah kecenderungan alami kita untuk mudah terpengaruh oleh bias, stereotip, prasangka, dan kekeliruan. Cobalah untuk mengeksplorasi dan jangan menggunakan pengambilan keputusan yang malas, kita tidak memahami dunia sebaik yang kita kira. Kita harus berpikir dengan hati-hati dan perlahan jika memungkinkan. Kahneman mengatakan untuk meragukan penilaian dan intuisi kita, dan meluangkan waktu untuk mengevaluasi pikiran yang muncul di benak kita. Pikiran kita secara alami cenderung melakukan kesalahan, melebih-lebihkan, dan ingin mengabaikan ketidaktahuan kita sendiri. Mungkin ini dapat membantu kita untuk secara efektif menangani masalah seperti rasisme, kemiskinan, kekerasan, dan ketidaksetaraan—sekaligus mengembangkan algoritma yang dapat meningkatkan implementasi Internet of Things.
Algoritma tidaklah sempurna, dan buku Weapons of Math Destruction karya Cathy O'Neil merupakan kisah peringatan tentang desain variabel yang salah dan model yang diperkuat berdasarkan, sekali lagi, bias manusia. Namun, secara holistik, ilmu data, algoritma, dan kecerdasan buatan dapat membantu pengambilan keputusan manusia dan pencarian kebenaran. Kita harus menyadari bahwa banyak AI akan dibangun berdasarkan input dan output mesin ke mesin, misalnya, ambang batas sensor untuk menciptakan tindakan alih-alih intervensi manusia. Orang, organisasi, dan misi yang berbasis bukti dan digerakkan oleh data dapat membantu menghindari kesalahpahaman, konflik, atau membuat keputusan yang lebih baik.
Baca juga :
Komentar
Posting Komentar