Pernahkah kita membayangkan dunia yang serba canggih? Setidaknya, seperti yang tervisualisasikan pada film Star Trek. Semua serba otomatis, cepat dan instan. Segala masalah dapat terselesaikan melalui perhitungan sistem yang lambat laun tengah kita percayai secara absolut. Apapun yang diinformasikan oleh komputer, cenderung kita percayai secara penuh. 

Namun pernahkah ada yang menjamin, bahwa sistem tersebut akan dapat mendorong hasil yang benar-benar adil atau diharapkan oleh masyarakat? Jika ingin mengetahui jawabannya, mungkin kita bisa mengikuti kursus Computers, Ethics and Public Policy yang diselenggarakan oleh Stanford University. Jika ada yang belum mengetahui di mana Stanford University berada. Stanford adalah nama kampus berkelas dunia yang berdiri di kawasan California, Amerika Serikat.

Melalui kursus yang digelar, rupanya Stanford University ingin membentuk pelajar yang tidak hanya akan menjadi programmer komputer, namun juga mampu menyelami sebagai seorang pemegang kebijakan, sekaligus filusuf. Teknologi baru, tidak hanya dipelajari sebagai barisan coding. Untuk itu, peserta juga dibekali dengan pendekatan multidisiplin, bahkan menyentuh hal-hal yang berbau filosofis.

"Dalam kursus yang kami buat, kami ingin mengambil pendekatan multidisiplin yang sebenarnya, di mana peserta dapat bergulat dengan masalah-masalah filosofis dan kebijakan, sambil membumikan mereka dalam kode bahasa pemrograman," ujar Prof. Mehran Sahami, seorang guru besar ilmu komputer, yang juga mantan peneliti Google. Prof. Mehran adalah salah satu instruktur kursus, yang ditemani oleh Prof. Rob Reich, seorang guru besar ilmu politik. Selain itu, ada pula Prof. Jeremy Weinstein, guru besar ilmu politik yang pernah bertugas sebagai penasihat keamanan nasional pada masa pemerintahan presiden Obama.

Ternyata, IT Tak Hanya Tentang Coding

Mengupas tentang IT (information technology) ternyata tak hanya belajar tentang coding atau bahasa pemrograman. Sebagai contoh, kelas kursus di Stanford University, mengajak peserta untuk mengemukakan pemikirannya terkait kebijakan pengaturan parkir kendaraan di kampus. Hal itu terkait, seberapa cepat mobil harus meninggalkan parkir, bagaimana menangani frekuensi pengunjung yang membawa kendaraan pribadi, hingga hal apa yang harus dilakukan ketika terjadi tabrakan atau kecelakaan. 

Meski bersifat imajiner, peserta kursus diajak mempertimbangkan kompleksitas inovasi teknologi. Peserta kursus, diajak untuk mengeksplorasi segala dimensi, terkait dampak teknologi pada masyarakat. Baik itu dari perspektif pembuat kebijakan, maupun dari perspektif programmer, hingga mengambil sudut pandang dari seorang filusuf. Ternyata, dalam pembangunan sebuah program, juga terdapat ulasan terkait privasi dan keamanan, yang semestinya perlu disimulasikan terlebih dahulu. Bahkan polarisasi politik sekalipun, disebut dapat memunculkan bias dalam algoritma pengambilan keputusan yang mendasari sebuah pembangunan sistem komputer.

Algoritma Kotak Hitam

Sebagaimana dituliskan oleh Melissan De Witte dalam Stanford News, bahwa algoritma kotak hitam (black boxes), bisa menghasilkan keputusan yang sebenarnya tidak dapat dijelaskan oleh programmer yang menyusun kode algoritma sekalipun. Kita biasanya, tertutup oleh "kabut kecanggihan" dari sebuah sistem, sehingga dengan serta merta mempercayai setiap yang dihasilkan oleh sistem komputer. 

Lantas, bisakah sebuah coding itu adil? Sebagai contoh, dapat diambil pelajaran dari kasus yang dialami oleh Eric Loomis, yakni seorang pria Wisconsin yang hukuman penjaranya sebagian ditentukan oleh coding di komputer, yang digunakan untuk menghitung seberapa besar kemungkinan seorang yang bersalah, melakukan kembali perbuatan melanggar hukum. 

Lalu, apakah coding yang dibuat oleh sistem tersebut, bisa dipastikan memiliki algoritma yang tidak bias? Hal inilah yang kemudian disebut sebaga algoritma kotak hitam. Kasus Loomis, setidaknya mempertanyakan kembali apakah sistem yang rumit dan eksklusif, bisa menjamin untuk mengeluarkan hasil yang diharapkan oleh masyarakat? Secara matematis, bisa jadi proses yang disusun dalam pemrograman, tidak sesuai dengan kaidah sosial budaya yang diharapkan.

Pada tahun 2016 lalu, ProPublica, sebuah jurnalis nirlaba telah melakukan investigasi dengan mengumpulkan data yang kemudian digunakan untuk mereplikasi algoritma yang digunakan dalam kasus Loomis. Ternyata, ditemukan hal yang cukup mengagetkan. Diketahui, bahwa analisis yang digunakan dalam algoritma pada sistem yang menangani Loomis, memberikan orang kulit hitam, skor yang lebih tinggi dibandingkan orang kulit putih, sehingga menyebabkan menjadi tidak proporsional. Skor tinggi diberikan kepada warga kulit hitam, berdasarkan data pelaku tindak kejahatan yang ada pada era sebelumnya.

Data yang digunakan untuk melakukan analisis, disebut tidak proporsional, sehingga ketika data algoritma tersebut diproses, maka dengan sendirinya akan menjadi prasangka. Jadi, kecenderungan terhadap sejarah kejahatan untuk kelompok tertentu, dapat menyebabkan sebuah model untuk mereplikasi atau memperkuat kesenjangan yang ada. Dalam hal ini, keadilan dalam dunia pemrograman sekalipun, ternyata membutuhkan algoritma yang lebih akurat, dengan memasukkan karakteristik tambahan.

Perlu Membangun Sistem yang Kompatibel

Dengan demikian dapat dinyatakan, bahwa IT khususnya, lebih dari sekedar coding atau matematika. Tidak dapat dipungkiri, bahwa sistem otomasi telah mempengaruhi kehidupan manusia. Namun demikian, ternyata untuk merekonsiliasi tujuannya, perlu menjalani proses rumit, demi membangun sistem yang akurat, adil, menjamin transparansi, hingga menjaga privasi.
 
Untuk itu, diperlukan sistem yang kompatibel dengan ketersediaan akurasi, keadilan, transparansi, dan privasi. Dalam hal ini, juga terdapat pertanggungjawaban dari seorang programmer yang menyusun coding. Oleh karena itu, permasalahan teknis yang dihadapi oleh programmer, perlu dilengkapi dengan petunjuk yang menghubungkan dengan permasalahan sosial budaya yang lebih luas.

Sumber: news[dot]stanford[dot]edu

Penulis Asli: Melissan De Witte

Ilustrasi foto: page source dalam news[dot]stanford[dot]edu