Menggunakan AI untuk Mendeteksi Bias dalam Pengambilan Keputusan Kerja

Setiap profesional membuat banyak keputusan setiap hari—mulai dari menentukan prioritas tugas, memilih pendekatan proyek, mengevaluasi hasil, hingga menentukan kandidat yang dianggap paling sesuai untuk sebuah tanggung jawab. Idealnya, keputusan tersebut dibuat berdasarkan informasi yang relevan dan kriteria yang jelas.

Namun, manusia tidak selalu menilai informasi secara sepenuhnya objektif. Pengalaman sebelumnya, asumsi, informasi yang paling mudah diingat, tekanan waktu, dan cara sebuah persoalan disajikan dapat memengaruhi penilaian.

Di sinilah kecerdasan buatan atau artificial intelligence (AI) dapat digunakan sebagai alat bantu. AI dapat membantu memeriksa pola dalam data, membandingkan keputusan dengan kriteria tertentu, atau menunjukkan ketidakkonsistenan yang mungkin terlewat dalam evaluasi manual.

Namun, AI tidak boleh dianggap sebagai mesin yang otomatis bebas bias. Sistem AI dibangun menggunakan data, metode, asumsi, dan keputusan manusia. Jika data atau proses yang digunakan memiliki masalah, hasil AI juga dapat mencerminkan atau bahkan memperkuat masalah tersebut.

NIST membahas tantangan ini dalam publikasi mengenai pengelolaan dan pengurangan bias dalam AI, yang menekankan bahwa bias AI perlu dilihat dalam konteks yang lebih luas daripada sekadar persoalan algoritma.

1. Memahami Bias dalam Pengambilan Keputusan Kerja

Bias dalam konteks pengambilan keputusan tidak selalu berarti seseorang dengan sengaja bertindak tidak adil. Dalam banyak situasi, bias muncul dari cara manusia menyederhanakan informasi agar dapat mengambil keputusan dengan cepat.

Contohnya, seseorang mungkin memberikan bobot terlalu besar pada informasi yang baru saja diterima. Dalam situasi lain, seseorang dapat lebih mudah menerima informasi yang mendukung keyakinan awalnya.

Beberapa bentuk bias yang dapat memengaruhi keputusan kerja antara lain:

• Confirmation bias, yaitu kecenderungan mencari informasi yang mendukung asumsi sebelumnya.
• Anchoring bias, yaitu terlalu bergantung pada informasi awal.
• Recency bias, yaitu memberikan bobot berlebihan pada kejadian terbaru.
• Availability bias, yaitu menganggap informasi yang mudah diingat sebagai sesuatu yang lebih penting.
• Penilaian berdasarkan kesan umum yang kemudian memengaruhi evaluasi aspek lainnya.

Misalnya, ketika mengevaluasi proyek, manajer mungkin terlalu berfokus pada hasil minggu terakhir dan mengabaikan performa selama beberapa bulan.

Pada proses lain, penilaian terhadap sebuah ide dapat dipengaruhi oleh siapa yang menyampaikannya, bukan hanya kualitas argumennya.

Mengenali kemungkinan adanya bias bukan berarti semua keputusan sebelumnya salah, tetapi membuka kesempatan untuk memeriksa apakah proses penilaian sudah cukup konsisten.

Pembahasan mengenai bias dalam lingkungan manajemen juga dapat ditemukan melalui panduan praktis mengenai bias bagi manajer.

2. Bagaimana AI Dapat Membantu Mengidentifikasi Pola

Salah satu keunggulan AI adalah kemampuannya mengolah banyak informasi secara konsisten berdasarkan instruksi dan data yang diberikan.

Dalam konteks pekerjaan, AI dapat digunakan sebagai alat bantu untuk menemukan pola yang sulit terlihat ketika data diperiksa secara manual.

Misalnya, organisasi dapat menganalisis:

1. Apakah kriteria evaluasi diterapkan secara konsisten.
2. Apakah kelompok tertentu memperoleh hasil yang berbeda secara sistematis.
3. Apakah keputusan berubah ketika informasi yang tidak relevan ikut dimasukkan.
4. Apakah terdapat indikator tertentu yang mendapatkan bobot terlalu besar.
5. Apakah alasan keputusan sesuai dengan kriteria yang telah ditentukan.

AI juga dapat membantu mengubah proses evaluasi yang sebelumnya sangat subjektif menjadi lebih terstruktur.

Sebagai contoh, sebelum mengevaluasi beberapa proposal, tim dapat menentukan kriteria seperti:

• Kesesuaian dengan tujuan.
• Biaya implementasi.
• Risiko.
• Waktu pengerjaan.
• Potensi manfaat.
• Ketersediaan sumber daya.

AI kemudian dapat membantu membandingkan setiap alternatif menggunakan kerangka yang sama.

Pendekatan tersebut tidak berarti AI menentukan keputusan akhir. Fungsinya adalah memberikan sudut pandang tambahan agar manusia dapat melihat kemungkinan inkonsistensi dalam proses penilaian.

Untuk memahami penggunaan AI dalam aktivitas profesional secara lebih luas, baca juga cara mengintegrasikan AI ke dalam alur kerja tim.

3. Gunakan AI sebagai Pemeriksa Kedua, Bukan Hakim Terakhir

Salah satu pendekatan yang relatif praktis adalah menggunakan AI sebagai second reviewer atau pemeriksa kedua.

Pengguna tetap membuat analisis awal, kemudian meminta sistem AI memeriksa alasan, asumsi, dan informasi yang digunakan.

Contohnya, setelah membuat keputusan proyek, pengguna dapat meminta AI mengevaluasi beberapa pertanyaan:

• Asumsi apa yang mendasari keputusan ini?
• Apakah terdapat informasi yang mungkin terlalu banyak diberi bobot?
• Informasi apa yang belum dipertimbangkan?
• Apa argumen terkuat yang berlawanan dengan keputusan tersebut?
• Apakah kriteria diterapkan secara konsisten?
• Data tambahan apa yang dapat mengubah kesimpulan?

Metode tersebut dapat membantu menghindari situasi ketika AI hanya digunakan untuk membenarkan keputusan yang sebenarnya sudah dibuat.

Hindari Prompt yang Mengarahkan Jawaban

Cara memberikan instruksi kepada AI juga penting.

Misalnya, pertanyaan:

"Jelaskan mengapa strategi A adalah pilihan terbaik."

secara tidak langsung sudah mengarahkan sistem untuk mendukung strategi A.

Pertanyaan yang lebih netral adalah:

"Bandingkan strategi A dan B menggunakan biaya, risiko, waktu implementasi, serta dampak jangka panjang. Identifikasi kelemahan argumen untuk masing-masing strategi."

Dengan cara tersebut, AI memiliki ruang lebih besar untuk membandingkan alternatif.

Prinsip serupa dapat digunakan ketika menyusun prompt AI untuk kebutuhan kerja.

4. Pastikan Data yang Dianalisis Tidak Menjadi Sumber Bias Baru

AI hanya dapat bekerja berdasarkan informasi yang tersedia bagi sistem. Karena itu, kualitas data menjadi bagian penting dalam analisis bias.

Bayangkan sebuah organisasi ingin menggunakan data keputusan beberapa tahun terakhir sebagai dasar evaluasi.

Jika keputusan historis tersebut sudah mengandung pola yang tidak adil atau kriteria yang tidak konsisten, AI dapat mempelajari pola tersebut sebagai sesuatu yang dianggap normal.

Inilah alasan mengapa data historis tidak selalu sama dengan standar yang seharusnya digunakan pada masa depan.

NIST melalui AI Risk Management Framework menyediakan kerangka untuk membantu organisasi mempertimbangkan dan mengelola berbagai risiko dalam pengembangan serta penggunaan AI.

Sebelum menggunakan data untuk membantu pengambilan keputusan, pertimbangkan:

• Dari mana data berasal?
• Siapa yang tercakup dalam data?
• Apakah terdapat informasi yang hilang?
• Apakah data masih relevan?
• Bagaimana data sebelumnya dikumpulkan?
• Apakah terdapat ketidakseimbangan representasi?
• Apakah indikator yang digunakan benar-benar berkaitan dengan keputusan?

Selain itu, jangan memasukkan informasi rahasia perusahaan atau data pribadi ke layanan AI tanpa memahami kebijakan penggunaan data dan aturan organisasi.

Kemampuan AI menemukan pola tidak menghilangkan kebutuhan untuk menilai apakah pola tersebut memang relevan dan layak digunakan.

5. Tetapkan Kriteria Sebelum Melihat Hasil

Salah satu cara sederhana untuk mengurangi keputusan yang terlalu dipengaruhi hasil tertentu adalah menetapkan kriteria evaluasi terlebih dahulu.

Misalnya, sebuah perusahaan sedang memilih tiga proyek digital.

Sebelum membaca seluruh proposal secara mendalam, tim dapat menentukan bobot:

1. Dampak terhadap pelanggan: 30%.
2. Biaya: 20%.
3. Waktu implementasi: 15%.
4. Risiko: 20%.
5. Kesesuaian strategis: 15%.

Setelah itu, setiap proyek dievaluasi menggunakan kerangka yang sama.

AI dapat membantu mengorganisasi hasil evaluasi, menunjukkan perbedaan skor, dan mengidentifikasi bagian yang belum memiliki bukti cukup.

Namun, bobot tersebut tetap harus ditentukan berdasarkan tujuan bisnis.

Jika AI diminta menentukan kriteria sekaligus memberikan skor dan mengambil keputusan akhir tanpa pengawasan, prosesnya dapat terlihat objektif padahal sebenarnya bergantung pada asumsi yang tidak diperiksa.

OECD menyediakan pembahasan mengenai artificial intelligence dan tata kelolanya, termasuk berbagai isu mengenai penggunaan AI yang tepercaya dan bertanggung jawab.

Dokumentasikan Alasan di Balik Keputusan

Dokumentasi juga membantu mengurangi inkonsistensi.

Catat:

• Kriteria yang digunakan.
• Data utama yang dipertimbangkan.
• Asumsi penting.
• Alternatif yang dibandingkan.
• Risiko yang diketahui.
• Alasan keputusan akhir.

Dengan dokumentasi tersebut, tim dapat melakukan evaluasi di kemudian hari.

Mereka dapat membandingkan apakah keputusan yang terlihat masuk akal pada awalnya memang menghasilkan dampak sesuai harapan.

6. Jangan Menggunakan AI untuk Membenarkan Keputusan yang Sudah Dibuat

Ada risiko lain yang sering tidak disadari: menggunakan AI hanya untuk mencari pembenaran.

Misalnya, seseorang sudah yakin ingin memilih strategi tertentu. Ia kemudian meminta AI menghasilkan sepuluh alasan mengapa strategi tersebut merupakan pilihan terbaik.

Secara teknis, AI mungkin dapat menjalankan instruksi tersebut. Namun, hasilnya tidak benar-benar berfungsi sebagai pemeriksaan bias.

Cara yang lebih baik adalah meminta AI melakukan counter-analysis.

Contohnya:

• Buat argumen terkuat yang menentang keputusan ini.
• Sebutkan tiga kondisi yang dapat membuat keputusan ini gagal.
• Informasi apa yang dapat membuktikan asumsi saya keliru?
• Bandingkan keputusan ini dengan dua alternatif.
• Tunjukkan bagian analisis yang masih berdasarkan asumsi.

Teknik tersebut membantu menciptakan proses evaluasi yang lebih seimbang.

Pengguna juga dapat memisahkan proses menjadi beberapa tahap:

1. Buat analisis awal tanpa AI.
2. Catat asumsi utama.
3. Gunakan AI untuk mencari kelemahan analisis.
4. Bandingkan hasil AI dengan data.
5. Diskusikan temuan dengan pihak yang relevan.
6. Buat keputusan akhir.
7. Dokumentasikan alasan keputusan.

AI kemudian menjadi alat untuk memperluas perspektif, bukan sekadar mesin persetujuan.

7. Pertahankan Pengawasan Manusia dan Evaluasi Berkala

Penggunaan AI untuk mendeteksi bias memiliki satu paradoks penting: alat yang digunakan untuk menemukan bias juga dapat memiliki keterbatasan dan biasnya sendiri.

Karena itu, keputusan penting tetap membutuhkan pengawasan manusia.

Hal ini semakin relevan ketika keputusan dapat berdampak besar terhadap seseorang, seperti rekrutmen, promosi, evaluasi performa, pemberian akses terhadap peluang, atau keputusan lain yang memiliki konsekuensi signifikan.

Organisasi sebaiknya memiliki mekanisme untuk:

• Meninjau hasil AI.
• Memeriksa sumber data.
• Mendokumentasikan proses.
• Menguji konsistensi hasil.
• Memberikan ruang bagi manusia untuk mempertanyakan rekomendasi.
• Melakukan evaluasi berkala terhadap sistem.
• Menetapkan pihak yang bertanggung jawab terhadap keputusan akhir.

Hasil AI juga tidak seharusnya dianggap benar hanya karena disajikan dengan bahasa yang meyakinkan.

AI generatif dapat menghasilkan informasi yang tidak tepat. Karena itu, klaim faktual yang memengaruhi keputusan penting perlu diverifikasi menggunakan sumber yang dapat dipercaya.

Perusahaan dapat menggabungkan pendekatan ini dengan panduan membangun workflow AI yang bertanggung jawab agar penggunaan teknologi tetap memiliki mekanisme pemeriksaan manusia.

Pada akhirnya, tujuan menggunakan AI untuk mendeteksi bias bukan menciptakan proses keputusan yang sepenuhnya otomatis.

Tujuannya adalah membuat proses berpikir menjadi lebih transparan, konsisten, dapat diperiksa, dan terbuka terhadap perspektif alternatif.

AI dapat membantu menemukan pola dalam data, mempertanyakan asumsi, membandingkan alternatif, dan menunjukkan ketidakkonsistenan. Namun, manusia tetap harus menentukan apakah analisis tersebut relevan dengan konteks yang sebenarnya.

Keputusan yang lebih baik bukan lahir karena manusia menyerahkan penilaian kepada AI, tetapi karena teknologi digunakan untuk membantu manusia menguji cara mereka mengambil keputusan.

Dengan kombinasi antara kriteria yang jelas, data yang berkualitas, dokumentasi, pemeriksaan alternatif, dan pengawasan manusia, AI dapat menjadi salah satu alat yang berguna untuk membantu organisasi memahami kemungkinan bias dalam proses kerja.