Akuntabilitas dan Transparansi Algoritma: Dilema Etis dan Tata Kelola AI

Adopsi Kecerdasan Buatan (AI) yang meluas dalam pengambilan keputusan penting, mulai dari penilaian kredit hingga penegakan hukum, telah memicu sorotan tajam terhadap konsep akuntabilitas dan transparansi algoritmik. Meskipun kedua istilah ini sering digunakan secara bergantian, terdapat perbedaan mendasar yang harus dipahami untuk merumuskan tata kelola yang efektif.

Transparansi, Interpretasi, dan Keterpenalan (Explainability). Transparansi dalam konteks AI secara harfiah merujuk pada akses penuh terhadap cara kerja internal sistem, termasuk kode sumber dan data pelatihan. Namun, sifat model pembelajaran mendalam (deep learning) yang kompleks dan rumit, dikenal sebagai Masalah Kotak Hitam (Black Box Problem), membuat transparansi penuh secara teknis sulit dan secara komersial tidak diinginkan. Oleh karena itu, fokus telah bergeser ke Keterpenalan (Explainability atau XAI), yang didefinisikan sebagai kemampuan untuk menjelaskan mengapa suatu keputusan spesifik dibuat, daripada mengungkap cara kerja sistem secara keseluruhan. XAI berfungsi sebagai solusi yang lebih praktis, memungkinkan pengguna untuk memahami proses keputusan tanpa harus mengetahui detail komputasi internal yang rumit.

Akuntabilitas dan Pertanggungjawaban (Responsibility). Akuntabilitas tidak terbatas pada penjelasan teknis semata. Akuntabilitas merupakan kebutuhan normatif yang mensyaratkan adanya mekanisme yang jelas bagi individu untuk meninjau dan menantang keputusan algoritmik yang memengaruhi kehidupan mereka. Dalam birokrasi publik, akuntabilitas memerlukan kepemimpinan etis untuk memastikan bahwa proses penilaian, seperti yang menggunakan Automated Valuation Model (AVM), tetap transparan dan dapat dipertanggungjawabkan. Kepemimpinan etis menjamin bahwa AI berfungsi sebagai alat bantu, bukan pengganti keputusan profesional manusia.

Hubungan Kausal dengan Kepercayaan Publik. Ketiadaan transparansi dan akuntabilitas menciptakan “kesenjangan pemahaman” antara teknologi dan penggunanya. Kurangnya keterbukaan ini secara langsung berhubungan dengan masalah akuntabilitas. Ketika keputusan yang merugikan dirasa tidak adil atau tidak masuk akal, hal itu akan menurunkan kepercayaan publik terhadap sistem AI. Selain itu, masalah akuntabilitas menjadi rumit karena tanggung jawab dalam ekosistem AI tersebar di berbagai pihak (pengembang, pemilik data, regulator, pengguna). Kurangnya satu titik akuntabilitas yang jelas dapat menyebabkan kegagalan sistematis tanpa adanya penanggung jawab yang pasti, yang pada gilirannya memperparah hilangnya kepercayaan.

Imperatif Etis, Sosial, dan Ekonomi

Transparansi dan akuntabilitas bukan hanya isu teknis, melainkan fondasi bagi legitimasi sosial dan kelangsungan ekonomi dalam era digital.

Legitimasi Keputusan Publik. Dalam administrasi negara, penggunaan teknologi wajib menjamin keadilan dan hak warga negara untuk menggugat rekomendasi teknologi. Kepastian hukum atas hasil keputusan berbasis algoritma dalam proses administrasi negara seringkali belum sepenuhnya jelas, menimbulkan keraguan terhadap legitimasi dan daya ikatnya. Birokrasi yang etis diwajibkan untuk menjaga akuntabilitas, transparansi, dan keadilan dalam setiap proses pelayanan publik.

Pencegahan Amplifikasi Bias Sosial. Akuntabilitas dan transparansi bertindak sebagai mekanisme pertahanan utama untuk mencegah algoritma memperparah ketidaksetaraan sosial atau melanggengkan bias historis. Ketika algoritma dirancang tanpa memperhatikan konteks sosial, ia dapat secara sistematis menciptakan hasil yang tidak adil atau diskriminatif, yang kemudian memperkuat bias ras, gender, atau etnis yang sudah ada.

Trustworthy AI sebagai Prasyarat Bisnis Global. Tren global bergerak menuju Trustworthy AI, sebuah konsep yang menekankan bahwa akuntabilitas dan transparansi adalah prasyarat, bukan fitur tambahan, bagi sistem AI. Ini penting untuk menjaga stabilitas sistem keuangan dan mendorong inovasi yang bertanggung jawab. Prinsip-prinsip ini (Transparansi, Akuntabilitas, Non-diskriminatif, Keamanan/Privasi) merupakan pilar tata kelola global yang diadopsi oleh lembaga-lembaga seperti PBB dan OECD, menjadikannya standar yang harus dipatuhi untuk partisipasi dalam ekonomi digital global.

Tantangan Teknis Dan Akar Masalah Opasitas (The Black Box Problem)

Anatomi Masalah Kotak Hitam (Black Box Problem)

Masalah Kotak Hitam (Black Box Problem) adalah tantangan paling mendesak yang menghambat transparansi sejati dalam AI modern. Fenomena ini merujuk pada kesulitan dalam memahami dan menafsirkan cara kerja internal model AI, terutama yang berbasis pembelajaran mendalam.

Kompleksitas Model Pembelajaran Mendalam. Model deep learning, khususnya jaringan saraf tiruan, dibangun dari ratusan lapisan node yang saling berhubungan. Selama pelatihan, bobot dan bias pada node ini disesuaikan berdasarkan data masukan. Proses penyesuaian ini menghasilkan transformasi data yang sangat kompleks, menjadikannya mustahil bagi manusia untuk melacak secara intuitif bagaimana model mencapai kesimpulan atau prediksi spesifik.

Konsekuensi Hukum dan Praktis Opacity. Opasitas memiliki konsekuensi praktis dan legal yang signifikan. Secara praktis, end-user cenderung kurang percaya dan enggan menyerahkan kendali kepada mesin yang cara kerjanya tidak mereka pahami. Bagi software engineers, opasitas menghambat kemampuan untuk mengintervensi dengan cepat guna meningkatkan kinerja atau memperbaiki kelemahan sistematis. Secara legal, opasitas mencegah badan regulasi, seperti yang menangani diskriminasi, untuk menentukan legalitas suatu keputusan, misalnya apakah bias rasial atau gender telah terjadi.

Risiko Automation Bias. Bahaya opasitas semakin diperparah oleh automation bias, di mana algoritma secara keliru dipandang sebagai entitas yang netral dan tidak bias. Proyeksi otoritas yang lebih besar ini daripada keahlian manusia dapat menyebabkan pengguna, termasuk para profesional, mendelegasikan tanggung jawab pengambilan keputusan secara berlebihan kepada sistem. Ketika akuntabilitas dilepaskan dari manusia, keputusan yang salah atau merugikan menjadi sulit untuk ditelusuri dan dipertanggungjawabkan.

Solusi Teknis untuk Transparansi: Explainable AI (XAI)

Untuk menjembatani kesenjangan antara tuntutan akuntabilitas dan kompleksitas teknis, program penelitian Explainable AI (XAI) muncul sebagai respons normatif. XAI bertujuan mengembangkan teknik untuk membuat sistem komputasi yang opaque menjadi transparent dengan fokus pada penyediaan penjelasan yang relevan bagi pemangku kepentingan yang berbeda.

Mekanisme XAI Kunci. Dua alat utama dalam perangkat XAI adalah LIME dan SHAP:

1. LIME (Local Interpretable Model-agnostic Explanations):LIME bekerja dengan menghasilkan perkiraan lokal terhadap prediksi model pada instansi data tertentu. Ini memberikan wawasan cepat dan lokalisasi. Contoh penggunaannya adalah menyoroti kata-kata paling penting yang berkontribusi pada prediksi sentimen oleh jaringan saraf.
2. SHAP (SHapley Additive exPlanations):SHAP memberikan atribusi yang lebih ketat secara matematis, berakar pada teori permainan. Metode ini menetapkan nilai kontribusi yang adil untuk setiap fitur input terhadap output model. Dalam konteks penilaian kredit (credit scoring), SHAP sangat berguna untuk mengungkap dampak spesifik variabel seperti pendapatan atau riwayat kredit pada skor akhir.

Prinsip XAI dan Kualitas Penjelasan. Pengembangan XAI didukung oleh kerangka kerja, seperti yang dikembangkan oleh NIST, yang berfokus pada empat prinsip utama. Prinsip-prinsip ini dirancang berdasarkan kebutuhan manusia yang mengonsumsi penjelasan dan berorientasi pada pengukuran kualitas, kebaikan, akurasi, dan batasan penjelasan yang diberikan, bukan hanya metode komputasi algoritmik.

Dilema Akurasi vs. Keterpenalan. Salah satu tantangan inheren dalam XAI adalah adanya pertukaran (trade-off) antara akurasi model dan keterpenalan. Model AI yang paling akurat—seperti jaringan saraf mendalam—sering kali merupakan model yang paling sulit dijelaskan. Hal ini menciptakan kebutuhan strategis bagi pengembang untuk memilih antara kinerja superior model yang opaque atau kepatuhan etis/regulasi menggunakan model yang lebih sederhana namun lebih dapat dijelaskan. Keputusan ini harus dibingkai dalam kerangka tata kelola etika, bukan sekadar pilihan teknis.

Penting untuk diakui bahwa XAI bukanlah solusi sempurna. Eksplanasi yang dihasilkan, meskipun penting, dapat membawa risikonya sendiri. Jika penjelasan XAI ternyata menyesatkan (misleading) atau tidak sepenuhnya akurat—sebuah kemungkinan jika prinsip-prinsip XAI tidak dipenuhi—hal ini dapat menciptakan rasa aman palsu atau pseudo-transparency. Dalam skenario ini, pengguna atau regulator mungkin percaya bahwa mereka memahami keputusan AI padahal sebenarnya tidak, yang berpotensi meningkatkan automation bias dan mengaburkan titik akuntabilitas lebih lanjut.

Bias Algoritmik Dan Dimensi Keadilan (Algorithmic Fairness)

Sumber dan Manifestasi Bias Algoritmik

Bias algoritmik didefinisikan sebagai kecenderungan berbahaya yang sistematis dan berulang dalam sistem sosiologis terkomputerisasi untuk menghasilkan hasil yang “tidak adil,” seperti memprioritaskan satu kategori di atas kategori lain secara tidak sengaja.

Akar Masalah pada Data. Secara krusial, bias algoritmik tidak berasal dari algoritma itu sendiri, tetapi dari cara tim ilmu data mengumpulkan dan mengkodekan data pelatihan. Data yang cacat, yang dicirikan sebagai tidak representatif, kurang informasi, atau bias secara historis, akan menyebabkan algoritma menghasilkan hasil yang tidak adil dan memperkuat bias apa pun yang ada dalam data.

Manifestasi Dampak Nyata. Bias dapat masuk ke sistem algoritmik melalui berbagai cara, termasuk ekspektasi budaya, sosial, atau kelembagaan yang sudah ada; bagaimana fitur dan label dipilih; batasan teknis desain; atau penggunaan model dalam konteks yang tidak diantisipasi. Dampak bias sangat bervariasi, mulai dari pelanggaran privasi yang tidak disengaja hingga penguatan diskriminasi sosial yang mendalam berdasarkan ras, gender, seksualitas, dan etnis.

Metrik Keadilan Algoritmik yang Nuansatif

Keadilan algoritmik (Algorithmic Fairness) bukanlah konsep teknis tunggal melainkan isu etis fundamental yang menuntut para profesional IT untuk mempertimbangkan dampak sosial dari kode mereka. Dalam praktiknya, upaya untuk mengukur dan mencapai keadilan telah melahirkan berbagai metrik yang saling berbeda.

Konflik Filosofis dalam Definisi Keadilan. Dilema utama adalah bahwa mendefinisikan “keadilan” secara matematis adalah sulit. Seringkali, mustahil untuk memenuhi semua definisi keadilan secara bersamaan, memaksa pengembang model untuk secara etis memilih kriteria mana yang akan diprioritaskan untuk suatu aplikasi tertentu. Hal ini membutuhkan keseimbangan yang cermat antara efisiensi teknologi dan etika untuk memastikan inklusi sosial.

Metrik Keadilan Utama. Perbedaan utama terletak pada fokus apakah keadilan diukur dari hasil (output) atau kesempatan (perlakuan):

Tabel: Perbandingan Metrik Keadilan Algoritmik Utama

Demographic Parity (DP) atau Statistical Parity adalah konsep yang sangat umum dan berfokus pada memastikan hasil akhir model didistribusikan secara independen dari atribut yang dilindungi, seperti ras atau gender. Sebaliknya, Equal Opportunity adalah persyaratan yang lebih kuat, berfokus pada memastikan bahwa model memprediksi label positif secara akurat untuk semua kelompok, mengukur kesetaraan dalam hal kesempatan sejati.

Studi Kasus Dampak Nyata (High-Stakes Decisions)

Sistem Peradilan AS: Kasus COMPAS. Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) adalah perangkat lunak yang digunakan oleh pengadilan AS untuk menilai kemungkinan seorang terdakwa menjadi residivis. Kasus COMPAS telah menjadi titik fokus dalam diskusi tentang keadilan algoritmik dan transparansi. Meskipun model ini mungkin mencapai akurasi statistik keseluruhan, analisis menunjukkan bahwa model ini secara sistematis lebih cenderung mengklasifikasikan minoritas sebagai individu berisiko tinggi (tingkat positif palsu yang lebih tinggi) dibandingkan dengan kelompok lain. Studi kasus ini memperjelas dilema antara akurasi statistik model versus tuntutan keadilan sosial dan etika.

Diskriminasi Rekrutmen: Algoritma Amazon. Algoritma rekrutmen otomatis yang dikembangkan oleh Amazon ditemukan secara sistematis mendiskriminasi pelamar perempuan. Hal ini terjadi karena algoritma tersebut dilatih menggunakan data rekrutmen historis yang didominasi oleh laki-laki, sehingga secara tidak sengaja memperkuat bias gender yang ada di masa lalu. Kasus ini menunjukkan bahwa AI berisiko menjadi alat untuk mereproduksi ketimpangan yang lebih masif jika data pelatihan yang bias tidak dikoreksi.

Fintech dan Kredit Scoring. Dalam industri jasa keuangan, credit scoring berbasis algoritma dapat menyebabkan diskriminasi dan kehilangan peluang bisnis jika segmentasi yang dihasilkan bias. Bias dalam sistem fintech dapat muncul dari data yang tidak inklusif, yang berpotensi mengecualikan kelompok tertentu dari akses kredit. Untuk mitigasi, para ahli merekomendasikan Fairness by Design—mengintegrasikan metrik keadilan sejak awal pengembangan model—serta diversifikasi data dengan memasukkan informasi inklusif (misalnya, riwayat pembayaran sewa) untuk penilaian kredit yang lebih adil.

Kerangka Regulasi Dan Tata Kelola Global

Untuk merespons tantangan teknis opasitas dan bias algoritmik, kerangka regulasi internasional telah berkembang, bergeser dari fokus perlindungan data reaktif menjadi tata kelola AI yang proaktif.

Hak Individual di Bawah GDPR dan Implikasinya

General Data Protection Regulation (GDPR) Uni Eropa menjadi acuan penting dalam perlindungan data pribadi dan menjadi landasan bagi hak-hak terkait keputusan algoritmik.

Hak untuk Mendapatkan Penjelasan (Right to Explanation). GDPR dirancang untuk memberikan perlindungan lebih kepada pemilik data dan kontrol lebih besar atas data pribadi mereka, termasuk informasi mendasar, data web, dan data sensitif seperti etnis atau orientasi seksual. Prinsip akuntabilitas yang diamanatkan oleh GDPR secara implisit mendukung pengembangan XAI, karena setiap individu memiliki hak untuk menantang keputusan yang secara signifikan memengaruhinya, terutama jika keputusan tersebut dibuat secara otomatis oleh algoritma.

Relevansi bagi Indonesia. Indonesia telah mengambil langkah penting dengan mengesahkan Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP). UU PDP memiliki prinsip yang serupa dengan GDPR. Namun, karena banyak perusahaan Indonesia beroperasi secara digital dan berinteraksi dengan pengguna di Eropa, kepatuhan terhadap standar internasional seperti GDPR dan EU AI Act menjadi tantangan sekaligus pendorong bagi Indonesia untuk mengintegrasikan regulasi AI yang lebih kuat dengan kebijakan perlindungan data nasional.

Pendekatan Berbasis Risiko dalam EU AI Act

EU AI Act merepresentasikan perubahan paradigma dari regulasi data menjadi regulasi sistem AI itu sendiri, menggunakan pendekatan berbasis risiko untuk menentukan tingkat kewajiban transparansi dan akuntabilitas.

Model Risiko EU AI Act. Regulasi ini mengkategorikan sistem AI berdasarkan tingkat risikonya: risiko tidak dapat diterima, risiko tinggi, risiko terbatas, dan risiko minimum. Sistem yang diklasifikasikan sebagai berisiko tinggi—yang mencakup aplikasi yang berdampak pada kehidupan individu seperti rekrutmen atau penilaian kredit—dikenakan kewajiban akuntabilitas yang paling ketat.

Kewajiban Transparansi Sistem Berisiko Tinggi. Untuk sistem berisiko tinggi, regulasi mewajibkan pengembang untuk mengungkapkan informasi penting tentang data pelatihan. Tuntutan ini berlaku bahkan jika penyedia layanan atau pengguna berada di luar Uni Eropa, asalkan output AI digunakan di UE. Selain itu, pembuat sistem AI yang menghasilkan konten yang dimanipulasi (deepfake) wajib mengungkapkan bahwa konten tersebut dibuat secara artifisial, kecuali untuk tujuan pencegahan tindak pidana. Pendekatan proaktif ini bertujuan untuk memastikan pengujian bias dan transparansi sejak fase desain, yang dipandang lebih efektif daripada upaya perbaikan pasca-peluncuran.

Prinsip-Prinsip Tata Kelola Multilateral dan Regional

Di tingkat global, berbagai organisasi telah menggarisbawahi pentingnya tata kelola AI yang etis, dikenal sebagai AI Governance.

Prinsip AI OECD dan Trustworthy AI. Organisation for Economic Co-operation and Development (OECD) telah menetapkan Prinsip AI, termasuk Prinsip Akuntabilitas (Principle 1.5). Prinsip ini selaras dengan konsep Trustworthy AI, yang dibangun di atas pilar Transparansi (memerlukan XAI), Akuntabilitas (pengembang bertanggung jawab atas dampak), Non-diskriminatif (mitigasi bias), dan Keamanan/Privasi. Tata kelola AI yang baik tidak hanya fokus pada teknologi, tetapi juga tanggung jawab moral dan sosial.

Tata Kelola Sektoral di Indonesia. Di Indonesia, Otoritas Jasa Keuangan (OJK) telah menyusun panduan Tata Kelola AI untuk Perbankan Indonesia. Panduan ini menekankan adopsi teknologi dengan pengelolaan risiko yang terkendali, kehati-hatian, dan tujuan untuk melindungi nasabah serta menjaga stabilitas sistem keuangan. Selain risiko individual, perlu dicatat bahwa AI juga menimbulkan risiko kolektif yang mengancam ketahanan sosial, seperti polarisasi algoritmik di media sosial dan ancaman keamanan siber/militer. Oleh karena itu, tata kelola AI harus mencakup dimensi keamanan dan stabilitas makro politik.

Strategi Mitigasi Dan Mekanisme Akuntabilitas Masa Depan

Menyeimbangkan Transparansi dan Perlindungan Kekayaan Intelektual

Konflik antara kewajiban transparansi algoritmik dan perlindungan hak kekayaan intelektual (HKI)—khususnya rahasia dagang—merupakan salah satu hambatan terbesar bagi akuntabilitas. Pengembang memiliki hak sah untuk melindungi algoritma mereka sebagai aset komersial. Pengungkapan kode sumber secara penuh dapat menghambat inovasi.

Dilema Hukum dan Solusi Kompromi. Analisis menunjukkan bahwa rahasia dagang tidak boleh dijadikan alasan umum untuk menolak mengungkapkan informasi yang diperlukan untuk akuntabilitas, terutama jika ada alasan sah, seperti dugaan diskriminasi. Solusi yang diusulkan berfokus pada pengungkapan parsial atau terkontrol:

1. Pengungkapan Data Pelatihan. Regulasi kini menuntut pengembang AI, khususnya model General Purpose AI(GPAI), untuk mengungkapkan data masukan yang digunakan, serta memastikan adanya otorisasi dari pemilik HKI data tersebut.
2. Software Escrow (Penitipan Kode Sumber). Mekanisme ini awalnya dirancang sebagai praktik manajemen risiko untuk kontinuitas bisnis, memungkinkan akses kepada lisensi jika vendor perangkat lunak gagal. Dalam konteks AI, software escrowdapat berevolusi menjadi mekanisme akuntabilitas hukum. Kode sumber algoritma dipegang oleh agen escrow yang independen dan netral. Mekanisme ini memungkinkan akses terkontrol dan pemeriksaan rahasia oleh auditor atau badan pengawas dalam kondisi yang disepakati (misalnya, terbukti adanya kegagalan sistematis atau diskriminasi), tanpa melanggar hak rahasia dagang vendor secara umum.

Audit Algoritma Independen dan Etika Profesional

Pentingnya Audit Algoritma. Audit eksternal merupakan langkah krusial untuk memverifikasi keadilan model AI dan memastikan bahwa keputusan yang diambil adalah akuntabel dan transparan. Audit ini berfungsi untuk mengidentifikasi bias yang tertanam dan memastikan model prediktif tidak melanggengkan diskriminasi historis.

Kebutuhan Regulasi Audit. Agar efektif, audit algoritma harus diwajibkan secara regulatif. Para pembuat kebijakan didorong untuk merumuskan regulasi yang mewajibkan audit independen, pembentukan dewan etika untuk AI, dan memastikan bahwa model menjalani re-validasi rutin seiring berjalannya waktu untuk mengatasi model drift (perubahan kinerja model dari waktu ke waktu).

Peran Manusia dan Kepemimpinan Etis. Kunci utama untuk akuntabilitas adalah memastikan kontrol manusia tetap dipertahankan (Human-in-the-Loop). Kepemimpinan etis diperlukan untuk memastikan bahwa keputusan akhir tetap berada di tangan manusia, bukan sepenuhnya diserahkan kepada sistem otomatis. Lebih dari itu, profesional IT tidak boleh bersembunyi di balik alasan “saya hanya membuat kode”; mereka memiliki tanggung jawab etis untuk mempertimbangkan dampak sosial dari teknologi yang mereka kembangkan dan mengadvokasi inklusi dan keadilan.

Rekomendasi Komprehensif untuk Regulator dan Pengembang

Akuntabilitas dan transparansi membutuhkan strategi berlapis yang melibatkan intervensi teknis, regulasi hukum, dan perubahan budaya organisasi.

Fairness by Design dan Diversifikasi Tim. Pengembangan AI harus mengadopsi prinsip Fairness by Design sejak awal, mengintegrasikan metrik keadilan yang eksplisit (misalnya equalized odds) ke dalam proses desain model. Untuk mencegah bias data yang mencerminkan bias pembuatnya, diperlukan tim pengembang yang beragam dan interdisipliner (mencakup data scientist, ahli etika, dan sosiolog) untuk membawa perspektif berbeda dan inklusif.

Mandat Audit dan Standar Keadilan. Pemerintah perlu menerapkan standar audit bias algoritma yang diwajibkan secara hukum, terutama untuk sistem yang dikategorikan berisiko tinggi, mengikuti pendekatan EU AI Act. Audit ini harus bersifat dinamis, mewajibkan re-validasi seiring model menua.

Penguatan Literasi dan Keterlibatan Publik. Transparansi yang berarti memerlukan literasi publik. Masyarakat harus menuntut hak mereka untuk memahami bagaimana keputusan digital memengaruhi kehidupan mereka. Selain itu, para profesional di bidang IT memiliki tanggung jawab sosial untuk mengadvokasi pelatihan ulang (reskilling) tenaga kerja untuk memastikan bahwa kemajuan teknologi bermanfaat bagi semua lapisan masyarakat.

Akuntabilitas algoritma harus didukung oleh berbagai mekanisme yang bekerja secara sinergis, sebagaimana dirangkum dalam tabel berikut:

Mekanisme Komprehensif untuk Menjamin Akuntabilitas Algoritma

Kesimpulan

Akuntabilitas dan transparansi algoritma merupakan prasyarat mutlak bagi Trustworthy AI dan kesejahteraan sosial di era digital. Analisis menunjukkan bahwa solusi atas Masalah Kotak Hitam tidak terletak pada transparansi kode sumber secara penuh—yang terhambat oleh kompleksitas teknis dan hak rahasia dagang—melainkan pada kewajiban keterpenalan (explainability) yang didukung oleh teknologi XAI seperti LIME dan SHAP.

Namun, XAI saja tidak cukup. Akuntabilitas sejati harus diwujudkan melalui kerangka kerja regulasi yang kuat dan proaktif, seperti pendekatan berbasis risiko EU AI Act, yang mewajibkan akuntabilitas ketat untuk sistem high-risk. Untuk menjamin keadilan, regulator dan pengembang harus secara eksplisit memilih dan menerapkan metrik keadilan algoritmik (seperti Equal Opportunity), yang seringkali bertentangan dengan metrik statistik murni, untuk mencegah reproduksi dan amplifikasi bias sosial.

Tanggung jawab tidak lagi terfragmentasi. Diperlukan kepemimpinan etis yang memastikan bahwa kontrol manusia tetap menjadi elemen kunci, didukung oleh audit algoritma independen dan mekanisme hukum-teknis yang inovatif seperti Software Escrow. Dengan mengintegrasikan Fairness by Design dengan kewajiban akuntabilitas yang dinamis (melalui re-validasi rutin), masyarakat dapat memastikan bahwa AI berfungsi sebagai pendorong inovasi dan inklusi, bukan sebagai alat untuk memperkuat ketidaksetaraan historis.