Inden for forskning i algoritmisk transparens arbejdes der intensivt på at åbne de komplekse 'sort boks'-modeller gennem forskellige metoder. En af de mest fremtrædende tilgange er Explainable AI (XAI), som kan opdeles i post-hoc forklaringer og iboende fortolkelige modeller.
Post-hoc metoder forsøger at forklare beslutninger i allerede trænede modeller uden at ændre deres struktur. Dette inkluderer teknikker som LIME (Local Interpretable Model-agnostic Explanations), der skaber lokale lineære modeller omkring specifikke datapunkter for at forstå lokale beslutningsmønstre. En anden vigtig metode er SHAP (SHapley Additive exPlanations), som anvender spilteori til at tildele hver variabel en værdi, der repræsenterer dens specifikke bidrag til modellens endelige output.
Udover disse arbejdes der på visuelle teknikker som saliency maps, der fremhæver de områder i et billede, som en model lægger mest vægt på. Derudover er der en voksende interesse for 'inherently interpretable models', hvor man designer arkitekturer som beslutningstræer eller attention-mekanismer, der er født med en logisk struktur, som mennesker direkte kan følge. Disse metoder er afgørende for at skabe tillid, ansvarlighed og sikkerhed i anvendelsen af kunstig intelligens i kritiske sektorer som sundhed og finans.
