Aasa Feragen

Kunstig intelligens (AI) bliver i stigende grad brugt som værktøj til screening, diagnose og ressourcefordeling i sundhedsvæsenet.

Her bliver "trustworthy AI" værktøjer så som algoritmisk fairness og forklarbar AI brugt til at gøre AI-værktøjerne tryggere og mere robuste. Men i situationer hvor der er demografiske bias i de diagnoser der bliver brugt til at træne og teste AI, giver disse værktøjer ikke nødvendigvis den forventede beskyttelse - de kan endda skabe øget diskrimination og forklaringer der nemt kan misforstås. Sådanne situationer kan opstå når bestemte demografiske grupper bliver systematisk under- eller overdiagnosticerede.

Dette projekt tager udgangspunkt i prediktion af depressionsrisiko, og har som mål at demonstrere og tydeliggøre de måder hvorpå fair og forklarbar AI kan fejle for sådanne typer data - samt udvikle tekniske løsninger for at sikre fair og forklarbar AI også når diagnoserne har demografisk bias.