MEDLEY-paradigmet: Oenighet som evidens inom medicinsk AI
Farhad Abtahi är senior specialist inom forskningsinfrastruktur och ansvarig för SMAILE Core Facility vid CLINTEC, Karolinska Institutet, samt forskare och lärare inom medicinsk teknik vid KTH.
De flesta medicinska AI-system ger ett enda, självsäkert svar. Det innebär att svaret bär med sig de bias som finns i den enskilda modellen och det dataset den bygger på, samtidigt som just de fall där modellen har fel riskerar att döljas.
MEDLEY-paradigmet utgår från det motsatta perspektivet: oenighet mellan olika modeller ses inte som brus som ska jämnas ut, utan som värdefull information i sig. Skillnaderna blir en signal om vilka fall som faktiskt är osäkra och bevaras och används i beslutsprocessen, i stället för att reduceras till ett enda slutgiltigt svar.
Föreläsningen följer denna princip inom fyra olika områden:
MEDLEY bevarar hela bredden av möjliga differentialdiagnoser i stället för att ge ett enda svar.
ASR-MEDLEY använder skillnader mellan oberoende taligenkänningssystem som en referensoberoende signal för att identifiera delar av transkriberingen som behöver granskas.
Triage-MEDLEY väljer den högsta allvarlighetsgraden när resonerande modeller och regelbaserade system inte är överens vid akut triagering.
MEDLEY-BENCH mäter hur LLM-modeller beter sig under epistemisk och social press och ger därmed en metodisk grund för att välja en ensemble av modeller vars medlemmar faktiskt resonerar på olika sätt.
Dag: 29 oktober
Tid: 12:00-13:00
Plats: Online
Seminariet är en del av en serie: Health Informatics Conversations är inspirerande samtal om aktuella ämnen inom hälsoinformatik, som inleds av en inspirerande talare som introducerar temat.
Seminariet hålls på engelska.