Kaip medicininio AI šališkumas veikia diagnozes įvairiose grupėse

Nuorodų lentelė

1. Santrauka ir įvadas

2. Susiję darbai

3. Metodai

   3.1 Teigiamas sumos teisingumas

   3.2 Taikymas

4. Eksperimentai

   4.1 Pradiniai rezultatai

   4.2 Teigiamas sumos teisingumas

5. Išvados ir literatūros sąrašas

Šališkumas dažniausiai nustatomas atliekant medicininių vaizdų analizės programas (38, 40). Pavyzdžiui (6), CNN, apmokytas smegenų MRT, lėmė reikšmingą skirtumą tarp etninių grupių. Seyyed-Kalantari ir kt. (32) pastebėjo, kad mažumos gavo didesnį algoritminės nepakankamos diagnozės rodiklį. Zong ir kt. (40) įvertino šališkumo mažinimo algoritmus ir neplatinimo nustatymus. Eksperimentai parodė, kad dirbtinio intelekto medicinos vaizdų klasifikatoriuose egzistuoja platus šališkumas ir nė vienas šališkumo mažinimo algoritmas negalėjo to išvengti.

Naudojami įvairūs sąžiningumo apibrėžimai:

– Individualus sąžiningumas (25) reikalaujama, kad panašūs asmenys būtų traktuojami vienodai ir todėl turėtų panašias prognozes. Pavyzdžiui, modelis turi turėti panašią diagnozę dviejuose panašiuose rentgeno vaizduose.

– Grupinis sąžiningumas reikalauja vienodų rezultatų pogrupiuose, suskirstytuose pagal jautrius požymius (pvz., rasę, lytį ir amžių). Įprastos grupės teisingumo metrikos yra demografinis paritetas (8), lygūs šansai (12) ir nuspėjamasis normos paritetas arba pakankamumas (21).

– Minimalus teisingumas (5) siekia užtikrinti, kad su blogiausiai atsidūrusia grupe būtų elgiamasi kiek įmanoma teisingiau, sumažinant didžiausią neigiamą sprendimo ar sistemos poveikį.

Šie apibrėžimai turi privalumų ir trūkumų (36). Individualus teisingumas priklauso nuo atstumo metrikos pasirinkimo, o tam reikia ekspertų indėlio. Kalbant apie minimalų teisingumą, idealų sprendimą sunku apskaičiuoti, o nesąžiningumo laipsnis labai priklauso nuo modelių rinkinio pasirinkimo. Grupės sąžiningumo metriką lengva įdiegti ir suprasti, tačiau jos ne visada pritaikomos prie problemos ir nedera tarpusavyje (2,18). Ir nors ankstesnis darbas išplėtė grupės sąžiningumo sąvoką, pridedant kitus norminius pasirinkimus, išskyrus griežtą lygybę (1), nė viena iš siūlomų metrikų neapsaugo nuo žalos, kuri gali būti padaryta kiekvieno pogrupio veiklai atskirai arba visai populiacijai.

Kaip minėta įžangoje, kaip ir (24,34,27,26), manome, kad medicininis AI skiriasi nuo kitų sričių tuo, kad kiekvienas patobulinimas gali išgelbėti gyvybes. Todėl skirtumų didinimas, siekiant geriausio kiekvieno demografinio pogrupio ir visos populiacijos veiklos rezultatų, galėtų būti pateisinamas. Ankstesni tyrimai parodė, kad patys vaizdai gali turėti demografines koduotes (10, 9). Pavyzdžiui, Yang ir kt. (39) ištirti demografinių kodų panaudojimą, analizuojant demografinių nuorodų naudojimą ligų klasifikavimui. Dviejuose straipsniuose (41, 11) nagrinėjama jautrių atributų naudojimo teisingose ​​klasifikacijos sistemose svarba ne medicinos problemoms spręsti. Jie lygina skirtingus modelius, kurie naudoja jautrias savybes, su modeliu, kuris nėra apmokytas jokio jautraus požymio.