Tyrimai rodo, kad dirbtinio intelekto modeliai gali pateikti tikslesnę diagnozę be diskriminacijos
Šiame darbe mes pristatėme teigiamos sumos teisingumo sąvoką ir teigėme, kad didesni skirtumai nebūtinai yra žalingi, jei tai nėra konkretaus pogrupio veiklos sąskaita. Buvo išanalizuotas keturių modelių bendras efektyvumas, standartinis teisingumas ir teigiamos sumos teisingumas, kiekvienas skirtingai panaudojo jautrias savybes.
Mūsų tyrime pabrėžiamas poreikis niuansuotai suprasti sąžiningumo metriką ir jų reikšmę realaus pasaulio programoms. Geras medicininių žinių įtraukimas yra labai svarbus naudojant neskelbtiną informaciją ir tiksliai įvertinant teisingumą, ypač tais atvejais, kai modeliai gali rodyti didelius veiklos skirtumus.
Kai tradiciniais metodais dažnai siekiama lygybės, pozityvios sumos teisingumas sutelkiamas į teisingumą, skatinant kiekvieną grupę pasiekti aukščiausią įmanomą veiklos lygį. Tai gali lemti geresnius bendrus rezultatus, nes skatina spręsti konkrečius kiekvienos grupės poreikius ir iššūkius, nesumažinant kitų priežiūros kokybės. Tačiau, kadangi ji apibrėžiama kaip optimizavimo problema, ji taip pat gali turėti nenumatytų šalutinių poveikių, nes gali netyčia teikti pirmenybę didesnėms ar geriau atstovaujamoms grupėms, sutelkiant pastangas į grupes, turinčias didžiausią poveikį bendram našumui, o ne tas, kurios turi didžiausią poveikį. poreikius. Todėl reikia pažymėti, kad vien tik teigiamos sumos teisingumo kriterijaus įvykdymas neužtikrina, kad modelis būtų teisingas iš egalitarinės perspektyvos, o šios sąvokos vartojimas kartu su kitais rodikliais gali suteikti visapusiškesnį modelio teisingumo supratimą.
Kadangi teigiamos sumos teisingumas yra santykinis matas, reikia naudoti pradinį lygį. Tolesnis darbas šioje srityje apimtų tvirtesnės bazinės linijos kūrimą arba metodo pritaikymą, kad būtų pašalintas bazinės linijos poreikis. Taip pat vertėtų palyginti ne domeno patikrintus modelius, įtraukti kitus jautrius požymius, pvz., lytį ir amžių, ir atsižvelgti į klaidinančius veiksnius.
Interesų atskleidimas. Autoriai pareiškia, kad dėl šio straipsnio publikavimo nėra interesų konfliktų.
Baumann, J., Hertweck, C., Loi, M., Heitz, C.: Distributive justice as the basic premisa of fair ml: Unification, extension and interpretation of group fairness metrics (2023), https://arxiv. org/abs/2206.02897
Berk, R., Heidari, H., Jabbari, S., Kearns, M., Roth, A.: Sąžiningumas baudžiamosios justicijos rizikos vertinimuose: technikos būklė (2017 m.)
Brown, A., Tomasev, N., Freyberg, J., Liu, Y., Karthikesalingam, A., Schrouff, J.: Detecting shortcut learning for fair medical AI using shortcut testing
Burton, DC, Flannery, B., Bennett, NM, Farley, MM, Gershman, K., Harrison, LH, Lynfield, R., Petit, S., Reingold, AL, Schaffner, W., Thomas, A., Plikaytis, BD, Rose, Jr, CE, Whitney, CG, Schuchat, A., skirta aktyviajai bakterijų šerdims Priežiūros / naujų infekcijų programos tinklas: socialiniai ir ekonominiai ir rasiniai / etniniai skirtumai tarp JAV suaugusiųjų bakterieminės pneumonijos. Am. J. Visuomenės sveikata 100(10), 1904–1911 (2010 m. spalis)
Diana, E., Gill, W., Kearns, M., Kenthapadi, K., Roth, A.: Minimax group fairness: Algorithms and experiments (2021)
EAM, S., M, W., P, M., ND., F.: Su sąžiningumu susiję našumo ir paaiškinamumo efektai gilaus mokymosi modeliuose smegenų vaizdo analizei. J Med Imaging (Bellingham). 2022 m. lapkritis;9(6):061102. doi: 10. (2022)
Efron, B.: geresni įkrovos pasikliautinieji intervalai. Amerikos statistikos asociacijos žurnalas, 82 (397), 171–185 (1987)
Feldman, M., Friedler, S., Moeller, J., Scheidegger, C., Venkatasubramanian, S.: Certifying and removing disparate impact (2015)
Gichoya, JW, Banerjee, I., Bhimireddy, AR, Burns, JL, Celi, LA, Chen, LC, Correa, R., Dullerud, N., Ghassemi, M., Huang, SC, Kuo, PC, Lungren, MP, Palmer, LJ, Price, BJ, Purkayastha, S., Pyrros, AT, Oakden-Rayner, L., Okechukwu, C., Seyyed-Kalantari, L., Trivedi, H., Wang, R., Zaiman, Z., Zhang, H.: AI atpažinimas pacientų rasės medicininiame vaizdavime: modeliavimo tyrimas. Lanceto skaitmuo. Health 4(6), e406–e414 (2022 m. birželio mėn.)
Glocker, B., Jones, C., Bernhardt, M., Winzeck, S.: Algorithmic kodavimas apsaugotų charakteristikų krūtinės ląstos rentgeno ligų aptikimo modeliuose. EBioMedicine 89 (104467), 104467 (2023 m. kovo mėn.)
Haeri, MA, Zweig, KA: esminis jautrių savybių vaidmuo sąžiningoje klasifikacijoje. Leidinyje: 2020 m. IEEE simpoziumų serija apie skaičiavimo intelektą (SSCI). 2993–3002 (2020) p. https://doi.org/10.1109/SSCI47803.2020.9308585
Hardt, M., Price, E., Srebro, N.: Galimybių lygybė mokantis prižiūrint (2016)
Huang, G., Liu, Z., van der Maaten, L., Weinberger, KQ: Tankiai sujungti konvoliuciniai tinklai (2018)
Johnson, A., Bulgarelli, L., Pollard, T., Horng, S., Celi, LA, Mark, R.: MIMIC-IV (2023)
Johnson, AEW, Bulgarelli, L., Shen, L., Gayles, A., Shammout, A., Horng, S., Pollard, TJ, Hao, S., Moody, B., Gow, B., Lehman, LWH, Celi, LA, Mark, RG: MIMIC-IV, laisvai prieinamas elektroninių sveikatos įrašų duomenų rinkinys. Sci. 10 (1), 1 duomenys (2023 m. sausis)
Johnson, AEW, Pollard, TJ, Greenbaum, NR, Lungren, MP, ying Deng, C., Peng, Y., Lu, Z., Mark, RG, Berkowitz, SJ, Horng, S.: Mimic-cxr-jpg , didelė viešai prieinama paženklintų krūtinės ląstos rentgenogramų duomenų bazė (2019 m.)
Joseph, NP, Reid, NJ, Som, A., Li, MD, Hyle, EP, Dugdale, CM, Lang, M., Betancourt, JR, Deng, F., Mendoza, DP, Little, BP, Narayan, AK , Flores, EJ: Rasiniai ir etniniai ligos sunkumo skirtumai priimant krūtinės ląstos rentgenogramas tarp pacientų, kuriems patvirtinta koronavirusinė liga 2019 m.: retrospektyvus kohortos tyrimas. Radiologija 297(3), E303–E312 (2020 m. gruodis)
Kleinberg, J., Mullainathan, S., Raghavan, M.: Įgimti kompromisai sąžiningai nustatant rizikos balus (2016 m.)
Lara, R., A., M., Echeveste, R., Ferrante, E.: Sąžiningumo vertinimas dirbtinio intelekto medicinos vaizdavimo srityje. Nat Commun 13 4581 (2022)
Lee, J., Brooks, C., Yu, R., Kizilcec, R.: Fairness hub Technical Shorts: Auc gap (2023)
Lee, JK, Bu, Y., Rajan, D., Sattigeri, P., Panda, R., Das, S., Wornell, GW: teisingas selektyvus klasifikavimas pagal pakankamumą. In: Tarptautinė mašininio mokymosi konferencija (2021), https://api.semanticscholar.org/CorpusID:235826429
Loshchilov, I., Hutter, F.: Sgdr: Stochastic gradient decent with warm restarts (2017)
Loshchilov, I., Hutter, F.: Atsieto svorio mažėjimo reguliavimas (2019 m.)
Mittelstadt, B., Wachter, S., Russell, C.: Sąžiningo mašininio mokymosi nesąžiningumas: lygių mažinimas ir griežtas egalitarizmas pagal numatytuosius nustatymus (2023), https://arxiv.org/abs/2302.02404
Mukherjee, D., Yurochkin, M., Banerjee, M., Sun, Y.: du paprasti būdai, kaip išmokti individualios teisingumo metrikos iš duomenų (2020 m.)
Petersen, E., Ferrante, E., Ganz, M., Feragen, A.: Ar demografiškai kintami modeliai ir reprezentacijos medicininiame vaizdavime yra teisingi? (2024), https://arxiv.org/abs/2305.01397
Petersen, E., Holm, S., Ganz, M., Feragen, A.: Kelias į vienodą našumą medicinos mašinų mokyme. Modeliai 4(7), 100790 (2023 m. liepos mėn.). https://doi.org/10.1016/j. patter.2023.100790, http://dx.doi.org/10.1016/j.patter.2023.100790
Raff, E., Sylvester, J.: Gradiento panaikinimas prieš diskriminaciją (2018 m.)
Rajeev, C., Natarajan, K.: Duomenų papildymas klasifikuojant krūtinės rentgenografijos vaizdus (CXR) naudojant DCGAN-CNN, p. 91–110 (2023 m. 11 d.). https://doi.org/10.1007/ 978-3-031-43205-7_6
Rubinstein, WS: paveldimas krūties vėžys žydams. Fam. Vėžys 3 (3–4), 249–257 (2004)
Russakovsky, O., Deng, J., Su, H., Krause, J., Satheesh, S., Ma, S., Huang, Z., Karpathy, A., Khosla, A., Bernstein, M., Bergas, AC, Fei-Fei, L.: „Imagenet“ didelio masto vizualinio atpažinimo iššūkis (2015 m.)
Seyyed-Kalantari, L., Zhang, H., McDermott, M., Chen, I., Ghassemi, M.: Underdiagnosis bias of Dirbtinio intelekto algoritmai, taikomi krūtinės ląstos rentgenogramoms nepakankamai aptarnaujamų pacientų populiacijose. Gamtos medicina 27 (12 2021). https://doi.org/10.1038/ s41591-021-01595-0
Shi, H., Seegobin, K., Heng, F., Zhou, K., Chen, R., Qin, H., Manochakian, R., Zhao, Y., Lou, Y.: Plaučių adenokarcinomų genominis kraštovaizdis skirtingose rasėse. Priekyje. Oncol. 12 d. (2022 m. rugsėjo mėn.)
Ustun, B., Liu, Y., Parkes, D.: Sąžiningumas be žalos: atsieti klasifikatoriai su pirmumo garantijomis. In: Chaudhuri, K., Salakhutdinov, R. (red.) Proceedings of the 36th International Conference on Machine Learning. Proceedings of Machine Learning Research, t. 97, 6373–6382 p. PMLR (2019 m. birželio 9–15 d.), https://proceedings.mlr.press/ v97/ustun19a.html
Varkey, B.: Klinikinės etikos principai ir jų taikymas praktikoje. Med. Princas. Praktika. 30(1), 17–28 (2021)
Verma, S., Rubin, JS: paaiškinti sąžiningumo apibrėžimai. 2018 IEEE/ACM International Workshop on Software Fairness (FairWare) p. 1–7 (2018), https://api.semanticscholar. org/CorpusID:49561627
Warner, E., Foulkes, W., Goodwin, P., Meschino, W., Blondal, J., Paterson, C., Ozcelik, H., Gossas, P., Allingham-Hawkins, D., Hamel, N. ., Di Prospero, L., Contiga, V., Serruya, C., Klein, M., Moslehi, R., Honeyford, J., Liede, A., Glendon, G., Brunet, JS, Narod, S.: BRCA1 ir BRCA2 genų mutacijų paplitimas ir įsiskverbimas neatrinktose aškenazių žydų moteryse, sergančiose krūties vėžiu. J. Natl. Cancer Inst. 91(14), 1241–1247 (1999 m. liepa)
Xu, Z., Li, J., Yao, Q., Li, H., Zhou, SK: Teisingumas medicininio vaizdo analizės ir sveikatos priežiūros srityje: literatūros tyrimas (2023)
Yang, Y., Zhang, H., Gichoya, JW, Katabi, D., Ghassemi, M.: Sąžiningo medicininio vaizdo gavimo ribos laukinėje gamtoje (2023)
Zong, Y., Yang, Y., Hospedales, T.: Medfair: medicininio vaizdavimo teisingumo lyginamoji analizė (2023)
Žliobaitė, I., Custers, B.: Gali prireikti naudoti jautrius asmens duomenis, kad būtų išvengta diskriminacijos duomenimis pagrįstų sprendimų modeliuose (2016)
