Ґрунтуючись тільки на рентгенівських знімках і зображеннях комп'ютерної томографії, штучний інтелект (ШІ) зміг визначити расу людини з точністю близько 90%. Вчені не знають, як у нього це виходить.
Дослідники вважають, що це проблема...
У новому дослідженні, опублікованому в журналі Lancet Digital Health, вчені вирішили перевірити здатність ШІ ідентифікувати особливості пацієнта за рентгенівськими знімками.
Перед експериментом дослідники навчили ШІ на трьох великих наборах даних рентгенографії грудної клітини, які мали підписи з визначенням раси людини - темношкірий, білошкірий або азіат.
Потім вчені показали рентгенівські знімки безлічі різних областей тіла різних груп людей і попросили ШІ визначити расу людини. На знімках були відсутні будь-які ознаки раси: ні кольору шкіри, ні текстури і кольору волосся...
Для всіх частин тіла ШІ зміг визначити расу з точністю близько 90%, навіть без будь-яких ідентифікуючих ознак.
Дослідники змінили умови
Вчені вирішили, що ШІ якимось чином використовував дані статистики і засновував висновки на таких факторах, як індекс маси тіла або щільність/охоплення грудей. Вони прибрали можливі супутні змінні і показали тільки набори даних людей зі схожим ІМТ і типами статури, але все ж ШІ зміг визначити расу.
Як йому це вдається?
Дослідники не знають. Одне з припущень: ШІ розпізнає відмінності меланіну в шкірі людей, які проявляються на знімках і не видні неозброєним поглядом.
Вчені пишуть, що медичні працівники не повинні поспішати з впровадженням ШІ для аналізу медичних зображень. До алгоритмів потрібно ставитися «з особливою обережністю, оскільки така інформація може бути використана не за призначенням, щоб закріпити або навіть посилити добре задокументовані расові відмінності, що існують у медичній практиці».