NYC, tıbbi algoritmalarda önyargıyı ve 'ırk normlarını' sona erdirmek için koalisyon oluşturuyor

Bu algoritmaların, New York'un Siyah ve Latin sakinlerinin aldığı bakımı olumsuz etkilediği kanıtlanmıştır.

New York City, şehrin hastaneleri tarafından kullanılan klinik algoritmalarda ırk ayarlamalarını sona erdirmek için yakın zamanda bir çaba sarf ettiğini duyurdu. Uzmanlar, bu düzenlemelerin sağlık hizmetlerinde ırkçı varsayımları sürdürdüğünü ve azınlık nüfusları için standartların altında bakıma yol açabileceğini söylüyor. 

Sağlık tesisleri, tıbbi bakımın hastalara nasıl dağıtılacağına karar vermeye yardımcı olmak için klinik algoritmalar kullanır ve birçok hastane, ırk ayarlaması olarak da bilinen "ırk normu" adı verilen bir süreç kullanır. Şehrin Siyah ve Latin sakinlerinin aldığı bakımı olumsuz etkilediği kanıtlanmıştır. 

Duyuru, böbrek fonksiyonuna atıfta bulunarak Siyah hastalar için bir "ayarlama" faktörü de dahil olmak üzere, şehrin sakinlerini etkileyen gerçek dünyadaki durumların örneklerini içeriyor. Ayarlama faktörü, aynı ölçülen sonuç için Siyah böbrek fonksiyon seviyelerinin beyaz hastalardan daha sağlıklı olduğunu hesaplar; bu, Siyah hastaların bakımında gecikmelere yol açtı. 

Anne bakımında ırk normu, "Beyaz kadınlarla aynı yaş, sağlık durumu ve geçmiş doğum geçmişine" sahip olmalarına rağmen, Siyah ve Latin insanların gereksiz sezaryen geçirme olasılıklarının daha yüksek olmasına yol açmıştır. Bu algoritmalar daha genel olarak doğum yapan Siyah ve Latin kökenli insanlar için "daha az olumlu sonuçlara" yol açmıştır. mevcut anne ve sağlık eşitsizliklerini şiddetlendirmek.

Bu sorunları ele almak için, New York Şehri Sağlık Departmanı, klinik algoritmalara ırk ayarlamasının dahil edilmesini sona erdirmek için bir koalisyon kurdu. 

Sağlıktan Sorumlu Komisyon Üyesi Dr. Dave Chokshi, "Klinik Algoritmalarda Irkçılığı Sona Erdirme Koalisyonu (CERCA), daha sağlıklı ve daha adil bir şehre yol açmaya yardımcı olacak" dedi. 

Komiser Yardımcısı ve Baş Sağlık Görevlisi Dr. Michelle Morse şunları ekledi: "Klinik algoritmalarda sorunlu ırk ayarlama kavramı ve uygulaması hakkında farkındalık yaratmak, kendini Siyah, Yerli ve Beyaz Olmayan İnsanlar (BIPOC) olarak tanımlayanlar için daha adil sağlık hizmeti sonuçları ve deneyimleri yaratma potansiyeline sahiptir."

NYC Health + Hospitals Başkanı ve CEO'su Mitchell Katz, şehrin halk sağlığı sisteminin sağlık departmanı ve diğer sağlık sistemleriyle işbirliği yapmayı dört gözle beklediğini söyledi. 

"Bu koalisyon, sistemimizin ırk temelli algoritmaların statükolarına meydan okumayı da amaçlayan mevcut 'Tıbbi Irkçılık' girişiminin çalışmalarını ve etkisini daha da hızlandırma gücüne sahip... Bu, onlarca yıldır alanımızda geniş çapta kabul görüyor "dedi. 

CERCA ile ilgili kurumlar şunları içerir: NYC Health + Hospitals, Maimonides Medical Center, MountSinai Health System, New York Presbyterian, Northwell Health, NYU Langone Hastaneleri, One Brooklyn Health, SBH Sağlık Sistemi, SUNY Downstate, Wyckoff Heights Tıp Merkezi ve Cortelyou Medical Associates. 

Her biri, "en az bir klinik algoritmada ırk düzenlemesini sona erdireceklerini ve ırksal eşitsizliklerin ve hasta katılımının değerlendirilmesi için planlar oluşturacaklarını" söyledi. Ayrıca iki yıl boyunca iki ayda bir toplanmayı planlıyorlar ve ilki Haziran 2022'de gelecek olan yıllık bir rapor hazırlayacaklar. 

Siyah tıp uzmanları, hastanelerin tedavi için uyguladığı algoritmalarda kullanılan ırk ayarlamalarının ardındaki ırkçılığı uzun süredir vurguluyor. Pennsylvania Üniversitesi'nde Afrika Çalışmaları, Hukuk ve Sosyoloji profesörü olan Dr. Dorothy Roberts, tıptaki ırk düzenlemelerinin "yalnızca insan biyolojisi hakkındaki yanlış, ırkçı inançlara dayanmadığını, aynı zamanda Siyah hastalara zarar verdiğinin de gösterildiğini" söyledi. 

Teknoloji savunuculuğu grubu Fight for the Future'ın kampanya direktörü Caitlin Seeley George, ırk düzenlemelerinin yalnızca "ırkçı inançlara dayanan son derece içler acısı bir tıbbi uygulama" olmadığını, aynı zamanda yapay zekanın bu ırkçı inançları nasıl güçlendirdiğinin en iyi örneği olduğunu söyledi. 

"Irka dayalı biyolojik farklılıklar kavramı yapay zekadan çok önce de vardı, ancak bu teknoloji bu ırkçı uygulamaları şiddetlendirmek için silah haline getirildi. Kararlarını nasıl aldıklarına dair çok az şeffaflığı olan veya hiç şeffaflığı olmayan bir kara kutuda çalışan pek çok algoritma var. Toplumumuzdaki ırkçı yapıları yıkmak için, diğer ırkçı inançların hesaplamalarının bir parçası olduğunu bulmak için bu algoritmaları açmamız gerekiyor" dedi.  

"Bu işi yapmak için tüm sağlık sistemlerimize ihtiyacımız var, zararlı algoritmaların benimsenmesini durduran mevzuata ihtiyacımız var ve New York'ta tek bir klinik algoritmanın ötesine geçmesi gerekiyor (ki bu onların mevcut kapsamı). Ve bu çabalar, bu algoritmalardan zarar gören gerçek insanların yanı sıra, bu algoritmaların gerçek insanlar üzerindeki zararlarına dair eleştirel bir bakış açısı sağlayabilecek insan hakları örgütlerini ve uzmanları da içermelidir."

NYU Tandon Mühendislik Okulu'nda yardımcı doçent ve üniversitede Bilim ve Teknoloji Çalışmaları Teknoloji, Kültür ve Toplum Bölümü direktörü olan Dr. Danya Glabau, tıp bağlamındaki "algoritmaların", konseyin reform yapmak istediği bilgisayarlı sistemlerden çok daha uzun bir geçmişe sahip olduğunu söyledi. 

Glabau'ya göre tıbbi algoritmalar, esasen doktorların tedavi kararları vermek için kullandıkları her türlü karar ağacıdır ve bilgisayarlı olmayan tıbbi algoritmaları kullanmak, onlarca yıldır kanıta dayalı tıbbın temel taşı olmuştur. 

Bununla birlikte, otomatik algoritmalar, doktorun kararını tedavi kararlarından az ya da çok çıkarır, çünkü kararları bir bilgisayar verir. Glabau, dijital algoritmalar kullanıma sunulduğunda, insanları ortadan kaldırmanın insan ırkçılığını ortadan kaldıracağı düşünülüyordu.

"Bununla birlikte, otomatik algoritmaların kararları geçmiş insan kararlarından elde edilen verilere dayandığından, ırkçılık ve sınıfçılık gibi insan önyargıları hala bu araçları etkiliyor. Bu yüzden ırkçılık sorununu kendi başlarına çözmüyorlar çünkü tıp tarihi ırkçı." dedi. 

"Dijital algoritmaların tam olarak ne kadar yaygın olduğunu ve kaçının özellikle ırka baktığını söylemek zor. Ancak çoğu sağlayıcının günlük olarak birkaç tane kullanması ve bunun farkında olabileceği veya olmayabileceği ihtimali var." 

Amy Moran-Thomas gibi araştırmacılar, nabız oksimetreleri gibi basit cihazların bile ırkçı sonuçlara yol açabileceğini göstermiştir. 

"Bu durumda, tasarımcılar ten renginin optik bir sensör tarafından verilen okumaları nasıl etkileyeceğini düşünmediler. Ayrıca, zamanlama yazılımı gibi araçların, zamanlamanın ırkla hiçbir ilgisi yokmuş gibi görünse de ırkçı sonuçlara yol açabileceğini de biliyoruz. Ancak özellikle Siyah hastalar iki veya üç kez rezerve edildi çünkü birçoğu kontrolleri dışındaki faktörler nedeniyle randevulara zamanında gelmekte zorluk çekiyordu" dedi. 

"Bu örnekler, algoritmik ve diğer dijital sistemlerin ırkçı sonuçlara yol açacağını tahmin etmenin ne kadar zor olabileceğini gösteriyor. COVID'in BIPOC topluluklarını sert bir şekilde vurduğu ve posta kodunun gelir ve ırk ayrımcılığı ile ilişkili olduğu New York gibi bir şehirde, görünüşte sıradan olan bu tür teknolojilerin sağlık için önemli sonuçları olabilir."

Ancak konseyin başarılı olmasının tek yolu, algoritmaları üreten şirketlerden hastane sistemi operasyonlarına, yazılımlarına ve teknik belgelerine tam erişim verilmesi olduğunu da sözlerine ekledi. Konseye ayrıca şehir genelinde uygulanabilecek bağlayıcı yönergeler oluşturma yetkisi verilmelidir. 

Glabau, "Bu konseye dişler verilmezse, şok edici bilgiler bulabilir veya iyi niyetli önerilerde bulunabilir, ancak hastalar için hiçbir şeyi değiştirmeyecek veya ırkçılık karşıtı görevini yerine getirmeyecektir" dedi. 

Glabau , sıradan teknolojilerin sağlık sonuçları üzerinde nasıl önemli bir etkiye sahip olabileceği hakkında kapsamlı yazılar yazdı.