Bakım, sağlık sigortası, sığınma ve kredi kararlarında otomasyonun yol açtığı mağduriyetler.
Avustralya Federal Ombudsmanı, evde yaşlı bakımına uygunluğu, destek düzeyini ve bekleme sırasını belirleyen algoritmik değerlendirme aracı hakkında 26 Ekim'de ağır bir rapor yayımladı. Ombudsmana göre makul bir kişi sistemin adil ve tutarlı olduğuna güvenemez. Mevzuat, sonuç klinik olarak uygunsuz bulunsa bile değerlendiricilerin algoritmanın kararını değiştirmesine rutin olarak izin vermiyor. Algoritma devreye girdikten sonra itirazlar beş kattan fazla arttı. Raporda, ağır nörolojik hastalığı olan bir kadının yüksek destek düzeyine onay almasına rağmen 10–11 aylık standart beklemeye bırakıldığı anlatılıyor. Sistem yaklaşık 1,1 milyon evde bakım kullanıcısını kapsıyor.
ABD'de Medicare'in altı eyalette yürüttüğü WISeR pilot programı, bazı tedavilere ön izin verilip verilmeyeceğine karar verirken yapay zekâ kullanıyor. EFF'nin bilgi edinme davasıyla elde ettiği 800 sayfayı aşan belgeler 27 Ekim'de yayımlandı. Belgelere göre ilk üç ayda altı tedarikçiden en az dördüne gecikmeler, hatalı görünen retler ve kurallara uyumsuzluk nedeniyle düzeltici eylem talebi gönderildi. Columbus Dispatch, Ohio'daki bazı Medicare hastalarının gerekli bakım için aylarca beklediğini bildirdi. Humana'nın yapay zekâ araçlarına dayanarak hastane sonrası bakım kapsamını sonlandırdığı iddia edilen toplu davada da Ekim'de yeni dilekçeler sunuldu.
Birleşik Krallık İçişleri Bakanlığı'nın (Home Office) sığınma mülakatlarını özetlemek için kullandığı GPT-4o tabanlı araç, kurumun kendi doğruluk testlerinde başarısız oldu. Uzmanların kontrol ettiği 203 özetin ilk aşamada yüzde 22'si, ikinci aşamada yüzde 15'i ciddi hata nedeniyle başarısız sayıldı. Araç Nisan–Temmuz arasında tahminen 70.000 sığınma dosyasında kullanıldı ve sığınmacılara dosyalarında yapay zekâ kullanıldığı söylenmedi. Home Office tüm kararları eğitimli personelin verdiğini savunuyor. Hatalı özetlerin kaç kararı etkilediği ise bilinmiyor.
Kredi alanında, ABD'de sivil haklar kuruluşları 29 Ekim'de Tüketici Finansal Koruma Bürosu'nun (CFPB) ayrımcı etki sorumluluğunu kaldıran kural değişikliğine dava açtı. Davacılar bu değişikliğin, yapay zekâ destekli kredi modellerinin siyah topluluklar, kadınlar ve diğer dezavantajlı gruplar aleyhine sonuç üretip üretmediğinin denetlenmesini zorlaştıracağını savunuyor.