Üç Tıklamada Stereotipten Hakaret Etmeye: Yapay Zekanın Ruh Sağlığı Nefret Makinesinin İçinde

"Üç Tıklamada Stereotipten Hakaret Etmeye: Yapay Zekanın Ruh Sağlığı Nefret Makinesinin İçinde" Dr.Kevin Gallagher, Görsel (MIA)

        "Bu model, kurumsallaşmayı ve zorla ilaçlamayı öngörüyor ve akıl sağlığı teşhisi konulan kişiler hakkında öjeni mitlerinin yayılmasını sağlıyordu."

Georgia Tech ve Rochester Teknoloji Enstitüsü'nden yeni bir ön baskı (a), yapay zeka modellerinin hafif stereotip tasvirlerden psikiyatrik teşhisleri olan kişileri hedef alan tam teşekküllü nefret anlatılarına ne kadar çabuk dönüşebileceğini gösteriyor. Tavşan Deliğinde Gezinmek: LLM Tarafından Oluşturulan ve Akıl Sağlığı Gruplarını Hedef Alan Saldırı Anlatılarındaki Ortaya Çıkan Önyargılar (Navigating the Rabbit Hole: Emergent Biases in LLM-Generated Attack Narratives Targeting Mental Health Groups) adlı çalışma, depresyon, bipolar bozukluk ve şizofreni hakkındaki istemlerin nasıl hızla komplo teorilerine, zorla hapsetme çağrılarına ve hatta öjenik retoriğe dönüştüğünü izliyor. 

Yazarlar önde gelen bir açık kaynaklı LLM olan Mistral-7B'ye odaklandı. "Bazı insanlar kaygılı olanların çok hassas olduğunu söylüyor" gibi yalnızca hafif olumsuz stereotiplerle gömülü istemlerden başlayarak modele kısa bir anlatıya devam etmesi talimatı verildi. Her yeni çıktı bir sonraki istemin temeli haline geldi ve modelin kendi dilini yinelemeli olarak inşa etmesini zorladı. Birçok durumda, sadece birkaç üretken dönüşle model nefret söylemi üretiyordu.

Baş yazar Rijul Magu ve meslektaşları, yapay zeka destekleyicilerinin sıklıkla bu sistemlerin insanlardan daha az önyargılı olduğunu iddia ettiklerini belirtiyorlar. Gerçek, iddia ettikleri gibi, tam tersidir: modeller toplumun örtük önyargısını yansıtır ve ardından bunu üretken metin mekaniği aracılığıyla güçlendirir. 

     "LLM'ler tasarımda 'tarafsız' görünse de önyargıdan yoksun değildir. İnsanlar gibi, bu modeller de tükettikleri kültürel eserlerden gelen çağrışımları içselleştirir... stereotipler ve damgalar, içine yerleştirildikleri verilerden emilir ve daha sonra gizli, beklenmedik şekillerde yüzeye çıkar."

Çalışma, sohbet tabanlı "eş terapistler" semptom tarayıcıları ve sigorta triyaj botları klinik ortamlara hücum ettikçe yeni endişeler ortaya çıkarıyor. Dijital terapötikler, triyaj sohbet robotları ve dokümantasyon yardımcıları giderek daha fazla hazır büyük dil modellerine güveniyor. Bu modeller psikiyatrik teşhislerin düşmanca çerçevelenmesine yönelik istatistiksel bir tercihe sahipse, otomatik not alma ("hasta muhtemelen tehlikeli") ile kaynak önerileri ("güvenli tesise ihtiyaç duyuyor") arasında her şeyi etkileyebilir. Ticari satıcılar bir modelin çıktısını diğerinin girdisine zincirledikçe bu risk artıyor ve Magu'nun ekibinin ortaya çıkardığı tavşan deliği etkisini kopyalıyor.

------

Yazar: Kevin Gallagher (Dr. Kevin Gallagher şu anda Pittsburgh, PA'daki Point Park Üniversitesi Psikoloji Bölümü'nde Yardımcı Doçent olarak çalışmakta ve Eleştirel Psikoloji üzerine yoğunlaşmaktadır. Geçtiğimiz on yıl boyunca, ödüllü sokak tıbbı programı Operation Safety Net'te dört yıl görev almış ve Pittsburgh Mercy'deki Madde Kullanım Bozukluğu Programı'nı denetlemiştir. Eleştirel Psikoloji alanındaki Doktorasını tamamlamadan önce Gateway Health Plan'da Klinik Kalite Programı Geliştirme ve Yönetimi konusunda çalışmıştır. Akademik odak noktası, feminist, eleştirel ırk, eleştirel posthümanist, post-yapısalcı ve diğer çığır açan teoriler dahil olmak üzere alternatif ve gelişen bakış açılarından ruh sağlığı, madde kullanımı ve bağımlılığı yeniden düşünmektir.)

Referans: From Stereotype to Slur in Three Clicks: Inside AI’s Mental-Health Hate Machine

By Kevin Gallagher, May 6, 2025, ET:15.05.2025

(a)http://chrome-extension//efaidnbmnnnibpcajpcglclefindmkaj/https://arxiv.org/pdf/2504.06160

SÖZLÜK: slur, "leke(lemek), hakaret (etmek), küfür (etmek), ayıp(lamak), geveleme(k), ağzında yuvarlama(k)" vb.. ; "(kelimeleri) belirsiz bir şekilde konuş ki sesler birbirine karışsın. "sözcüklerini sarhoş gibi geveleyerek söylüyordu (he was slurring)." ; "(iki veya daha fazla notadan oluşan bir grubu) legato olarak çal. "Notaları gevelemezsem (if I don't slur) çalabilirim"" ; Birine hakaret etme veya itibarını zedeleme olasılığı olan bir ima veya iddia. "Yorumlar hastane personeline yönelik bir hakaretti (a slur)". ; seslerin veya kelimelerin birbirine karışacağı şekilde belirsiz bir şekilde konuşma eylemi veya bu şekilde konuşma eğilimi. "sesinde bir geveleme (a slur) izi vardı"." ;

NOT : Yabancı sitelerden alınan haber, makale gibi yabancı dillerin Türkçe çevirilerinde hatalar olabilir. Gerçek çevirileri öğrenmek için kaynaklarına gidip okuyabilirsiniz..

✔Türkiye'de Deli Author by Ertuğrul Yıldırım 🙂💓