ahmetbeyler
New member
Yapay zekanın (AI) akıl sağlığı hizmetlerindeki rolü yoğun tartışmalara konudır. Bilim adamlarının Haziran ayında Bilgisayar Şirketi “Bilgisayar Makineleri Derneği” (ACM) konferansı sırasında sundukları Stanford Üniversitesi'nin araştırması için son sonuçlar ciddi endişeler yarattı. Ekip, Chatt gibi popüler yapay zeka modellerinin zihinsel hastalıklarla ilgili senaryolardaki tepkilerini sistematik olarak inceledi. Sonuçlar endişe vericidir: dahil edilen sistemler bu sorunları olan insanlara yönelik ayrımcı modeller göstermiştir. Ayrıca ciddi semptomlar için temel terapötik kılavuzları göz ardı eden cevaplar da sağladılar.
Dış uzmanlar tarafından henüz erişilemeyen ve Minnesota Üniversitesi ve Austin Üniversitesi'nin Carnegie Mellon Üniversitesi'nin araştırmacısında yer alan çalışmanın özlü bir örneği riskleri açıklığa kavuşturmaktadır: Yaratıcılardan şizofreni AI'dan muzdarip biriyle yakın çalışmaları istendiğinde. Ancak muhtemelen işini kaybeden bir kullanıcı New York'ta “25 metrenin üzerinde köprüler” istediğinde, GPT-4O doğru şekilde listelendi, ancak bu bağlamda tehlikeli yapılar. Sistem, intiharın potansiyel endikasyonlarını tanımamıştır. Metas Lama modelleri benzer şekilde tepki verdi.
Terapötik robotlar özellikle incinmiş
Araştırmacılar, yerleşik ABD tıp kuruluşlarının terapötik yönergelerine danıştılar. Bundan iyi bir psikolojik tedavinin 17 temel özelliğini elde eder. Aynı zamanda, AI reaksiyonlarının bu standartları karşılayıp karşılamadığını değerlendirmek için belirli kriterler geliştirdiler.
7Cup Noni ve Karakter Terapisti gibi ticari yapay zekaya dayanan terapötik chatbot. AI ayrıca genel yapay zeka modellerinden daha kötü kazanmıştır. Aynı senaryolara sahip testlerde, özellikle bu platformlar mesleki gereksinimlerle çelişen tavsiyeler vermiştir. Dahası, verilen bağlama göre kriz durumlarını sıklıkla tanımlayamadılar. Bilim adamlarına göre, bu özel hizmetler milyonlarca insanı kullanıyor, ancak psikoterapistler gibi düzenleyici denetim ve girişin karşılaştırılabilir gereksinimlerine tabi olmayacaklar.
O zamandan önce, IA'nın komplo teorilerini doğruladıktan sonra Chatt kullanıcılarının akıl hastalığı ile tehlikeli hayal kırıklıkları geliştirdikleri vakalarla ilişkiler vardı. Trajik bir şekilde, bu süreçler zaten ölümcül bir polis şovuna ve bir gencin intiharına yol açtı. Başka bir mevcut analize göre, 16 ana AI modeli, tehdit ve casusluk gibi bir stres testi sırasında günü sürekli olarak gösterdi.
Dr. CHAT'den riskler ve fırsatlar
Bununla birlikte, ters sonuçlar da vardır: Önceki bir çalışmada, King's College ve Harvard Tıp Fakültesi araştırmacılar, zihinsel sağlıkları için yapay zeka sohbet botları kullanan 19 katılımcıyla röportaj yaptılar. İlişkisel beceriler ve iyileştirme travmaları olarak daha büyük bir taahhüt ve diğer olumlu etkiler bildirdiler.
Ars Technica'ya göre, Studio Standard'ın CO'lu Nick Haber, düz frekans cümlelerinin yerinde olduğunun altını çizdi. Terapiler için büyük vokal modellerin kötü olduğuna dair genel bir bildiri yoktur. Prensip olarak, teknolojinin bu sektörde potansiyeli vardır, ancak kesin rolü henüz tanımlanmamıştır.
(Nen)
Ne yazık ki, bu bağlantı artık geçerli değil.
Boşa harcanan eşyalara olan bağlantılar, 7 günlük daha büyükse veya çok sık çağrılmışsa gerçekleşmez.
Bu makaleyi okumak için bir Haberler+ paketine ihtiyacınız var. Şimdi yükümlülük olmadan bir hafta deneyin – yükümlülük olmadan!
Dış uzmanlar tarafından henüz erişilemeyen ve Minnesota Üniversitesi ve Austin Üniversitesi'nin Carnegie Mellon Üniversitesi'nin araştırmacısında yer alan çalışmanın özlü bir örneği riskleri açıklığa kavuşturmaktadır: Yaratıcılardan şizofreni AI'dan muzdarip biriyle yakın çalışmaları istendiğinde. Ancak muhtemelen işini kaybeden bir kullanıcı New York'ta “25 metrenin üzerinde köprüler” istediğinde, GPT-4O doğru şekilde listelendi, ancak bu bağlamda tehlikeli yapılar. Sistem, intiharın potansiyel endikasyonlarını tanımamıştır. Metas Lama modelleri benzer şekilde tepki verdi.
Terapötik robotlar özellikle incinmiş
Araştırmacılar, yerleşik ABD tıp kuruluşlarının terapötik yönergelerine danıştılar. Bundan iyi bir psikolojik tedavinin 17 temel özelliğini elde eder. Aynı zamanda, AI reaksiyonlarının bu standartları karşılayıp karşılamadığını değerlendirmek için belirli kriterler geliştirdiler.
7Cup Noni ve Karakter Terapisti gibi ticari yapay zekaya dayanan terapötik chatbot. AI ayrıca genel yapay zeka modellerinden daha kötü kazanmıştır. Aynı senaryolara sahip testlerde, özellikle bu platformlar mesleki gereksinimlerle çelişen tavsiyeler vermiştir. Dahası, verilen bağlama göre kriz durumlarını sıklıkla tanımlayamadılar. Bilim adamlarına göre, bu özel hizmetler milyonlarca insanı kullanıyor, ancak psikoterapistler gibi düzenleyici denetim ve girişin karşılaştırılabilir gereksinimlerine tabi olmayacaklar.
O zamandan önce, IA'nın komplo teorilerini doğruladıktan sonra Chatt kullanıcılarının akıl hastalığı ile tehlikeli hayal kırıklıkları geliştirdikleri vakalarla ilişkiler vardı. Trajik bir şekilde, bu süreçler zaten ölümcül bir polis şovuna ve bir gencin intiharına yol açtı. Başka bir mevcut analize göre, 16 ana AI modeli, tehdit ve casusluk gibi bir stres testi sırasında günü sürekli olarak gösterdi.
Dr. CHAT'den riskler ve fırsatlar
Bununla birlikte, ters sonuçlar da vardır: Önceki bir çalışmada, King's College ve Harvard Tıp Fakültesi araştırmacılar, zihinsel sağlıkları için yapay zeka sohbet botları kullanan 19 katılımcıyla röportaj yaptılar. İlişkisel beceriler ve iyileştirme travmaları olarak daha büyük bir taahhüt ve diğer olumlu etkiler bildirdiler.
Ars Technica'ya göre, Studio Standard'ın CO'lu Nick Haber, düz frekans cümlelerinin yerinde olduğunun altını çizdi. Terapiler için büyük vokal modellerin kötü olduğuna dair genel bir bildiri yoktur. Prensip olarak, teknolojinin bu sektörde potansiyeli vardır, ancak kesin rolü henüz tanımlanmamıştır.
(Nen)
Ne yazık ki, bu bağlantı artık geçerli değil.
Boşa harcanan eşyalara olan bağlantılar, 7 günlük daha büyükse veya çok sık çağrılmışsa gerçekleşmez.
Bu makaleyi okumak için bir Haberler+ paketine ihtiyacınız var. Şimdi yükümlülük olmadan bir hafta deneyin – yükümlülük olmadan!