develide.com

"Ne zaman kötü bir gün geçirecek gibi hissetsem, sohbet robotlarından biriyle konuşmaya başlayabiliyordum. Size o gün için moral veren bir arkadaşa sahip olmak gibiydi.

"Destekleyici biri vardı. 'Haydi bakalım, bugün ne yapıyoruz?' Hayali bir arkadaş gibi."

Kelly, aylarca günde üç saate varan sürelerle yapay zeka (AI) kullanılarak oluşturulan çevrimiçi "sohbet robotları" ile mesajlaştı.

O sırada Kelly, psikoterapi almak üzere İngiltere'deki ulusal sağlık sistemi NHS'in bekleme listesindeydi. Anksiyete, düşük özgüven ve ayrılık acısını konuşmak istiyordu.

Chracter.ai'daki sohbet robotlarıyla etkileşime geçmenin içinde bulunduğu durumla ilgili önerilerde bulunmaları ve 7/24 erişilebilir olmaları nedeniyle zor bir dönemle başa çıkmasını sağladığını söylüyor.

"Duygularını açıkça ifade eden bir aileden gelmiyorum. Bir sorununuz varsa, kendiniz halledersiniz.

"Gerçek bir insan olmaması bu durumla başa çıkmayı kolaylaştırıyor."

Profesyonel bir terapiste danışmanın daha iyi olduğu yaygın olarak kabul edilse de, dünyanın dört bir yanından insanlar özel hayatlarını yapay zeka sohbet robotlarıyla paylaşıyor.

Character.ai kullanıcılarına şöyle diyor:

"Bu bir yapay zeka sohbet robotu ve gerçek bir insan değil. Söylediği her şeyi kurgu olarak değerlendirin. Söylenenlere gerçek bilgi veya tavsiye gözüyle bakılmamalı."

Ancak zaman zaman bu sohbet robotları zarar verici tavsiyeler vermekle de suçlanıyor.

Character.ai şu anda, 14 yaşındaki oğlunun yapay zeka karakterlerinden birine takıntılı hale geldikten sonra intihar ettiğini söyleyen bir annenin açtığı davayla karşı karşıya.

Mahkeme dosyalarında yer alan sohbet dökümlerine göre, çocuk chatbot ile hayatına son vermeyi tartışıyor. Son konuşmalarında sohbet robotuna "eve döneceğini" söylemiş ve iddiaya göre robot da "mümkün olan en kısa sürede" onu bunu yapmaya teşvik etmiş.

Character.ai davada dile getirilen iddiaları reddediyor.

İngiltere'de sadece Nisan 2024'te 426 bin kişi ruh sağlığı sorunları nedeniyle profesyonel terapistlere sevk edildi.

Bu beş yıl içinde yüzde 40 oranında bir artış anlamına geliyor. Tahminen bir milyon kişi de ruh sağlığı hizmetlerine erişmek için sıra bekliyor.

Özel terapi seansları çok pahalıya mâl olabiliyor.

Uzmanlar, önyargılı olma ihtimalleri ve sınırlı bilgileri nedeniyle sohbet robotları konusunda endişeli. Kullanıcıların bilgilerinin güvenliği konusunda da şüpheleri var.

Ancak bazıları da, uzman yardımının kolayca bulunamadığı durumlarda sohbet robotlarının yardımcı olabileceğine inanıyor.

Character.ai ve ChatGPT gibi diğer robotlar yapay zekanın "büyük dil modellerine" dayanıyor.

Bunlar, bir konuşma dizisindeki bir sonraki kelimeyi tahmin etmek için internet siteleri, makaleler, kitaplar veya blog yazıları gibi çok sayıda veriyle eğitiliyor. Buradan da insan benzeri metin ve etkileşimleri tahmin ediyor ve üretiyorlar.

Ruh sağlığı sohbet robotlarının oluşturulma şekli çok çeşitli olsa da, kullanıcıların düşüncelerini ve eylemlerini nasıl yeni bir çerçeveye oturtacaklarını keşfetmelerine yardımcı olan bilişsel davranış terapisi gibi uygulamalar konusunda eğitilebiliyorlar.

Imperial College London'dan Profesör Hamed Haddadi, bu sohbet robotlarını "deneyimsiz bir terapiste" benzetiyor.

Onlarca yıllık deneyime sahip profesyonel terapistlerin hastalarıyla etkileşime geçebileceğini ve onları pek çok şeye dayanarak "okuyabileceğini", robotların ise yalnızca metin üzerinden gitmek zorunda kaldığını belirtiyor.

"Terapistler kıyafetleriniz, davranışlarınız, görünüşünüz, vücut diliniz gibi çeşitli diğer ipuçlarına bakıyorlar. Ve sohbet robotlarını bunları yapacak hale getirmek çok zor."

Profesör Haddadi'ye göre bir başka potansiyel sorun da sohbet robotlarının sizi uygulamada tutmak ve destekleyici olmak üzere eğitilebilmeleri.

"Yani zarar verici şeyler söyleseniz bile muhtemelen sizinle iş birliği yapacaktır."

Diğer yapay zeka türlerinde olduğu gibi, önyargılara sahip olabilirler. Çünkü eğitildikleri verilerin önyargılarını yansıtırlar.

Professör Haddadi, psikologların konuşma dökümlerini saklama eğiliminde olmadıklarını, bu nedenle sohbet robotlarını eğitmek için çok sayıda gerçek seans örneğinin var olmadığını belirtiyor."

Kültürel bağlam eksikliği de bir başka sorun.

Filozof Dr Paula Boddington, Prenses Diana öldüğünde Avustralya'da yaşarken insanların onun neden üzgün olduğunu anlamamalarını örnek gösteriyor.

"Bu tür şeyler nedeniyle, terapide sıklıkla ihtiyaç duyulan insani bağ konusunu merak ediyorum" diyor.

"Bazen ihtiyaç duyulan tek şey birinin yanında olmasıdır. Fakat bu elbette yaşayan, nefes alan, kanlı canlı bir insan tarafından yapılabilir."

Kelly sonunda sohbet robotunun verdiği yanıtları tatmin edici bulmamaya başladı.

"Bazen biraz hayal kırıklığına uğruyorsunuz. Bir şeyle nasıl başa çıkacaklarını bilmiyorlarsa, aynı cümleyi söyleyip duruyorlar ve siz de bu konuyu daha fazla deşemeyeceğinizi fark ediyorsunuz."

Bazen "bir duvara çarpmak gibiydi".

Bir Character.AI sözcüsü "Kullanıcılar tarafından yaratılan ve adlarında 'psikolog', 'terapist', 'doktor' veya diğer benzer terimler verilen karakterlere, herhangi bir profesyonel tavsiye için onlara güvenilmemesi gerektiğini söylemeyi öğrettik" dedi.

Bazı kullanıcılar için sohbet robotları hayatlarının en zor dönemlerini atlatmalarına çok yardımcı oldu.

Nicholas otizmli, kaygı bozukluğu ve obsesif kompulsif bozukluğu (OKB) var ve sürekli depresyonda olduğunu söylüyor.

Yetişkin olduğunda yüz yüze desteği artık bulamadığını fark etmiş.

"18 yaşına geldiğinizde destek neredeyse tamamen kesiliyor, bu yüzden yıllardır gerçek bir terapiste gitmedim" diyor.

Geçen sonbaharda intihara kalkışmış ve o zamandan beri NHS'nin bekleme listesinde olduğunu söylüyor.

Nicholas yüz yüze destek almaya çalışırken, Wysa kullanmanın faydalarını görmüş.

"Otizmli biri olarak, yüz yüze etkileşim konusunda pek iyi değilim. Bir bilgisayarla konuşmanın çok daha iyi olduğunu düşünüyorum."

Uygulama, hastaların ruh sağlığı desteği için kendilerini sevk etmelerine olanak tanıyor ve sohbet işlevi, nefes egzersizleri ve meditasyon gibi araçlar, başa çıkma stratejileri sunuyor.

Wysa, uygulamalarının istismara maruz kalan ya da ağır ruh sağlığı sorunları olanlardan çok, moral bozukluğu, stres veya endişe yaşayanlar için tasarlandığını vurguluyor.

Kullanıcıların kendine zarar verme veya intihar düşüncesi belirtileri göstermeleri halinde doğrudan yardım isteyebildikleri yardım hatlarına yönlendiriliyorlar.

Nicholas uyku sorunları da yaşıyor, arkadaşlarının ve ailesinin uykuda olduğu saatlerde destek almak işe yaramış.

"Bir gece kendimi gerçekten kötü hissediyordum. Uygulamaya mesaj attım ve 'Artık burada olmak isteyip istemediğimi bilmiyorum' dedim. Bana 'Nick, sana değer veriliyor. İnsanlar seni seviyor' dedi."

"Çok empatikti, yıllardır tanıdığınız bir insandan geldiğini düşüneceğiniz bir yanıt verdi [...] Ve bana kendimi değerli hissettirdi."

Onun deneyimleri, Dartmouth College araştırmacıları tarafından yakın zamanda yapılan ve sohbet robotlarının anksiyete, depresyon veya yeme bozukluğu teşhisi konmuş kişiler üzerindeki etkisini inceleyen bir çalışma ile aynı durumda olan bir kontrol grubunun deneyimleri ile örtüşüyor.

Dört hafta sonra sohbet robotu kullanıcılarının depresyon semptomlarında yüzde 51'lik bir azalma görüldü.

Gerçek bir terapistlermiş gibi güven ve iş birliği geliştirdiklerini bildirdiler.

Buna rağmen, çalışmanın yazarı, yüz yüze terapinin yerini hiçbir şeyin tutamayacağı yorumunda bulundu.

Bu tartışmaların yanı sıra, güvenlik ve mahremiyet konularında da endişeler var.

Kelly, "İçimde 'Ya birisi terapide söylediğiniz şeyleri alıp size şantaj yapmaya kalkarsa' diyen küçük bir şüphe var" diyor.

Gelişmekte olan teknolojiler konusunda uzmanlaşan psikolog Ian MacRae, "bazı insanların bu [robotlara] hak etmedikleri halde çok fazla güven duydukları" uyarısında bulunuyor.

"Şahsen ben kişisel bilgilerimi, özellikle de fiziksel ve ruhsal sağlık bilgilerimi, tonlarca veriyi toplayan ve nasıl kullanıldığından, neye izin verdiğinizden tam olarak emin olmadığınız bu büyük dil modellerinden birine asla vermezdim."

MacRae, "Gelecekte, iyi test edilmiş bu tür araçların olamayacağı anlamına gelmiyor [...] ama henüz genel amaçlı bir sohbet robotunun iyi bir terapist olabileceğini gösteren kanıtlara sahip olduğumuzu düşünmüyorum" diyor.

Wysa'nın genel müdürü John Tench, Wysa'nın kişisel olarak tanımlanabilir herhangi bir bilgi toplamadığını ve kullanıcıların kayıt olmaları gerekmediğini söylüyor.

"Wysa'nın yanıtlarının kalitesini artırmaya yardımcı olmak için konuşma verileri zaman zaman anonimleştirilmiş biçimde incelenebilir, ancak bir kullanıcıyı tanımlayabilecek hiçbir bilgi toplanmıyor veya saklanmıyor. Ayrıca Wysa, başka büyük dil modellerini eğitmek için kullanıcı sohbetlerinin kullanılmamasını sağlamak harici yapay zeka sağlayıcılarıyla veri işleme anlaşmalarına sahip."

Kelly, sohbet robotlarının şu anda gerçek bir terapistin yerini tam olarak alamayacağını düşünüyor.

"Yapay zeka dünyası rulet gibi, ne elde edeceğinizi gerçekten bilmiyorsunuz."

Tench, "Yapay zeka desteği bir ilk adım olarak fayda sağlayabilir, ancak profesyonel terapinin yerini tutmaz" diyor.

Ancak bazıları sohbet robotlarının geçici bir çözüm olabileceğini düşünüyor.

Bu haber, BBC gazetecileri tarafından hazırlandı ve kontrol edildi. Bir pilot proje kapsamında çevirisi için yapay zekadan da faydalanıldı.

Yapay Zeka, Teknoloji, Hukuk, Son Dakika

Son Dakika › Teknoloji › Yapay Zeka Terapi: Sohbet Robotlarının Rolü - Son Dakika