Soru-Cevap: Akıl sağlığı sohbet robotlarının neden katı güvenlik korkuluklarına ihtiyacı var?



Ruh sağlığı olmaya devam ediyor dijital sağlık yatırımcıları için önde gelen klinik odak noktası. Uzayda çok fazla rekabet var, ancak sağlık sistemi için hala büyük bir zorluk: Birçok Amerikalı, ruh sağlığı uzmanlarının eksikliğibakıma erişimi sınırlamak.

Kullanıcıların kaygı, stres ve düşük ruh hali gibi endişelerle çalışmasına yardımcı olmayı amaçlayan yapay zeka destekli bir sohbet robotunun yapımcısı Wysa, kısa süre önce bir duyuru yaptı. Başlangıç, kronik kas-iskelet ağrısı olan yetişkinlere yardımcı olmak için aracını kullanmak için FDA Çığır Açan Cihaz Tanımını aldıktan kısa bir süre sonra, 20 milyon dolarlık B Serisi fon artışı.

Şirketin kurucu ortağı ve başkanı Ramakant Vempati, MobiSağlıkHaberleri sohbet robotunun nasıl çalıştığını, Wysa’nın güvenlik ve kaliteyi izlemek için kullandığı korkulukları ve en son finansman turundan sonra sırada ne olduğunu tartışmak için.

MobiHealthNews: Neden bir sohbet robotunun kaygı ve stres için yararlı bir araç olduğunu düşünüyorsunuz?

Ramakant Vempati: Erişilebilirliğin bununla çok ilgisi var. Wysa’nın yolculuğunun başlarında, bir ev hanımından, “Bak, bu çözümü seviyorum çünkü ailemle birlikte televizyonun önünde oturuyordum ve bütün bir CBT seansı yaptım” diyen bir geri bildirim aldık. [cognitive behavioral therapy]ve kimsenin bilmesine gerek yoktu.”

Bence bu gerçekten gizlilik, anonimlik ve erişilebilirlik. Ürün açısından, kullanıcılar doğrudan düşünebilir veya düşünmeyebilir, ancak bu sağlık bağlamında amaca uygun olduğundan emin olmak için ürüne yerleştirdiğimiz güvenlik ve korkuluklar, sağladığımız değerin önemli bir parçasıdır. . Bence bu şekilde güvenli bir alan yaratıyorsunuz.

Başlangıçta, Wysa’yı piyasaya sürdüğümüzde bunun nasıl olacağından pek emin değildim. 2017’de canlı yayına geçtiğimizde, “İnsanlar en derin, en karanlık korkuları hakkında gerçekten bir sohbet robotuyla konuşacak mı?” dedim. Sohbet robotlarını bir banka web sitesi gibi müşteri hizmetleri bağlamında kullanıyorsunuz ve açıkçası, deneyim arzulanan çok şey bırakıyor. Bu yüzden, bunun nasıl karşılanacağından tam olarak emin değildim.

Lansmandan beş ay sonra, kimsenin olmadığı bir zamanda bunun orada olduğunu söyleyen bir kızdan bu e-postayı aldık ve bu onun hayatını kurtarmaya yardımcı oldu. Başka kimseyle konuşamıyordu, 13 yaşında bir kız çocuğu. Ve bu olduğunda, bence bir kurucu olarak kişisel olarak benim için jeton düştüğü zamandı.

O zamandan beri, bir fikirden bir konsepte, bir ürüne veya işletmeye geçişin üç aşamalı bir evriminden geçtik. Bence birinci aşama, kullanıcıların bundan hoşlandığına ve hizmetten değer elde ettiklerine kendimizi gerçekten ikna ederek kendimize kanıtlıyor. İkinci aşamanın bunu klinik sonuçlar açısından kanıtlamak olduğunu düşünüyorum. Yani, şimdi 15 hakemli değerlendirmemiz var yayınlar herhangi biri yayınlanan ya da şu anda trende. gibi ortaklarla altı randomize kontrol çalışmasına dahil olduk. NHS ve Harvard. Ve sonra, kronik ağrı konusundaki çalışmalarımız için FDA Çığır Açan Cihaz Tanımına sahibiz.

Bence tüm bunlar kanıtlamak ve bu kanıt tabanını oluşturmak, bu da herkese bunun işe yaradığına dair güven veriyor. Ve sonra, üçüncü aşama onu ölçeğe alıyor.

MHN: Üründe korkuluklardan bahsetmişsiniz. Bunların ne olduğunu tarif edebilir misin?

Vempati: 1 numara, insanlar AI hakkında konuştuğunda çok fazla yanlış anlama ve çok fazla korku var. Ve elbette, biraz şüphecilik var. Wysa ile yaptığımız şey, yapay zekanın bir anlamda bir kutuya konmasıdır.

NLP’yi nerede kullanıyoruz [natural language processing], kullanıcı bağlamını anlamak ve ne hakkında konuştuklarını ve ne aradıklarını anlamak için NLU, doğal dil anlama kullanıyoruz. Ancak kullanıcıya yanıt verdiğinde, önceden programlanmış bir yanıttır. Konuşma klinisyenler tarafından yazılmıştır. Dolayısıyla, içeriği gerçekten yazan bir klinisyen ekibimiz var ve bunu açıkça test ediyoruz.

Yani, ikinci kısım, üretken modeller kullanmadığımıza göre, yapay zekanın asla birinin söylediğini %100 yakalayamayacağının da çok farkındayız. İnsanların belirsiz bir şey söylediği veya iç içe veya karmaşık cümleler kullanacakları durumlar her zaman olacaktır ve AI modelleri onları yakalayamayacaktır. Bu bağlamda ne zaman bir script yazıyorsak, kullanıcının ne dediğini anlamadığınızda yanıtın tetiklenmeyeceği, zarar vermeyeceği niyetiyle yazıyorsunuz.

Bunu yapmak için ayrıca çok resmi bir test protokolümüz var. Ve Birleşik Krallık’ta NHS tarafından kullanılan bir güvenlik standardına uyuyoruz. Şu anda platformda 500 milyon görüşme yaptığımız için kullandığımız geniş bir klinik güvenlik veri setimiz var. Yani elimizde çok büyük bir konuşma verisi var. Yapay zekanın asla yakalayamayacağını bildiğimiz bir veri alt kümemiz var. Her yeni konuşma komut dosyası oluşturduğumuzda, bu veri seti ile test ederiz. Kullanıcı bunları söylerse ne olur? Cevap ne olurdu? Ardından klinisyenlerimiz cevaba ve konuşmaya bakar ve cevabın uygun olup olmadığına karar verir.

MHN: B Serisinizi duyurduğunuzda Wysa, daha fazla dil desteği eklemek istediğini söyledi. Hangi dilleri dahil edeceğinizi nasıl belirlersiniz?

Vempati: Wysa’nın ilk günlerinde, çeviri yapmak için gönüllü olarak yazı yazan insanlara sahiptik. Brezilya’dan birisine “Bak, ben iki dil biliyorum ama karım sadece Portekizce konuşuyor. Ben de sizin için tercüme edebilirim” yazmasını sağladık.

Yani zor bir soru. Kalbiniz, özellikle insanların destek almadığı düşük kaynaklı diller için dışarı çıkıyor. Ancak sadece tercüme etmek için değil, aynı zamanda neredeyse uyarlamak için de çok iş gerekiyor. Neredeyse yeni bir ürün inşa etmek gibi. Bu nedenle, ne alacağınız konusunda çok dikkatli olmalısınız. Ve bu sadece statik, tek seferlik bir çeviri değil. Sürekli izlemeniz, klinik güvenliğin yerinde olduğundan ve zamanla gelişip iyileştiğinden emin olmanız gerekir.

Dolayısıyla, bu bakış açısından, ağırlıklı olarak pazar talebi ve güçlü olduğumuz yerler tarafından yönlendirilen birkaç dil üzerinde düşünüyoruz. Bu nedenle, pazar geri bildirimi ve stratejik önceliklerin yanı sıra ürünün üstesinden gelebileceği şeylerin bir kombinasyonu, yapay zekayı bu belirli dilde klinik güvenlikle kullanmanın daha kolay olduğu yerlerdir.

MHN: Ayrıca mesajlaşma servisi WhatsApp ile entegre olmayı düşündüğünüzü de belirtmişsiniz. Bu entegrasyon nasıl işleyecek? Gizlilik ve güvenlik endişelerini nasıl yönetiyorsunuz?

Vempati: WhatsApp şu anda bizim için çok yeni bir kavram ve onu araştırıyoruz. Gizlilik gereksinimlerinin çok ama çok farkındayız. WhatsApp’ın kendisi uçtan uca şifrelidir, ancak o zaman, anonimlik perdesini kırarsanız, bunu nasıl sorumlu bir şekilde yaparsınız? Ayrıca tüm düzenleyici standartlara uyduğunuzdan nasıl emin olabilirsiniz? Bunların hepsi şu anda devam eden konuşmalar.

Ama bence, bu aşamada, gerçekten vurgulamak istediğim şey, bunu çok, çok dikkatli yaptığımızdır. WhatsApp fırsatı konusunda büyük bir heyecan duygusu var çünkü dünyanın büyük bir bölümünde bu, birincil iletişim aracıdır. Asya’da, Afrika’da.

Ruh sağlığı desteğinizin olmadığı, yetersiz hizmet alan topluluklardaki insanları hayal edin. Etki açısından, bu bir rüya. Ama erken aşama.


Kaynak : https://www.mobihealthnews.com/news/qa-why-mental-health-chatbots-need-strict-safety-guardrails

SMM Panel PDF Kitap indir