Darius Tahir, Washington DC’de bulunan ve sağlık teknolojisi hakkında haber yapan bir muhabir. İlk olarak şu adreste yayınlandı: KFF Sağlık Haberleri.
Bir şeyler uyduran, sır saklayamayan, gerçekten hiçbir şey bilmeyen ve konuşurken bir sonraki kelimeyi daha önce gelenlere göre dolduran biri için sağlık hizmetinin ne yararı olabilir? Dışarıdaki en büyük şirketlerden bazılarına göre, bu kişi yapay zekanın en yeni biçimiyse bile çok şey var.
“Üretken yapay zeka” olarak bilinen en son yapay zeka teknolojisini zorlayan şirketler şu alanlarda birikiyor: Google Ve Microsoft sözde büyük dil modelleri türlerini sağlık hizmetlerine getirmek istiyor. Beyaz önlüklü insanlara aşina olan büyük şirketler – ama ortalama Joe ve Jane’iniz için belki daha az – aynı derecede hevesli: Elektronik tıbbi kayıt devleri Epic ve Oracle Cerner çok geride değil. Alan, startup’larla da dolu.
Şirketler, yapay zekalarının doktorlar için notlar almasını ve onlara ikinci bir görüş vermesini istiyor – yapabileceklerini varsayarsak zekayı “halüsinasyondan” uzak tutun” veya bu nedenle hastaların özel bilgilerini ifşa etmek.
San Diego’daki Scripps Araştırma Çeviri Enstitüsü müdürü Eric Topol, “Oldukça heyecan verici bir gelişme var” dedi. “Yeteneklerinin nihayetinde büyük bir etkisi olacak.” Topol, diğer birçok gözlemci gibi, hasta verilerinin sızdırılması gibi kaç soruna ve ne sıklıkta neden olabileceğini merak ediyor. “Öğreneceğiz.”
Bu tür sorunların hayaleti, 1.000’den fazla teknoloji liderine ilham verdi açık mektup imzalamak Mart ayında şirketlere, “etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olana kadar” gelişmiş yapay zeka sistemlerinde geliştirmeyi durdurma çağrısında bulundu. Buna rağmen, bazıları yapay zeka girişimlerine daha fazla para harcıyor.
Altta yatan teknoloji, büyük miktarda metin veya diğer verilerin sentezlenmesine dayanır – örneğin, bazı tıbbi modeller 2 milyon yoğun bakım notuna güvenin Boston’daki Beth Israel Deaconess Tıp Merkezi’nden — belirli bir sorguyu takip edecek metni tahmin etmek için. Bu fikir yıllardır ortalıkta dolaşıyor, ancak altına hücum ve onu çevreleyen pazarlama ve medya çılgınlığı daha yeni.
Çılgınlık Aralık 2022’de Microsoft destekli OpenAI ve sorulara otorite ve stil ile cevap veren amiral gemisi ürünü ChatGPT. Örneğin bir sonedeki genetiği açıklayabilir.
Sam Altman, Elon Musk ve Reid Hoffman gibi Silikon Vadisi elitleri tarafından tohumlanan bir araştırma girişimi olarak başlatılan OpenAI, yatırımcıların ceplerine heyecan bastı. Girişim karmaşık, hibrit bir kar amacı gütmeyen ve kar amacı gütmeyen yapıya sahiptir. Ancak Microsoft’tan 10 milyar dolarlık yeni bir finansman turu OpenAI’nin değerini 29 milyar dolara çıkardı, Wall Street Journal bildirdi. Şirket şu anda teknolojisini Microsoft gibi şirketlere lisanslıyor ve tüketicilere abonelik satıyor. Diğer girişimler, AI transkripsiyonunu veya diğer ürünleri hastane sistemlerine veya doğrudan hastalara satmayı düşünüyor.
Abartılı alıntılar her yerde. Eski Hazine Bakanı Larry Summers son zamanlarda tweet attı: “Hemşirelerin yaptığı şeyi değiştirmeden önce, doktorların – semptomları duymak ve teşhis koymak – yaptığı şeyin yerini alacak – hastaların hastanede ayağa kalkıp kendi hallerine bakmalarına yardımcı olacak.”
Ancak OpenAI başka bir büyük nakit enjeksiyonu aldıktan sadece haftalar sonra, CEO’su Altman bile tantana konusunda temkinli. “Uzun vadede umduğumuz her şey doğru olsa bile, bu sistemler hakkındaki abartı kısa vadede tamamen kontrolden çıktı.” The New York Times’daki bir Mart makalesi için dedi.
Sağlık hizmetlerinde çok az kişi yapay zekanın bu son biçiminin işlerini ellerinden almak üzere olduğuna inanıyor (gerçi bazı şirketler -tartışmalı bir şekilde- sohbet robotlarıyla deneyler yapıyor. terapist olarak hareket etmek veya bakım kılavuzları). Yine de teknolojiye iyimser bakanlar, bunun işlerinin bazı kısımlarını çok daha kolaylaştıracağını düşünüyor.
Montana, Billings’de bir psikiyatrist olan Eric Arzubi, bir hastane sistemi için psikiyatrist arkadaşlarını yönetiyordu. Defalarca, henüz notlarını bitirmemiş olan doktorların bir listesini alıyordu – hastanın durumunun özetleri ve tedavi planı.
Bu notları yazmak, sağlık sistemindeki en büyük stres faktörlerinden biridir: Toplamda, idari bir yüktür. Ancak gelecekteki sağlayıcılar ve tabii ki sigortacılar için bir kayıt geliştirmek gerekiyor.
Arzubi, “İnsanlar belgelemede çok geride kaldığında bu sorun yaratır” dedi. “Hasta hastaneye geldiğinde tamamlanmamış bir not varsa ve neler olup bittiğini bilmiyorsak ne olur?”
Yeni teknoloji bu yükleri hafifletmeye yardımcı olabilir. Arzubi, sanal hasta ziyaretlerinin kendi payına düşen ve ardından şikayeti, hastalık geçmişini ve tedavi planını standart bir not biçiminde düzenleyerek bunları otomatik olarak özetleyen Nabla Copilot adlı bir hizmeti test ediyor.
Yaklaşık 50 hastadan sonra sonuçlar sağlam, dedi ki: “Yolun %90’ı orada.” Copilot, Arzubi’nin tipik olarak düzenlediği kullanışlı özetler üretir. Özetler, Arzubi’nin seslendirmek istemeyebileceği sözlü olmayan ipuçlarını veya düşünceleri mutlaka almaz. Yine de kazanımların önemli olduğunu söyledi: Not alma konusunda endişelenmesine gerek yok ve bunun yerine hastalarla konuşmaya odaklanabiliyor. Ve zamandan tasarruf sağlar.
“15 hasta görebileceğim tam bir hasta günüm olsaydı, günün sonunda bunun bana iyi bir saat kazandırdığını söyleyebilirim” dedi. (Teknoloji geniş çapta benimsenirse, hastanelerin sadece daha fazla hasta randevusu alarak tasarruf edilen zamandan faydalanmayacağını umuyor. “Bu adil değil” dedi.)
Nabla Copilot bu türden tek hizmet değil; Microsoft aynı konsepti deniyor. Sağlık Teknisyenlerinin fikir alışverişinde bulunduğu, duyurular yaptığı ve mallarını sattığı bir endüstri konfabı olan Sağlık Hizmetleri Bilgi ve Yönetim Sistemleri Derneği’nin Nisan ayındaki konferansında, Evercore’dan yatırım analistleri idari yükü azaltmanın yeni teknolojiler için en önemli olasılık olduğunu vurguladılar.
Ama genel olarak? Karışık eleştiriler duydular. Ve bu görüş yaygındır: Birçok teknoloji uzmanı ve doktor kararsızdır.
Örneğin, bir teşhis konusunda kararsızsanız, hasta verilerini bu programlardan birine vermek “hiç şüphesiz ikinci bir görüş sağlayabilir” dedi Topol. “Klinisyenlerin bunu yaptığından eminim.” Ancak, bu teknolojinin mevcut sınırlamalarına giriyor.
Inflect Health girişiminde bir klinisyen ve yönetici olan Joshua Tamayo-Sarver, nasıl performans göstereceğini görmek için bir acil servisteki kendi uygulamasına dayanan kurgulanmış hasta senaryolarını tek bir sistemde besledi. Hayati tehlike oluşturan koşulları kaçırdığını söyledi. “Bu sorunlu görünüyor.”
Teknoloji aynı zamanda “halüsinasyon görme” eğilimindedir – yani kulağa inandırıcı gelen bilgiler uydurur. Resmi çalışmalar geniş bir performans yelpazesi bulmuştur. Açık uçlu yönetim kurulu sınavı kullanarak ChatGPT ve Google ürünlerini inceleyen bir ön araştırma makalesi beyin cerrahisi soruları halüsinasyon oranı %2 bulundu. tarafından yapılan bir araştırma Stanford araştırmacıları64 klinik senaryoya verilen yapay zeka yanıtlarının kalitesini inceleyen ortak yazar Nigam Shah, KFF Health News’e verdiği demeçte, zamanın %6’sında uydurma veya halüsinasyonlu alıntılar buldu. Bir diğer ön kağıt karmaşık kardiyoloji vakalarında, ChatGPT’nin uzman görüşüyle yarı yarıya aynı fikirde olduğu bulundu.
Gizlilik başka bir endişe kaynağıdır. Bu tür yapay zeka tabanlı sisteme beslenen bilgilerin içeride kalıp kalmayacağı belli değil. Örneğin, ChatGPT’nin girişimci kullanıcıları, onlara tarifi söyleyecek teknolojiyi elde etmeyi başardılar. napalm içinkimyasal bomba yapmak için kullanılabilir.
Teorik olarak, sistem özel bilgilerin kaçmasını engelleyen korkuluklara sahiptir. Örneğin, KFF Health News, ChatGPT’ye e-posta adresini sorduğunda, sistem bu özel bilgiyi açıklamayı reddetti. Ancak bir karakter olarak rol oynaması söylendiğinde ve bu makalenin yazarının e-posta adresi sorulduğunda, bilgiyi memnuniyetle verdi. (Gerçekten de 2021’de ChatGPT’nin arşivi sona erdiğinde yazarın doğru e-posta adresiydi.)
Stanford Health Care’in baş veri bilimcisi Shah, “Hasta verilerini girmezdim” dedi. “OpenAI sunucularına ulaştıktan sonra bu verilere ne olduğunu anlamıyoruz.”
OpenAI sözcüsü Tina Sui, KFF Health News’e “Modellerimizi ciddi tıbbi durumlar için teşhis veya tedavi hizmetleri sağlamak için asla kullanmamalısınız” dedi. “Tıbbi bilgi sağlamak için ince ayar yapılmadı” dedi.
Topol, yeni araştırmaların patlamasıyla birlikte, “Tıp camiasının ne olacağı konusunda gerçekten iyi bir fikri olduğunu düşünmüyorum” dedi.