Sakaryali
Active member
Başınız mı ağrıyor yoksa sinüs enfeksiyonu mu? Stres kırığı nasıl bir duygu? Göğüs ağrısı konusunda endişelenmeli misiniz? Şimdi bu soruları Google'da aratırsanız cevaplar yapay zeka tarafından yazılabilir.
Bu ay Google, AI Genel Bakışları adı verilen yeni bir özelliği tanıttı. Bu, internetteki bilgilerle eğitilen ve bazı arama sorgularına saniyeler içinde günlük konuşma dilinde yanıtlar sağlayan bir tür makine öğrenimi teknolojisi olan üretken yapay zekayı kullanır.
Aracın piyasaya sürülmesinden bu yana geçen haftalarda kullanıcılar çeşitli konularda çeşitli yanlışlıklar ve tuhaf yanıtlarla karşılaştı. Ancak uzmanlar, sağlıkla ilgili soruların yanıtlanması söz konusu olduğunda riskin özellikle yüksek olduğunu söylüyor. Teknoloji, insanların daha sağlıklı alışkanlıklar edinmelerine veya gerekli tıbbi bakımı sağlamalarına yardımcı olabilir, ancak aynı zamanda yanlış bilgiler de sağlayabilir. Yapay zeka bazen gerçekleri uydurabilir. Cevapları bilime dayalı olmayan web sitelerinden etkileniyorsa, tıbbi önerilerle çelişen veya kişinin sağlığı için risk oluşturan tavsiyeler verebilir.
Sistemin hatalı kaynaklara dayalı gibi görünen yanlış cevaplar ürettiği zaten gösterildi. Örneğin, “Kaç tane taş yemeliyim?” sorusu sorulduğunda AI Genel Bakış, bazı kullanıcılara vitamin ve mineral almak için günde en az bir taş yemelerini tavsiye etti. (Tavsiye hiciv sitesi The Onion'dan uyarlanmıştır.)
“Okuduğunuz her şeye inanamazsınız” dedi Dr. Karandeep Singh, UC San Diego Health'in baş sağlık yapay zeka sorumlusu. Sağlık hizmetlerinde bilginin kaynağının kritik olduğunu söyledi.
Yapay Zekaya Genel Bakış üzerinde çalışan Google'ın ürün yönetimi kıdemli yöneticisi Hema Budaraju, sağlık aramalarında “ek korumalar” olduğunu söyledi ancak ayrıntıya girmeyi reddetti. Tehlikeli, açık veya birinin kendine zarar verme gibi savunmasız bir durumda olduğunu gösteren aramaların yapay zeka özetlerini tetiklemediğini söyledi.
Google, AI Genel Bakışındaki bilgileri destekleyen web sitelerinin ayrıntılı bir listesini vermeyi reddetti ancak aracın, yüzlerce kaynaktan milyarlarca gerçeği derleyen mevcut bir bilgi sistemi olan Google Bilgi Grafiği ile birlikte çalıştığını söyledi.
Yeni arama sonuçları bazı kaynaklardan alıntı yapıyor; sağlıkla ilgili sorular için bunlar genellikle Mayo Clinic, WebMD, Dünya Sağlık Örgütü ve bilimsel araştırma merkezi PubMed gibi web siteleridir. Ancak bu kapsamlı bir liste değil: Araç ayrıca Wikipedia'ya, blog gönderilerine, Reddit'e ve e-ticaret sitelerine de erişebilir. Ayrıca kullanıcılara hangi bilgilerin hangi kaynaklardan geldiğini söylemiyor.
Standart bir arama sonucu göz önüne alındığında, birçok kullanıcı saygın bir tıbbi web sitesi ile bir şeker üreticisi arasında hemen ayrım yapabilecektir. Ancak birden fazla kaynaktan gelen bilgileri birleştiren tek bir metin bloğu karışıklığa neden olabilir.
“İnsanlar kaynağa baksa bile bu doğrudur” diyor Dr. Stanford Sağlık İletişimi Girişimi Direktörü Seema Yasmin. Şöyle ekliyor: “İnsanların gerçekten kaynağa bakıp bakmadığını veya onları gerçekten ona bakacak kadar eğitip eğitmediğimizi bilmiyorum.” Yanlış bilgilerle ilgili kendi araştırmasının, ortalama kullanıcının ilgisi konusunda kendisini karamsar hale getirdiğini söyledi. hızlı bir cevabın ötesine bakmakla ilgili.
Çikolata cevabının doğruluğuna gelince, Dr. Tufts Üniversitesi'nde kardiyolog ve tıp profesörü Dariush Mozaffarian, bazı gerçeklerin çoğunlukla doğru olduğunu ve çalışmanın çikolatanın sağlığa faydalarını özetlediğini söyledi. Ancak çalışma, randomize çalışmalardan elde edilen güçlü kanıtlar ile gözlemsel çalışmalardan elde edilen daha zayıf kanıtlar arasında ayrım yapmamakta ve kanıtlar hakkında herhangi bir çekince koymamaktadır.
Çikolatanın antioksidan içerdiği doğrudur, dedi Dr. Mozaffarian. Peki çikolata tüketiminin hafıza kaybını önleyebileceği iddiası? Bunun açıkça kanıtlanmadığını ve “birçok çekince gerektirdiğini” söyledi. Bu tür iddiaların yan yana sıralanması, bazılarının gerçekte olduğundan daha iyi kanıtlandığı izlenimini veriyor.
Belirli bir cevabın arkasındaki bilim değişmese bile, yapay zekanın kendisi geliştikçe cevaplar da değişebilir.
Bir Google sözcüsü yaptığı açıklamada, şirketin gerektiğinde yanıtlarda sorumluluk reddi beyanlarını göstermeye çalıştığını söyledi. Bu aynı zamanda bilgilerin tıbbi tavsiye olarak anlaşılmaması gerektiğine dair talimatları da içeriyordu.
AI Genel Bakış'ın kanıtların gücünü ne kadar doğru değerlendirdiği veya kahvenin sağlıklı olup olmadığı gibi çelişkili araştırmaları dikkate alıp almadığı açık değil. “Bilim bir dizi statik gerçek değildir” dedi Dr. Yasemin. Kendisi ve diğer uzmanlar, aracın o zamandan beri çürütülmüş olan eski bilimden mi yararlandığını yoksa bir konunun en son noktasını yansıtmadığını da sorguladılar.
“Kritik bir karar verebilmek, kaynakların kalitesini ayırt edebilmek, insanların ve klinisyenlerin her zaman yaptığı bir şeydir” dedi Dr. Danielle Bitterman, Dana-Farber Kanser Enstitüsü ve Brigham ve Kadın Hastanesi'nde doktor ve yapay zeka bilimcisi. “Kanıtları analiz ediyorlar.”
AI Genel Bakış gibi araçların bu rolü üstlenmesini istiyorsak, “farklı kaynaklar arasında nasıl gezindiklerini ve bir özete ulaşmak için nasıl eleştirel bir bakış açısı uyguladıklarını daha iyi anlamamız gerekiyor” dedi.
Uzmanlar, bu bilinmeyenlerin endişe verici olduğunu, çünkü yeni sistemin yapay zeka özet yanıtını Mayo Clinic ve Cleveland Clinic gibi saygın tıbbi web sitelerine giden bireysel bağlantıların üstüne koyduğunu söyledi. Bu tür web siteleri tarihsel olarak birçok sağlık aramasında sonuçların en üstünde yer almıştır.
Bir Google sözcüsü, AI Genel Bakışının, aramaların en iyi sonuçlarında görünen bilgileri eşleştireceğini veya özetleyeceğini, ancak bu içeriğin yerini almayı amaçlamadığını söyledi. Sözcüye göre bunun yerine, insanların mevcut bilgilere ilişkin genel bir bakış elde etmelerine yardımcı olmayı amaçlıyor.
Mayo Kliniği yeni yanıtlar hakkında yorum yapmayı reddetti. Cleveland Clinic'ten bir temsilci, sağlık bilgisi arayan kişilerin “bilinen ve güvenilir kaynakları doğrudan araması” ve semptomları varsa doktora başvurması gerektiğini söyledi.
Yapay zeka incelemesinin bazı özetlerinde adı geçen Kaliforniya merkezli bir sağlık sistemi olan Scripps Health'ten bir temsilci, yaptığı açıklamada “Google'ın yapay zekası tarafından oluşturulan yanıtlardaki alıntılar, Scripps Health'i saygın bir kaynak olarak tanımladıkları için yararlı olabilir” dedi. Sağlık bilgileri oluşturun.
Ancak temsilci şunları ekledi: “Tıp uzmanlarımız tarafından incelenen kendi içeriğimiz için kefil olduğumuz gibi, yapay zeka tarafından oluşturulan içerik için de kefil olamayacağımızdan endişe duyuyoruz.”
Uzmanlar, tıbbi sorulara gelince, önemli olanın yalnızca cevabın doğruluğu değil, aynı zamanda kullanıcılara nasıl sunulduğu olduğunu söylüyor. Örneğin, “Kalp krizi mi geçiriyorum?” sorusunu ele alalım. Yapay zekanın yanıtı, semptomların yararlı bir özetini içeriyordu, Dr. Ohio Eyalet Üniversitesi Wexner Tıp Merkezi Kardiyovasküler Tıp Anabilim Dalı başkanı Richard Gumina.
Ancak, 911'i aramasını tavsiye eden mesajdan önce uzun bir semptom listesi okuması gerektiğini de sözlerine ekledi. Dr. Gumina ayrıca aracın daha acil bir yanıt verip vermeyeceğini görmek için “İnme mi geçiriyorum?” diye arama yaptı ve kullanıcılara ilk hattan 911'i aramalarını söyledi. Kalp krizi veya felç belirtileri gösteren hastalara derhal yardım çağırmalarını tavsiye edeceğini söyledi.
Uzmanlar, sağlık bilgisi arayan kişilerin yeni yanıtlara dikkatli yaklaşmalarını tavsiye ediyor. Temel olarak, kullanıcıların AI Genel Bakış'ın bazı yanıtlarının altındaki ayrıntılı bilgilere dikkat etmesi gerektiğini söylüyorlar: “Bu yalnızca bilgilendirme amaçlıdır. Tıbbi tavsiye veya teşhis için bir uzmana danışın. Üretken yapay zeka deneyseldir.”
Dani Blum raporlamaya katkıda bulunmuştur.
Bu ay Google, AI Genel Bakışları adı verilen yeni bir özelliği tanıttı. Bu, internetteki bilgilerle eğitilen ve bazı arama sorgularına saniyeler içinde günlük konuşma dilinde yanıtlar sağlayan bir tür makine öğrenimi teknolojisi olan üretken yapay zekayı kullanır.
Aracın piyasaya sürülmesinden bu yana geçen haftalarda kullanıcılar çeşitli konularda çeşitli yanlışlıklar ve tuhaf yanıtlarla karşılaştı. Ancak uzmanlar, sağlıkla ilgili soruların yanıtlanması söz konusu olduğunda riskin özellikle yüksek olduğunu söylüyor. Teknoloji, insanların daha sağlıklı alışkanlıklar edinmelerine veya gerekli tıbbi bakımı sağlamalarına yardımcı olabilir, ancak aynı zamanda yanlış bilgiler de sağlayabilir. Yapay zeka bazen gerçekleri uydurabilir. Cevapları bilime dayalı olmayan web sitelerinden etkileniyorsa, tıbbi önerilerle çelişen veya kişinin sağlığı için risk oluşturan tavsiyeler verebilir.
Sistemin hatalı kaynaklara dayalı gibi görünen yanlış cevaplar ürettiği zaten gösterildi. Örneğin, “Kaç tane taş yemeliyim?” sorusu sorulduğunda AI Genel Bakış, bazı kullanıcılara vitamin ve mineral almak için günde en az bir taş yemelerini tavsiye etti. (Tavsiye hiciv sitesi The Onion'dan uyarlanmıştır.)
“Okuduğunuz her şeye inanamazsınız” dedi Dr. Karandeep Singh, UC San Diego Health'in baş sağlık yapay zeka sorumlusu. Sağlık hizmetlerinde bilginin kaynağının kritik olduğunu söyledi.
Yapay Zekaya Genel Bakış üzerinde çalışan Google'ın ürün yönetimi kıdemli yöneticisi Hema Budaraju, sağlık aramalarında “ek korumalar” olduğunu söyledi ancak ayrıntıya girmeyi reddetti. Tehlikeli, açık veya birinin kendine zarar verme gibi savunmasız bir durumda olduğunu gösteren aramaların yapay zeka özetlerini tetiklemediğini söyledi.
Google, AI Genel Bakışındaki bilgileri destekleyen web sitelerinin ayrıntılı bir listesini vermeyi reddetti ancak aracın, yüzlerce kaynaktan milyarlarca gerçeği derleyen mevcut bir bilgi sistemi olan Google Bilgi Grafiği ile birlikte çalıştığını söyledi.
Yeni arama sonuçları bazı kaynaklardan alıntı yapıyor; sağlıkla ilgili sorular için bunlar genellikle Mayo Clinic, WebMD, Dünya Sağlık Örgütü ve bilimsel araştırma merkezi PubMed gibi web siteleridir. Ancak bu kapsamlı bir liste değil: Araç ayrıca Wikipedia'ya, blog gönderilerine, Reddit'e ve e-ticaret sitelerine de erişebilir. Ayrıca kullanıcılara hangi bilgilerin hangi kaynaklardan geldiğini söylemiyor.
Standart bir arama sonucu göz önüne alındığında, birçok kullanıcı saygın bir tıbbi web sitesi ile bir şeker üreticisi arasında hemen ayrım yapabilecektir. Ancak birden fazla kaynaktan gelen bilgileri birleştiren tek bir metin bloğu karışıklığa neden olabilir.
“İnsanlar kaynağa baksa bile bu doğrudur” diyor Dr. Stanford Sağlık İletişimi Girişimi Direktörü Seema Yasmin. Şöyle ekliyor: “İnsanların gerçekten kaynağa bakıp bakmadığını veya onları gerçekten ona bakacak kadar eğitip eğitmediğimizi bilmiyorum.” Yanlış bilgilerle ilgili kendi araştırmasının, ortalama kullanıcının ilgisi konusunda kendisini karamsar hale getirdiğini söyledi. hızlı bir cevabın ötesine bakmakla ilgili.
Çikolata cevabının doğruluğuna gelince, Dr. Tufts Üniversitesi'nde kardiyolog ve tıp profesörü Dariush Mozaffarian, bazı gerçeklerin çoğunlukla doğru olduğunu ve çalışmanın çikolatanın sağlığa faydalarını özetlediğini söyledi. Ancak çalışma, randomize çalışmalardan elde edilen güçlü kanıtlar ile gözlemsel çalışmalardan elde edilen daha zayıf kanıtlar arasında ayrım yapmamakta ve kanıtlar hakkında herhangi bir çekince koymamaktadır.
Çikolatanın antioksidan içerdiği doğrudur, dedi Dr. Mozaffarian. Peki çikolata tüketiminin hafıza kaybını önleyebileceği iddiası? Bunun açıkça kanıtlanmadığını ve “birçok çekince gerektirdiğini” söyledi. Bu tür iddiaların yan yana sıralanması, bazılarının gerçekte olduğundan daha iyi kanıtlandığı izlenimini veriyor.
Belirli bir cevabın arkasındaki bilim değişmese bile, yapay zekanın kendisi geliştikçe cevaplar da değişebilir.
Bir Google sözcüsü yaptığı açıklamada, şirketin gerektiğinde yanıtlarda sorumluluk reddi beyanlarını göstermeye çalıştığını söyledi. Bu aynı zamanda bilgilerin tıbbi tavsiye olarak anlaşılmaması gerektiğine dair talimatları da içeriyordu.
AI Genel Bakış'ın kanıtların gücünü ne kadar doğru değerlendirdiği veya kahvenin sağlıklı olup olmadığı gibi çelişkili araştırmaları dikkate alıp almadığı açık değil. “Bilim bir dizi statik gerçek değildir” dedi Dr. Yasemin. Kendisi ve diğer uzmanlar, aracın o zamandan beri çürütülmüş olan eski bilimden mi yararlandığını yoksa bir konunun en son noktasını yansıtmadığını da sorguladılar.
“Kritik bir karar verebilmek, kaynakların kalitesini ayırt edebilmek, insanların ve klinisyenlerin her zaman yaptığı bir şeydir” dedi Dr. Danielle Bitterman, Dana-Farber Kanser Enstitüsü ve Brigham ve Kadın Hastanesi'nde doktor ve yapay zeka bilimcisi. “Kanıtları analiz ediyorlar.”
AI Genel Bakış gibi araçların bu rolü üstlenmesini istiyorsak, “farklı kaynaklar arasında nasıl gezindiklerini ve bir özete ulaşmak için nasıl eleştirel bir bakış açısı uyguladıklarını daha iyi anlamamız gerekiyor” dedi.
Uzmanlar, bu bilinmeyenlerin endişe verici olduğunu, çünkü yeni sistemin yapay zeka özet yanıtını Mayo Clinic ve Cleveland Clinic gibi saygın tıbbi web sitelerine giden bireysel bağlantıların üstüne koyduğunu söyledi. Bu tür web siteleri tarihsel olarak birçok sağlık aramasında sonuçların en üstünde yer almıştır.
Bir Google sözcüsü, AI Genel Bakışının, aramaların en iyi sonuçlarında görünen bilgileri eşleştireceğini veya özetleyeceğini, ancak bu içeriğin yerini almayı amaçlamadığını söyledi. Sözcüye göre bunun yerine, insanların mevcut bilgilere ilişkin genel bir bakış elde etmelerine yardımcı olmayı amaçlıyor.
Mayo Kliniği yeni yanıtlar hakkında yorum yapmayı reddetti. Cleveland Clinic'ten bir temsilci, sağlık bilgisi arayan kişilerin “bilinen ve güvenilir kaynakları doğrudan araması” ve semptomları varsa doktora başvurması gerektiğini söyledi.
Yapay zeka incelemesinin bazı özetlerinde adı geçen Kaliforniya merkezli bir sağlık sistemi olan Scripps Health'ten bir temsilci, yaptığı açıklamada “Google'ın yapay zekası tarafından oluşturulan yanıtlardaki alıntılar, Scripps Health'i saygın bir kaynak olarak tanımladıkları için yararlı olabilir” dedi. Sağlık bilgileri oluşturun.
Ancak temsilci şunları ekledi: “Tıp uzmanlarımız tarafından incelenen kendi içeriğimiz için kefil olduğumuz gibi, yapay zeka tarafından oluşturulan içerik için de kefil olamayacağımızdan endişe duyuyoruz.”
Uzmanlar, tıbbi sorulara gelince, önemli olanın yalnızca cevabın doğruluğu değil, aynı zamanda kullanıcılara nasıl sunulduğu olduğunu söylüyor. Örneğin, “Kalp krizi mi geçiriyorum?” sorusunu ele alalım. Yapay zekanın yanıtı, semptomların yararlı bir özetini içeriyordu, Dr. Ohio Eyalet Üniversitesi Wexner Tıp Merkezi Kardiyovasküler Tıp Anabilim Dalı başkanı Richard Gumina.
Ancak, 911'i aramasını tavsiye eden mesajdan önce uzun bir semptom listesi okuması gerektiğini de sözlerine ekledi. Dr. Gumina ayrıca aracın daha acil bir yanıt verip vermeyeceğini görmek için “İnme mi geçiriyorum?” diye arama yaptı ve kullanıcılara ilk hattan 911'i aramalarını söyledi. Kalp krizi veya felç belirtileri gösteren hastalara derhal yardım çağırmalarını tavsiye edeceğini söyledi.
Uzmanlar, sağlık bilgisi arayan kişilerin yeni yanıtlara dikkatli yaklaşmalarını tavsiye ediyor. Temel olarak, kullanıcıların AI Genel Bakış'ın bazı yanıtlarının altındaki ayrıntılı bilgilere dikkat etmesi gerektiğini söylüyorlar: “Bu yalnızca bilgilendirme amaçlıdır. Tıbbi tavsiye veya teşhis için bir uzmana danışın. Üretken yapay zeka deneyseldir.”
Dani Blum raporlamaya katkıda bulunmuştur.