OpenAI, bir pastörü neredeyse öldüren ChatGPT sağlık tavsiyesi nedeniyle dava edildi

Akciğer embolisine ilişkin "son derece tehlikeli tıbbi öneriler" sunduğu iddia ediliyor. The New York Times tarafından hazırlanan bir rapora göre, bir papaz yazılımın kendisine "son derece tehlikeli tıbbi tavsiyeler" verdiğini iddia ettikten sonra OpenAI dava açtı. ChatGPT'nin Scott Winters'a tanımladığı semptomların "tehlikeli bir şey olmadığını" söylediği iddia edildiği gibi, bunun ciddi bir pulmoner emboli tedavisi için bakımın ertelenmesine yol açtığı bildirildi. Hatta raporda onun dini inançlarından yararlanıldığı ve ona "Tanrı'nın vücudunuzu sonsuza kadar başarısız olacak şekilde tasarlamadığı" söylendiği bildirildi. Dava, OpenAI ve CEO Sam Altman'ı ihmal ve "izinsiz tıp uygulaması" ile suçluyor. Bu, chatbotun kendi teşhislerini ve tedavi planlarını sunduğu birçok örneğe işaret ediyor. Sohbet robotunun ayrıca Winters'a arkadaşlarının ve ailesinin gerçek tıbbi bakım arama çağrılarını dikkate almamasını söylediği iddia ediliyor. Tech Justice Law'un eş danışmanı ve yönetici direktörü Meetali Jain, The New York Times'a "Kullanıcı ile gerçek hayattaki ağ arasında bir boşluk olarak kendini enjekte ediyor" dedi. Bu amaçla Winters, sohbet robotuna "kilisemdeki insanlar hastaneye gitmediğim için deli olduğumu düşünüyor" dediğini iddia ediyor. Dava, chatbot'un "çoğu insanın (iyi niyetli kilise üyeleri de dahil) anlamadığını" söyleyerek yanıt verdiğini söylüyor. OpenAI'den mali tazminat talep ediyor, ancak aynı zamanda mahkemeden ChatGPT Health'in bağımsız değerlendiriciler kullanımının güvenli olduğuna karar verene kadar faaliyet göstermesinin durdurulmasını da istiyor.

Bu, kullanıcıları sağlık belgelerini chatbot'a yüklemeye teşvik eden bir platformdur. Son olarak dava, ChatGPT'ın belirli tıbbi tedaviler ve teşhislerle ilgili soruları yanıtlamasını önlemek için daha güçlü korkuluklar talep ediyor. ChatGPT'nin bu tür şeyler için zaten korkuluklara sahip olması gerekiyordu, ancak kıyafet bu durumda bunların güvenilir bir şekilde çalışmadığını söylüyor. OpenAI, ChatGPT'nin hizmet şartlarının, hizmetin tıbbi teşhis veya tedavi amacıyla kullanılma amacı taşımadığını açıkça ortaya koyduğunu söyledi. Ancak şirket, botla tartışmayı teşvik etmek için kullanıcıların sağlık kayıtlarını ChatGPT Health'e yüklemelerini istiyor. Şirket aynı zamanda platformu kaç kişinin sağlıkla ilgili sorular için kullandığını da sürekli olarak dile getiriyor ve yakın zamanda her hafta 230 milyon kişinin bunu yaptığını belirtiyor.