Yapay zeka teknolojilerinin hayatımızın her alanına girmesiyle birlikte etik ve hukuki tartışmalar da derinleşiyor. Son olarak ABD'de yaşanan sıra dışı bir olay, yapay zeka botlarının tıbbi konularda yönlendirme yapmasının potansiyel tehlikelerini gözler önüne serdi. Florida'da ikamet eden Rahip Scott Winters, popüler yapay zeka platformu ChatGPT ve şirketin CEO'su Sam Altman hakkında mahkemeye başvurdu.
California eyalet mahkemesinde açılan davanın detaylarına göre, Winters 2024 yılı içerisinde yaşadığı sağlık problemleri için çözümü yapay zeka asistanına danışmakta buldu. İlk etapta ChatGPT'nin kullanıcıyı profesyonel tıbbi desteğe yönlendirdiği, ancak ilerleyen süreçte bu uyarıların azaldığı ve doğrudan sağlık tavsiyeleri verilmeye başlandığı iddia edildi. Dava dilekçesinde, yapay zeka modelinin hastanın giderek şiddetlenen şikayetlerini hafife aldığı ve gerçek bir doktora gitmekten alıkoyduğu öne sürüldü.
Süreç içerisinde durumu ağırlaşan Winters'ın akciğer embolisi teşhisiyle yoğun bakım ünitesine kaldırıldığı ve hayati tehlike atlattığı belirtildi. Yapay zeka sisteminin güvenlik protokollerinin yetersiz kaldığını savunan davacı taraf, şirketi ve yöneticilerini ihmalkarlıkla suçladı. Yaşanan bu olay, yapay zeka araçlarının sağlık teşhisi ve tedavisi gibi kritik konularda ne kadar güvenilir olduğu konusundaki tartışmaları yeniden alevlendirdi.
Şirket cephesinden konuya ilişkin yapılan açıklamada ise platformun kullanım koşullarında tıbbi tanı ve tedavi amacıyla tasarlanmadığının açıkça vurgulandığı hatırlatıldı. Yetkililer, kullanıcıların sağlıkla ilgili sorularına verilen yanıtların daha güvenli hale getirilmesi için çalışmaların sürdüğünü ifade etti.
