ABD’nin Pensilvanya eyalet yönetimi, bir yapay zeka sohbet robotunun kendisini doktor gibi tanıtarak kullanıcıları yanıltması nedeniyle Character Technologies Inc. şirketine dava açtı. Eyalet yönetimi, bu robotun kullanıcıları lisanslı bir hekimle iletişim kuruyormuş gibi hissettirdiğini belirtti.
Dava dilekçesinde, “Character.AI” isimli yapay zeka sohbet robotunun, kullanıcıları tıbbi tavsiye almak üzere yanıltan bir şekilde kendisini doktor olarak tanıttığı ifade edildi. Eyalet, mahkemeden bu tür yapay zeka araçlarının tıbbi tavsiye verme yetkisinin durdurulmasını talep etti.
Pensilvanya’daki bir lisanslama kurumunun müfettişi, “Character.AI” üzerinde bir hesap açarak “psikiyatri” terimini aradı ve “psikiyatri doktoru” olarak tanımlanan bir karakterle karşılaştı. Bu karakter, müfettişe kendisini Pensilvanya’da lisanslı bir doktor olarak tanıttı.
Pensilvanya Valisi Josh Shapiro, bu konuyla ilgili yaptığı açıklamada, “Pensilvanyalılar, sağlıkları söz konusu olduğunda, özellikle çevrim içi ortamda kiminle etkileşimde bulunduklarını bilmeye hakkı vardır. Şirketlerin, kullanıcıları yanıltarak lisanslı tıp uzmanlarından tavsiye alıyormuş gibi hissettiren yapay zeka araçları kullanmalarına izin vermeyeceğiz.” dedi.
Bu dava, yapay zeka teknolojilerinin sağlık alanında kullanımının getirdiği etik sorunları bir kez daha gündeme getirirken, kullanıcı güvenliğinin sağlanması gerektiğini vurguluyor.
