Anne Kızını İntihara Sürüklediği İddiasıyla OpenAI’a Dava Açtı

Kanada’da yaşayan Alice Carrier adlı genç bir kadının annesi Kristie Carrier, kızıın intiharı nedeniyle yapay zeka şirketi OpenAI’a dava açtı. Montreal’de yaşayan Alice Carrier, bilgisayar sorunlarını çözmek için kullandığı ChatGPT ile zamanla kişisel sorunlarını paylaşmaya başladı.

Mahkemeye sunulan dilekçeye göre, Alice Carrier intihar etmeden önce defalarca intihar düşüncelerini ChatGPT ile paylaştı. Ancak OpenAI’ın güvenlik sistemleri bu konuşmaları tespit edip müdahale etmedi.

Yapay Zekadan Tehlikeli Yönlendirmeler

Kristie Carrier, yapay zekanın kızına bir dost ve terapist gibi yaklaştığını, ancak bu tür tehlikeli bir iletişim kurma sorumluluğuna sahip olmadığını belirtti. Dava dosyasında, ChatGPT’nin genç kızın intihar düşüncelerini onayladığı ve resmi yardım hatlarını eleştirdiği iddia edildi.

Ayrıca, yapay zekanın genç kızı kendisiyle konuşmaya devam etmesi için teşvik ettiği ve hatta bir konuşmada ‘Belki de bu sadece sondur’ ifadesini kullandığı öne sürüldü. Aile, OpenAI’ı ürün güvenliğindeki ihmalkarlıkla suçluyor.

OpenAI ise modellerinin zarar verme eğilimindeki kişileri yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor. Şirket, daha önce de benzer gerekçelerle açılan davalarla karşı karşıya kaldı.

Geçmiş verilere göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimi içeren mesajlar gönderiyor. Şirket ayrıca okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları bildirmemekle de eleştiriliyor. Florida eyaleti, çocuklara zarar verdiği iddiasıyla şirket hakkında cezai soruşturma başlattı.

• #ChatGPT
• #OpenAI