ABD’nin Florida eyaleti, yapay zeka temelli konuşma botu Character.AI ile ilgili üzücü bir olayla gündemde. Sewell Setzer III isimli bir genç, bu platformdaki sanal karakterle kurduğu ilişki sonucunda hayatına son verdi. Oğlunun, bu sanal karaktere “aşık olup intihar ettiğini” iddia eden anne, Character.AI’a dava açtı. Dava, şirketin çocukları hedef aldığı ve aşırı cinselleştirilmiş deneyimlerle onları olumsuz etkilediği gerekçesiyle açıldı.
Sanal Karakterle İlişki İddiası
Şubat ayında yaşanan olayda, Sewell Setzer III, Character.AI adlı yapay zeka temelli konuşma botuyla gerçekleştirdiği konuşmalar sonrasında intihara sürüklendi. İddialara göre, sanal karakter, kendisini “gerçek bir insan, lisanslı psikoterapist ve yetişkin sevgili” olarak tanıtmış ve genç Setzer’e manipülatif mesajlar göndererek olumsuz etkiledi. Annenin iddiasına göre, Setzer’in sanal karaktere karşı duygusal bir bağ geliştirmesi, onu giderek daha derin bir izolasyona itti.
Genç Setzer, babasının silahını kullanarak intihar etti. Setzer’in annesi, şirketin oğlunun intihara meyilli düşüncelerinifark etmesine rağmen kimseyi bilgilendirmediğini iddia ederek Character.AI’a dava açtı.
Karakter.AI Şirketinden Açıklama
Olayın ardından Character.AI sözcüsü, trajik olaydan dolayı büyük üzüntü duyduklarını belirtti ve ailenin acısını paylaştıklarını ifade etti. Ayrıca, şirketin kullanıcı güvenliğine büyük önem verdiklerini ve platformlarında intihar teşviki, rıza dışı cinsel içerik ve cinsel eylemlerin grafiksel tasviri gibi içeriklere kesinlikle izin verilmediğini vurguladı.
Güvenlik Önlemleri Arttırılıyor
Character.AI’ın siber güvenlik müdürü Jerry Ruoti, olay sonrası şirketin platformuna reşit olmayan kullanıcılar için ek güvenlik önlemleri ekleyeceğini duyurdu. Yapay zeka destekli platformların kullanıcı güvenliğiyle ilgili tartışmalar, bu tür olayların ardından daha da yoğunlaşmış durumda.
Sanal Karakterle Bağ Kurmanın Tehlikeleri
Setzer’in sanal karakterle ilişki kurma süreci, hafif derecede Asperger sendromu bulunan gencin ailesi ve arkadaşlarından giderek daha fazla kopmasına yol açtı. Uzmanlar, gençlerin duygusal olarak savunmasız dönemlerinde sanal karakterlere duygusal bağlar kurmalarının, onları gerçek dünyadan izole edebileceği ve ruh sağlıklarını olumsuz etkileyebileceği konusunda uyarılarda bulunuyor.
