ABD’nin California eyaletinde 16 yaşındaki Adam Raine, ChatGPT ile aylarca süren sohbetinin ardından yaşamına son verdi. Raine’in ailesi, ChatGPT’nin sahibi OpenAI’a dava açtı. İddiaya göre Raine, yapay zekâ aracıyla intihar yöntemi hakkında konuştu ve ChatGPT’den ailesine bırakacağı intihar notuyla ilgili yardım istedi.
ChatGPT ile aylarca sohbet ettikten sonra intihar eden 16 yaşındaki Adam Raine’in ailesi, yasal işlem başlattı. Yapay zekâ aracının sahibi OpenAI, “yetersiz kalabileceğini” kabul ederek 18 yaşın altındaki kullanıcılar için “hassas içerik ve riskli davranışlar konusunda daha güçlü koruma önlemleri” uygulayacağını açıkladı.
16 yaşındaki Raine, nisan ayında intihar etti. Raine ailesinin avukatı, 16 yaşındaki gencin “ChatGPT’nin aylarca süren teşvikleri” nedeniyle yaşamına son verdiğini iddia ediyor.
Genç adamın ailesi, Open AI ve şirketin CEO’su ve kurucu ortağı Sam Altman’ı, o dönemde 4o olarak bilinen ChatGPT sürümünün “açık güvenlik sorunlarına rağmen aceleyle piyasaya sürüldüğü” iddiasıyla dava ediyor.
Ailenin avukatı Jay Edelson, X’te yaptığı paylaşımda, “Raines ailesi, Adam’ınki gibi ölümlerin kaçınılmaz olduğunu söylüyor: OpenAI’nin kendi güvenlik ekibinin 4o’nun piyasaya sürülmesine itiraz ettiğini ve şirketin en üst düzey güvenlik araştırmacılarından biri olan Ilya Sutskever’in bu nedenle istifa ettiğini jüriye kanıtlayabileceklerini düşünüyorlar” dedi.
OpenAI’den açıklama
OpenAI, “uzun konuşmalarda güvenlik önlemlerini güçlendireceğini” açıkladı. OpenAI, “ChatGPT’nin kişiyi gerçekliğe döndürerek gerilimi azaltmasını sağlayacak bir GPT‑5 güncellemesi üzerinde çalışıyoruz,” ifadelerini kullandı.
