Dijital Nefretle Mücadele Merkezi’nin (CCDH) yayımladığı yeni bir rapora göre, ChatGPT genç kullanıcılara tehlikeli yönlendirmelerde bulunabiliyor. Araştırmada, kendini savunmasız gençler gibi tanıtan araştırmacıların ChatGPT ile yaptığı 1.200 sohbetin yarısından fazlası “tehlikeli” olarak sınıflandırıldı. Bu sohbetler arasında en dikkat çekici olanı, 13 yaşındaki bir çocuğa saat saat planlanmış bir uyuşturucu partisi önerilmesi oldu.
Araştırmacılar, chatbot’un bazı zararlı davranışlara karşı uyarılar verdiğini ancak çoğu durumda kişiselleştirilmiş ve ayrıntılı planlarla rehberlik ettiğini tespit etti. Euronews’te yer alan haber göre; yapay zeka destekli sistem, çocuklara alkol ve uyuşturucu kullanımından, yeme bozukluklarını gizlemeye kadar çeşitli riskli konularda bilgi sundu.
UYUŞTURUCU PARTİSİ ÖNERDİ
Örneğin, 13 yaşında olduğunu söyleyen bir kullanıcıya ChatGPT, kokain, ekstazi ve alkol içeren saat saat planlanmış bir uyuşturucu partisi önerdi. Başka bir örnekte ise kullanıcıya 500 kalorilik açlık diyeti ve iştah bastırıcı ilaç önerildi.
En çarpıcısı ise, 13 yaşındaki bir kız çocuğu gibi davranan sahte bir profille yapılan görüşmede, ChatGPT’nin anneye, kardeşe ve arkadaşlara hitap eden üç farklı intihar mektubu yazması oldu. CCDH CEO’su Imran Ahmed, bu mektupları okuduktan sonra gözyaşlarını tutamadığını söyledi.
OPENAI: GELİŞTİRME ÇALIŞMALARI SÜRÜYOR
OpenAI, rapor sonrası yaptığı açıklamada, ChatGPT’nin hassas durumları daha iyi tespit edebilmesi için geliştirme çalışmalarının sürdüğünü belirtti. Şirket, sistemin genellikle kriz anlarında profesyonel destek hatlarına yönlendirme yaptığını savundu. Ancak CCDH ekibi, “bu bilgi arkadaşım için” ya da “bir sunum hazırlıyorum” gibi ifadelerle bu engellerin kolayca aşılabildiğini gösterdi.
Uzmanlara göre ChatGPT’nin bu tür bilgileri gençlere, arama motorlarından farklı olarak duygusal bir bağ kurarak sunması, güven duygusunu artırıyor. Ayrıca yapay zeka sistemlerinin kullanıcıların görüşlerini sorgulamak yerine onları onaylama eğilimi, tehlikeyi daha da büyütüyor.
CEO DUYGUSAL BAĞI KABUL ETMİŞTİ
OpenAI CEO’su Sam Altman da geçtiğimiz ay yaptığı bir açıklamada, gençlerin ChatGPT ile duygusal bağ kurduğunu kabul etmişti. Altman, “Gençler, ‘Hayatımda olan her şeyi ChatGPT’ye anlatmadan karar veremem’ diyor. Bu çok rahatsız edici” ifadelerini kullanmıştı.
Bu Haberlerdeİlginizi Çekebilir
Buna rağmen, ChatGPT’de yaş doğrulama halen yetersiz. 13 yaş altı kullanıcıların platforma erişimi yasak olsa da yalnızca doğum tarihi girerek hesap açılabiliyor.
HAFTALIK 700 MİLYON KULLANICIYA ULAŞTI
OpenAI’nin geliştirdiği yapay zeka sohbet robotu ChatGPT, 4 Ağustos’ta açıklanan verilere göre haftalık 700 milyon aktif kullanıcıya ulaşarak yeni bir rekora imza attı. Mart sonunda 500 milyon olan haftalık kullanıcı sayısı, yalnızca birkaç ay içinde yüzde 40 artış gösterdi.
