OpenAI yapay zeka destekli sohbet robotu ChatGPT’nin 18 yaşından küçük kullanıcılara yönelik özel bir versiyonunu piyasaya süreceğini duyurdu. Bu yeni sürüm, ebeveyn denetim özellikleri içerecek ve genç kullanıcıların güvenliğini artırmayı hedefliyor. CNBC’nin haberine göre, bu adım, yapay zeka teknolojilerinin gençler üzerindeki etkisini daha güvenli hale getirmek için atılıyor.
OpenAI,kullanıcıların yaşını tespit ettiğinde 18 yaşından küçük olanları otomatik olarak bu özel sürüme yönlendirecek. Bu versiyon, grafik veya cinsel içerikli materyalleri engelleyecek ve nadir durumlarda, ciddi duygusal sıkıntı tespit edildiğinde kolluk kuvvetlerine bildirim yapılabilecek.
Ayrıca OpenAI kullanıcıların yaşını daha doğru bir şekilde belirlemek için yeni bir teknoloji üzerinde çalışıyor. Eğer sistem bir kullanıcının yaşını kesin olarak tespit edemezse varsayılan olarak 18 yaş altı moduna geçiş yapacak.
Bu güvenlik güncellemeleri, ABD Federal Ticaret Komisyonu’nun (FTC) yapay zeka destekli sohbet robotlarının çocuklar ve gençler üzerindeki olası olumsuz etkilerini incelediği bir soruşturmanın ardından geldi. FTC, bu tür teknolojilerin “dijital yol arkadaşı” olarak kullanıldığında güvenlik açısından nasıl değerlendirildiğini anlamaya çalışıyor.
Geçtiğimiz ay, OpenAI bir ailenin çocuklarının intiharıyla sonuçlanan bir olayda ChatGPT’yi suçladığı bir davanın ardından sohbet robotunun “hassas durumlar” ile nasıl başa çıkacağına dair açıklamalarda bulunmuştu. Bu gelişmeler, OpenAI’nin genç kullanıcıların güvenliğine yönelik adımlarını hızlandırdığını gösteriyor.
