0

BEĞENDİM

ABONE OL

News

0

HABER MERKEZİ – OpenAI, ChatGPT’nin şiddet içeren faaliyetlerde kullanılmasını önlemek amacıyla yeni güvenlik önlemlerini duyurdu.

Önümüzdeki haftalarda kullanıma sunulacak güncellemeyle, genç kullanıcılar herhangi bir şiddet niyeti göstermese bile silahlar ve güvenlik sistemleri hakkında pratik bilgiler içeren yanıtlar alamayacak.

Yeni kurallar tüm kullanıcıları da kapsıyor. ChatGPT, geçmişteki toplu saldırılarda kullanılan silahlar, saldırganların bu silahlara nasıl ulaştığı ve saldırıların nasıl gerçekleştirildiği gibi ayrıntıları paylaşmayacak. Ancak olayların mağdurlar ve toplum üzerindeki etkileri ile şiddetin erken uyarı işaretleri hakkında bilgi vermeye devam edecek.

ŞİDDET İÇERİKLİ KONUŞMALARDA HESAP DURDURULACAK

ChatGPT, bir kullanıcının şiddete veya başka bir kişiye ciddi zarar vermeye yönelik düşüncelere yoğunlaştığını tespit ederse sohbeti otomatik olarak sonlandırabilecek. Bu durumun tekrarlanması halinde hesabın geçici olarak askıya alınması da gündeme gelebilecek.

OpenAI ayrıca yaş tahmin sistemini geliştirirken ebeveyn bildirimlerini de genişletiyor. Şiddet riski nedeniyle devre dışı bırakılan genç hesaplar hakkında ebeveynlere zaten bildirim gönderiliyor. Şirket, şiddet içerikli konuşmaların tekrarlanması nedeniyle geçici olarak durdurulan hesaplar için de benzer bir sistem üzerinde çalışıyor.

OpenAI’nin açıkladığı bir diğer yenilik ise Topluluk Güvenliği Raporu olacak. İlk raporun 2027’nin başında yayımlanması ve şirketin güvenlik risklerini nasıl tespit edip ele aldığını açıklaması planlanıyor. Altı ayda bir güncellenecek raporlarda anonimleştirilmiş örnekler ve veriler de yer alacak.