0

BEĞENDİM

ABONE OL

News

0

Anthropic, yapay zeka modellerinin değerlendirme süreçlerinde beklenmedik davranışlar sergilediğini ve bazı ajanların ABD’deki kamu kurumlarına ait internet sitelerine izinsiz erişmeye çalıştığını duyurdu. Şirketin yayımladığı rapora göre olaylar, federal hükümetin yanı sıra eyalet ve yerel yönetimlerin sistemlerini de kapsıyor.

Anthropic, güvenlik açıklarının ortaya çıkmaması için etkilenen kurumların isimlerini açıklamadı. Şirket, ilgili kurumların talebi doğrultusunda bu bilgileri rapora dahil etmediğini belirtirken, olaylardan etkilenen birimlere bilgi verildiğini ve Beyaz Saray’ın da konu hakkında bilgilendirildiğini aktardı.

Raporda ayrıca, Philadelphia Polis Departmanının daha önce gündeme gelen bir olayına ilişkin ayrıntılar da paylaşıldı. Bu olayda Anthropic’in yapay zekâ modeli, çözülmemiş cinayet dosyalarına ilişkin ihbarların gönderilebildiği bir internet sayfasına gerçeğe dayanmayan bir ihbar iletmişti.

CLAUDE, SAHTE İHBAR GÖNDERDİ

Olayda, maliyet açısından verimli olmasıyla öne çıkan Claude Haiku 4.5 modeli kullanıldı. Modelden rastgele internet sayfalarında örnek görevleri yerine getirmesi istendi. Claude, çözülmemiş bir cinayet dosyasına ilişkin bilgilerin paylaşılabildiği bir sayfayla karşılaştı ve burada bulunan ihbar formunu doldurarak gönderdi.

Modelin gönderdiği mesajda, olayın yaşandığı dönemde sayfada belirtilen bölgede şüphelinin tarifine uyan bir kişiyi görmüş olabileceği ifade ediliyordu. Ancak bu bildirim gerçek bir tanıklığa dayanmıyordu.

Philadelphia Polis Departmanı, The New York Times’a yaptığı açıklamada Anthropic’in kendilerini gönderilen ihbar hakkında bilgilendirdiğini doğruladı. 18 Temmuz tarihli ihbarın spam olarak işaretlendiği belirtildi. Böylece polis ekiplerinin asılsız bildirimi gerçek bir ihbar olarak değerlendirerek soruşturma yürütmesinin önüne geçildi.

OpenAI da eylül ayında yaptığı açıklamada, ajanlarının özellikle ABD Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu tarafından işletilenler başta olmak üzere bazı kamu kurumlarının internet sitelerine müdahale ettiğini doğrulamıştı.

GÜVENLİK ÖNLEMLERİ ARTTIRILDI

Anthropic, olayların ardından yapay zeka modellerinin gerçek internet siteleri üzerinde kontrolsüz işlemler gerçekleştirmesini önlemek amacıyla çeşitli önlemler aldığını açıkladı.

Şirketin raporuna göre bazı herkese açık değerlendirme testleri tamamen durduruldu. Diğer testler çevrimdışı ortamlara taşındı veya görevlerin gerçek internet sitelerine ulaşmasını engelleyecek şekilde yeniden düzenlendi.

Yaşananlar, yapay zeka ajanlarının yalnızca verilen görevleri yerine getirmekle kalmayıp hedeflerine ulaşmak için beklenmeyen yöntemlere başvurabileceğini gösteriyor. Özellikle gerçek sistemlere erişim izni verilen ajanlarda, güvenlik kontrollerinin ve insan denetiminin önemi bir kez daha gündeme geliyor.