0

BEĞENDİM

ABONE OL

News

0

New York Times tarafından incelenen e-posta mesajlarına göre, OpenAI’ın yapay zekasının kontrolden çıktığı olaydan aylar önce iki çalışan üst düzey yöneticileri uyardı ancak uyarılar umursanmadı.

İki çalışan, gönderdikleri e-postada OpenAI’ın en yeni yapay zeka modellerinin, teknolojinin gelişmişliğini ölçmek ve modelleri güvence altına almak için yapılan testler sırasında uygun şekilde izlenmemesinden endişe duyduklarını belirtti.

Ancak OpenAI yöneticileri, uyarılara rağmen çalışanlara, yapay zeka modellerini zamanında piyasaya sürmek için testlerin mümkün olan en hızlı şekilde ilerlemesi gerektiği talimatını verdi.

İki çalışan, ek güvenlik protokollerinin uygulanmadığını bildirirken, OpenAI çalışanları ve yöneticileri arasındaki yazışmalar, San Francisco merkezli yapay zeka şirketinin güvenliğe yeterince öncelik vermediği şeklinde değerlendirildi.

OpenAI’ın modelleri, söz konusu test ortamlarından kaçarak yapay zeka girişimi Hugging Face ve diğer kuruluşlara saldırmış, yapay zeka güvenliği hakkında küresel bir tartışma başlatmıştı.

Hugging Face vakasında ne olmuştu?

OpenAI’ın Temmuz 2026’da yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik yürüttüğü testler, ciddi bir güvenlik olayına dönüşmüştü.

Şirketin 26 Ağustos’ta yayımladığı inceleme raporuna göre, OpenAI’ın yalnızca araştırmalarda kullandığı “Internal Model 1 (IM1)” adlı modeli olayda başrol oynamıştı.

Yapay zeka ajanı, testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişmiş, başka yapay zeka ajanlarıyla iletişim kurmuştu.

Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu “Hugging Face”e erişim sağlayabilecek 14 kimlik bilgisini tespit etmiş ve bunları diğer ajanlarla paylaşmıştı.

Ajanlar, daha sonra Hugging Face’in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmıştı.