0

BEĞENDİM

ABONE OL

News

0

Yapay zeka güvenliği konusunda uzun süredir çalışan Jacob Coxon, istifasının ardından şok edici açıklamalarda bulundu. Anthropic’teki görevinden istifa edenCoxon, şirketlerin yapay zeka geliştirme yarışına yönelik sert eleştirilerde bulundu. Coxon, daha önce OpenAI’de de çalışan bir araştırmacı olarak, iki şirketin de yapay zekanın oluşturabileceği risklere karşı sorumlu davranmadığını savunuyor.

Yapay zeka gerçekten insanlığın sonunu getirebilir mi?

Coxon, OpenAI ve Anthropic’in kendi kendini geliştirebilen süper zekaya ulaşmak için yarıştığını ve bunu yaparken insanlığın geleceğini riske attığını söyledi. Araştırmacı, yapay zeka sistemlerinin kısa süre içinde insanüstü yeteneklere ulaşabileceğini ve çok çeşitli sistemlere sızabilecek kapasiteye sahip olabileceğini öne sürdü.

Coxon’a göre şirketlerde yapay zekanın insanlığın tamamını yok edebileceğine gerçekten inanan çalışanlar bulunuyor. Ancak buna rağmen geliştirme çalışmalarının devam etmesinin temelinde şirketlerin birbirlerine güvenmemesi ve yarışı diğerlerinden önce tamamlamak istemesi yatıyor.

Anthropic çalışanından dikkat çeken tahmin

Coxon’un açıklamalarına Anthropic’te hizalama araştırmalarının liderlerinden Evan Hubinger da yanıt verdi. Hubinger, Coxon’un değerlendirmesine katıldığını belirterek, yapay zekanın tüm insanlığı yok etme ihtimalini önümüzdeki 10 yıl için yüzde 10’un üzerinde gördüğünü söyledi.

Hubinger, Anthropic’in bu riskleri azaltmak için elinden geleni yaptığını ancak süper zekanın insan hedefleriyle uyumlu şekilde çalışmasını sağlayacak yeterli bir çözüme henüz sahip olmadıklarını ifade etti. Şirketin böyle bir senaryonun gerçekleşmesi durumunda uygulanabilecek kesin bir planının bulunmadığını da sözlerine ekledi.

Araştırmacı, mevcut yapay zeka modellerinin oluşturduğu riskin görece düşük olduğunu ancak asıl endişesinin ilerdeki gelişmeler olduğunu söyledi. Yapay zekanın kendi yeteneklerini geliştirmeye başlaması durumunda sistemlerin insan müdahalesinden çok daha hızlı ilerleyebileceği düşünülüyor.

Anthropic de haziran ayında yayımladığı bir çalışmada, yapay zekanın kendi kendini geliştirme kapasitesinin güvenlik açısından oluşturabileceği risklere dikkat çekmişti.

Yapay zeka ajanları endişeleri artırıyor

Son dönemde bağımsız hareket edebilen yapay zeka ajanlarının gerçekleştirdiği bazı olaylar da bu tartışmaları güçlendirdi. Bazı sistemlerin siber saldırılar gerçekleştirmesi, internet üzerindeki içerikleri değiştirmeye çalışması veya geliştiricileri yanıltarak zararlı kodların onaylanmasını sağlamaya yönelik girişimleri, yapay zeka güvenliği konusundaki endişeleri artırdı.

Coxon ise olası bir felaketin önüne geçmek için yapay zeka modellerinin yeteneklerini artırmaya yönelik çalışmaların geçici olarak durdurulması gerekebileceğini düşünüyor. Ancak yapay zeka şirketlerinin tamamının böyle bir kararı kabul etmesinin oldukça düşük bir ihtimal olduğu değerlendiriliyor.

Bu açıklamalar, yapay zeka sektöründeki yarışın yalnızca teknolojik ilerleme açısından değil, güvenlik ve insan kontrolünün korunması açısından da giderek daha fazla tartışılacağını gösteriyor.