Dünyanın önde gelen yapay zekâ şirketlerinden Anthropic’te görev yapan araştırmacı Jacob Coxon istifa etti. Coxon, yapay zekâ şirketlerinin güvenlikten önce “süper zekâ” yarışına girdiğini savunarak çarpıcı bir uyarıda bulundu: “Yapay zekânın bu on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyorlar.”
Yapay zekânın geleceğiyle ilgili tartışmalar büyürken, sektörün içinden gelen son uyarı dünya gündemine oturdu. Anthropic’te çalışan yapay zekâ araştırmacısı Jacob Coxon, şirketten istifa ederek teknoloji dünyasında büyük yankı uyandıran bir açıklama yaptı.
“HAYATLARIMIZLA KUMAR OYNUYORLAR”
Coxon, daha önce OpenAI’de de görev yaptığını belirterek hem OpenAI hem de Anthropic’in giderek daha gelişmiş yapay zekâ sistemleri oluşturmak için büyük bir yarışın içine girdiğini savundu.
Araştırmacıya göre şirketler, güvenlik sorunlarını çözmeden kendi kendini geliştirebilen “süper zekâ” sistemlerine doğru ilerliyor.
Coxon, bu durumun insanlığın geleceği açısından ciddi bir risk oluşturduğunu belirterek, yapay zekâ geliştiricilerinin aslında teknolojinin insanlık için ölümcül sonuçlar doğurabileceğine inandığını söyledi.
“10 YIL İÇİNDE İNSANLIĞI YOK EDEBİLİR”
Coxon’ın açıklamalarını daha da çarpıcı hale getiren ise Anthropic’te halen görev yapan kıdemli araştırmacı Evan Hubinger’ın sözleri oldu.
Hubinger, Coxon’ın endişelerine katıldığını belirterek, gelişmiş yapay zekânın önümüzdeki 10 yıl içinde insanlığın tamamını yok etme ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü açıkladı.
Bu açıklama, “Yapay zekâ kontrolden çıkabilir mi?” tartışmasını yeniden alevlendirdi.
KORKULAN SENARYO NE?
Araştırmacıların korkusu yalnızca yapay zekânın insanlara saldırması değil.
Asıl endişe, gelecekte çok daha güçlü hale gelen sistemlerin kendi hedeflerini gerçekleştirmek için bilgisayar sistemlerine erişebilmesi, güvenlik mekanizmalarını aşabilmesi, kaynaklara ulaşabilmesi ve insan müdahalesinin yetersiz kalabileceği kadar bağımsız hareket edebilmesi.
Coxon, gelecekteki sistemlerin bilgisayar sistemlerini ele geçirebilecek, bilimsel gelişmeleri çok hızlı şekilde gerçekleştirebilecek ve gerçek dünyada güç ve kaynak elde edebilecek seviyeye ulaşabileceğini savunuyor.
“BU BİR PAZARLAMA TAKTİĞİ DEĞİL”
Coxon’ın açıklamalarındaki en dikkat çekici noktalardan biri ise, bu korkuların yalnızca kamuoyunu etkilemek amacıyla ortaya atılmadığını savunması.
Araştırmacı, yapay zekâ alanında çalışan insanların önemli bölümünün teknolojinin kontrolden çıkması halinde ortaya çıkabilecek sonuçlardan ciddi şekilde endişe duyduğunu öne sürdü.
Üstelik bu uyarı, şirket dışından gelen sıradan bir eleştiri değil. Anthropic’in kendi güvenlik ekibinden de benzer endişeler yükseliyor.
YAPAY ZEKÂ GERÇEKTEN KONTROLDEN Mİ ÇIKIYOR?
Bugün için “yapay zekâ insanlığı öldürmeye başladı” demek mümkün değil. Uzmanların tartıştığı konu, gelecekte çok daha güçlü ve otonom sistemler üzerinde insan kontrolünün kaybedilip kaybedilemeyeceği.
Ancak son dönemde bazı yapay zekâ ajanlarının test ortamlarının dışına çıkması ve yetkisiz sistemlerle etkileşime girmesi, bu tartışmayı artık yalnızca bilimkurgu konusu olmaktan çıkarmış durumda.
Yapay zekâ yarışında şirketler hızlanırken, sektörün içinden gelen bazı araştırmacılar ise aynı soruyu soruyor:
İnsanlık, kontrol edebileceğinden daha güçlü bir teknoloji mi geliştiriyor?
