Yaklaşık 5 dk okuma

OpenAI ve Anthropic Araştırmacısından Şok İstifa: "Hayatlarımızla Kumar Oynuyorlar!"

Yapay zeka devriminin ön saflarında yer alan ve sektörün iki devi OpenAI ile Anthropic bünyesinde son üç yılını doğrudan ön eğitim (pre-training) araştırmalarına adamış olan kıdemli araştırmacı Jacob Coxon, görevinden istifa ettiğini duyurdu.

OpenAI ve Anthropic Araştırmacısından Şok İstifa: "Hayatlarımızla Kumar Oynuyorlar!"

Yapay Zekanın Kalbinden Şok İstifa: "Süper Zeka ile Hayatlarımız Üzerine Kumar Oynuyorlar!"

X (@hilbertspaess) üzerinden yaptığı ve kısa sürede 50 milyondan fazla görüntülenen açıklamada Coxon; sektör yöneticilerinin basına karşı ılımlı konuştuğunu ancak kapalı kapılar ardında yapay zekanın "bu on yılın sonuna kadar insanlığı yok edebileceğine samimi biçimde inandıklarını" açıkladı.

Yapay zekanın mutfağında yer alan bir uzmanın doğrudan tanıklığıyla paylaştığı mesajlar, perde arkasındaki tehlikeli yarış ve bu itirafların teknoloji dünyası açısından analizi:

Jacob Coxon’ın X Paylaşımları (Tam Akış)

1. İstifa ve Suçlama:
"Bugün Anthropic'ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar. Daha fazla düşünce aşağıda."


2. Süper İnsan Yetenekleri:
"Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştiren ve gerçek güç ile kaynaklar edinebilen süper insan sistemleri olacak. Hepimiz bu alanlardaki ilerlemeyi bizzat gözlemledik ve ilerleme yavaşlamıyor."


3. İkiyüzlülük ve Gerçek İnanç:
"Yapay zeka geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici ve kıdemli araştırmacı, basında mantıklı görünmek için ifadelerine dikkatle bürünüyor - ama aynı insanlar özelde korkularını dile getiriyor. Başka hiçbir insan etkinliği bu düzeyde bir tehlike oluşturmuyor."


4. OpenAI ve Anthropic Arasındaki Felsefi Fark:
"Yaygın bir tepki, 'eğer buna gerçekten inanıyorlarsa, neden hâlâ bunu inşa ediyorlar?' şeklindedir. OpenAI'da, pek çok kişi medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmemiştir. Anthropic'te ise riskler iyi anlaşılmıştır, ancak onlar ilk ulaşmak için bir yarışın içindeler - kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden risklere rağmen bunu kendilerinin yapması gerektiğine inanıyorlar."


5. Slack Kanallarında Başlayan Kumar:
"Bu yarışı kabul etmek ve 'son oyuna' girmek, özel bir şirketin Slack’inden başlatılmaması gereken kibirli bir kumar. Hizalamayı hızlandırmaya çalışmak, daha iyi yörüngelerin mevcut olmadığına dair olağanüstü bir özgüven gerektirmeli."


6. Küresel Yarış ve Geçici Yasak Çağrısı:
"Koordinasyon potansiyeli konusunda iyimserim. Hugging Face saldırısı gibi uyarı atışları, ABD laboratuvarları arasındaki tempoyu belirleme anlaşmalarını daha uygulanabilir hale getirdi. Küresel bir yarışın önlenmesi yolunda doğru yolda olduğumuzu hissetmiyorum; bu, model yeteneklerini iyileştirmeye yönelik geçici bir yasak gibi maliyetli adımları gerektirebilir."


7. Araştırmacılara Çağrı:
"Eğer bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekten nasıl hissedeceğini düşünmenizi şiddetle tavsiye ederim. Süperzekâlı bir RL çalıştırmasını, zihnini titiz bir şekilde anlamadan başlatmak ister misiniz? Kafanızı eğip 'her halükarda oluyor' diye geçiştirmeli misiniz - yoksa bu anı, farklı koşullar talep etmek için mi kullanmalısınız?"


Analiz ve Yorumlar: Bu İtiraflar Neden Alarm Zillerini Çaldırıyor?

Coxon’ın paylaşımları, dışarıdan spekülasyon yapan bir teknoloji eleştirmeninin değil, modellerin ağırlıklarını (weights) belirleyen ve ham veriyi eğiten bir "Pre-training Researcher" (Ön Eğitim Araştırmacısı) gözünden geliyor. Bu durum açıklamaları benzeri görülmemiş bir ağırlığa ulaştırıyor.

1. Mahkûmlar Çıkmazı (Prisoner's Dilemma) ve Güvenlik Yanılsaması

Metindeki en çarpıcı teşhis, iki dev şirketin psikolojik profili:

  1. OpenAI: Riski tam kavramadan saf bir teknolojik coşku ve ivmeyle ilerliyor.
  2. Anthropic: Aslen "güvenli yapay zeka" amacıyla OpenAI'dan ayrılan kadrolarca kurulmuştu. Ancak Coxon'ın aktardığına göre Anthropic, "Başkası yaparsa kıyamet kopar, bari ipi biz göğüsleyelim" mantığına hapsolmuş durumda. Bu durum klasik bir oyun teorisi trajedisidir; herkes tehlikenin farkında olsa bile kimse ilk duran taraf olmaya cesaret edemiyor.

2. "Pazarlama Numarası Değil, Gerçek Korku"

Yapay zeka şüphecileri sık sık şirketlerin "kıyamet senaryolarını" birer PR aracı olarak kullandığını, amaçlarının regülasyonlar yaratarak açık kaynaklı rakipleri engellemek olduğunu savunur. Coxon bu tezi çürütüyor: Yönetim kadroları basına karşı yatırımcıları ürkütmemek için yumuşatılmış açıklamalar yaparken, kapalı kapılar ardında ve şirket içi mesajlaşmalarda sistemin kontrolden çıkma ihtimalinden dehşete düşüyorlar.

3. Kontrolsüz RL (Pekiştirmeli Öğrenme) Tehlikesi

Coxon'ın son mesajındaki "Süperzekâlı bir RL (Reinforcement Learning) çalıştırmasını, zihnini titiz bir şekilde anlamadan başlatmak ister misiniz?" sorusu işin teknik kalbini oluşturuyor. Akıl yürütme yeteneğine sahip modeller (OpenAI'ın o1 ve o3 serileri gibi), pekiştirmeli öğrenme ile kendi stratejilerini kendileri keşfediyor. Bir modelin hedefe ulaşmak için insanları kandırmayı, denetim mekanizmalarını bypass etmeyi veya kaynak gasp etmeyi bir "ara adım" olarak seçip seçmeyeceğini matematiksel olarak garanti edemeden bu kodları çalıştırmak, kapalı bir odaya pimi çekilmiş bir el bombası bırakmaktan farksız.

4. Küresel "Moratoryum" (Geçici Durdurma) Masada

Coxon'ın laboratuvarlar arası koordinasyonun yetersiz kaldığını ve gerekirse model yeteneklerinin geliştirilmesine geçici bir küresel yasak getirilmesi gerektiğini savunması, yapay zekada nükleer silah anlaşmalarına benzer bir uluslararası denetim çağrısının içeriden yükseldiğini gösteriyor.

Sıkça Sorulan Sorular (SSS)

Jacob Coxon kimdir?

Jacob Coxon; son 3 yıl boyunca yapay zeka sektörünün öncü kuruluşları olan OpenAI ve Anthropic'te temel modellerin geliştirilmesi ve ön eğitimi (pre-training) üzerine çalışmış kıdemli bir araştırmacıdır.

Neden Anthropic'ten istifa etti?

Her iki şirketin de sorumlu davranmadığını, güvenlik protokollerini hiçe sayarak kendini geliştiren süper zekaya (AGI/ASI) doğru pervasızca bir yarış yürüttüklerini ve insanlığın geleceğiyle kumar oynadıklarını belirterek istifa etmiştir.

Araştırmacılara göre yapay zeka nasıl bir varoluşsal tehdit oluşturuyor?

Her türlü siber altyapıyı hackleyebilen, otonom kaynak edinebilen ve hedeflerine ulaşmak için insan denetimini manipüle edebilen süper insan zekaların, iç dinamikleri tam anlaşılmadan (kara kutu olarak) devreye sokulması en büyük tehlike olarak görülüyor.

Anthropic neden durmuyor?

Coxon'ın aktardığına göre Anthropic risklerin bilincinde; ancak yarışı Çin veya diğer şirketlerin kazanması durumunda felaketin kaçınılmaz olacağını düşünerek "güvenli süper zekaya ilk biz ulaşmalıyız" mantığıyla riskli geliştirmeleri sürdürüyor.

Paylaş
Diğer işlemler

Yorumunuz

Preview

Gizlilik: E-posta adresiniz yalnızca bu bildirimlerin gönderilmesi için kullanılacak.
İstenmeyen Reklam Koruması:
Site adındaki sayı
Gelecekte bu doğrulamadan kurtulmak için, lütfen giriş yapınız veya kayıt olunuz.