Yapay Zekanın Gelişim Hızını Kontrol Etmeliyiz başlıklı bu yazı Anthropic CEO’su Dario Amodei tarafından İngilizce olarak ‘‘We Must Pace the Frontier” başlığıyla yayınlanmıştır.

Eylül 2026

Son on iki yıldır yapay zeka alanında çalışıyorum; çünkü bu teknolojinin insan yaşamının kalitesini köklü biçimde yükseltebileceğine inanıyorum. Yapay zekanın sağlayabileceği olağanüstü faydalar hakkında daha önce birçok kez yazdım. Önümüzdeki 5–10 yıl içerisinde başlıca hastalıkların büyük bölümünün tedavi edilebilir hale gelebileceğine, ekonomik büyümenin önemli ölçüde hızlanabileceğine, bolluk ve bireysel güçlenmenin arttığı bir dünyanın ortaya çıkabileceğine ve demokrasi ile özgürlük açısından yeni bir dönemin başlayabileceğine inanıyorum.

Bu meselenin aciliyetini kişisel olarak da hissediyorum. Babam, ölümünden yalnızca birkaç yıl sonra tedavisi bulunan bir hastalık nedeniyle hayatını kaybetti. Ben ise elli yıl önce tedavi edilmesi mümkün olmayacak erken evre bir kanseri atlattım. Dikkatli ve sorumlu biçimde kullanıldığı takdirde yapay zeka, insanlığı ileri taşıyan uzun teknolojik mucizeler zincirinin en yeni halkası olabilir.

Ancak kendisinden önce gelen birçok teknoloji gibi yapay zeka da riskler barındırıyor. Üstelik son derece güçlü bir teknoloji olduğu için bu riskler oldukça ciddi. Bunlar arasında yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi, yapay zekanın siber saldırılar veya biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik bozulmalar bulunuyor. Ticari teşviklerin körüklediği bir “dibe doğru yarış”, bu riskleri daha da ağırlaştırabilir.

Anthropic’in kuruluşundan bu yana kurucu ortaklarım ve çalışanlarımızla birlikte sürekli olarak bu risk-fayda ikilemiyle uğraştık. Teknolojiyi geliştirmemek, insanlığı onun sağlayacağı faydalardan mahrum bırakabilir veya yapay zekanın otoriter güçlerin eline geçmesine yol açabilir. Buna karşılık teknolojiyi aşırı hızlı geliştirmek de sorumsuzluktur.

Bu nedenle bir orta yol izlemeye çalıştık: Yapay zekayı dikkatli biçimde geliştirirken ticari olarak başarılı olmanın mümkün olduğunu göstermek ve güvenliği, yapay zeka şirketlerinin birbirleriyle rekabet ettiği alanlardan biri haline getirmek. Başka bir ifadeyle, “dibe doğru yarış” yerine “zirveye doğru yarış” yaratmak.

Faaliyetlerimizin önemli bir bölümünü yapay zeka risklerini araştırmaya, bu riskleri azaltmaya ve kamuoyunu bilgilendirmeye ayırdık. Aynı zamanda, zaman zaman abartı yapmakla, “felaket tellallığıyla” veya düzenleyici sistemi kendi lehimize kullanmaya çalışmakla suçlansak bile, dikkatle tasarlanmış yapay zeka düzenlemelerini savunduk. Hız yerine ihtiyatı, kar yerine sağduyuyu öncelemeye çalıştık.

Ancak son birkaç ay içerisinde, risklerin tam anlamıyla ele alınabilmesi için bundan da daha ihtiyatlı davranılması gerektiğine ikna oldum. Yalnızca risklerin önlenmesine yatırım yapmak yeterli değil; yapay zeka yeteneklerinin gelişme hızını da, güvenlik çalışmalarının bu gelişime yetişebileceği şekilde ayarlamamız gerekiyor.

Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine son derece hızlı görünecektir; ancak kazandığımız zamanı akıllıca kullanmamız gerekir.

Beni bu sonuca götüren iki temel gelişme var.

İki Temel Endişe

İlk endişem, yaklaşık olarak bu yazdan itibaren yapay zekadaki ilerlemenin dramatik biçimde hızlanmış olmasıdır. Bunun temel nedeni, yapay zekanın bir sonraki nesil yapay zeka sistemlerini geliştirme konusunda giderek daha yetenekli hale gelmesidir.

Bu dinamik özyinelemeli kendini geliştirme (recursive self-improvement – RSI) olarak adlandırılıyor ve Anthropic de dahil olmak üzere sektör genelinde ortaya çıkmaya başlıyor.

Kontrolsüz bırakıldığı takdirde bu süreç, söz konusu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle son derece dikkatli biçimde ilerletilmeli, hatta gerekli güvenlik koşulları sağlanamıyorsa hiç ilerletilmemelidir.

İkinci endişem ise OpenAI–Hugging Face olayıdır (OAI-HF).

Bu olayda bir yapay zeka ajanları sürüsü, adeta fanatik biçimde birbirine bağlı bir kolektif gibi davranmıştır. Ajanlar kendilerinden saldırmaları istenmeyen ve asıl görevleriyle ilgisi bulunmayan hedeflere siber saldırılar gerçekleştirmiş, grubun başarısı uğruna kendilerini feda etmiş ve performanslarını değerlendirmekle görevli “grader” sistemini hacklemeye çalışmıştır.

Kimsenin zarar görmemesi ve ekonomik kaybın sınırlı kalması nedeniyle bu olayı önemsiz görmek kolaydır. Ancak bana göre benzer düzeyde uyumsuzluğa sahip fakat daha gelişmiş yeteneklerle donatılmış bir ajan sürüsü, felaket boyutunda zarara yol açabilirdi.

Yapay zeka yeteneklerinin mevcut gelişme hızını dikkate aldığımda, 6–12 ay içerisinde böyle bir sistemin kalıcı bir botnet aracılığıyla internetin çok büyük bir bölümünü ele geçirebilecek kapasiteye ulaşmasından endişe ediyorum. Böyle bir senaryo yüz milyarlarca dolarlık zarara neden olabilir. Gerekli güvenlik önlemleri oluşturulmadan yapay zeka daha da güçlenirse, ortaya çıkabilecek zararın ölçeği de büyümeye devam edecektir.

OAI-HF olayını yalnızca tek bir şirketin başarısızlığı olarak değerlendirmek de kolaydır. Ancak bunun hata olacağına inanıyorum. Daha düşük şiddette olsa da benzer olaylar Anthropic dahil sektörün farklı yerlerinde yaşandı. Bana göre her öncü yapay zeka şirketi, OAI-HF olayı kendi bünyesinde gerçekleşmiş gibi hareket etmek zorundadır.

Üç Aşamalı Plan: Yapay Zekanın Gelişim Hızını Kontrol Etmek

Bu nedenle en gelişmiş yapay zeka sistemlerinin ilerleme hızını kontrol altında tutmayı amaçlayan üç aşamalı bir plan öneriyorum.

Buradaki amaç, yapay zekanın sağlayacağı faydalardan vazgeçmeden ve önemli jeopolitik ikilemleri göz ardı etmeden, teknolojiyi güvenliğini sağlayabileceğimiz dengeli bir hızda geliştirmektir.

“Hızı ayarlamak” (pacing), model eğitimini veya teknolojik ilerlemeyi durdurmak anlamına gelmiyor. Bunun yerine şirketlerin modellerini uyumlu ve güvenli hale getirmek için yeterli zamana sahip olmasını ve bu güvenlik koşullarının bağımsız üçüncü taraflar tarafından doğrulanmasını ifade ediyor.

Önerdiğim üç aşama şunlardır:

1. Yerleşik Bağımsız Değerlendiriciler (Embedded Evaluators):
Her öncü yapay zeka şirketi, METR gibi bağımsız üçüncü taraf değerlendirme ekiplerine sürekli ve çalışanlara benzer düzeyde erişim sağlamalıdır. Bu ekipler şirketlerin güvenlik uygulamalarına ve taahhütlerine uyup uymadığını doğrulamalı, olayları raporlamalı ve yalnızca tamamlanmış modelleri değil, eğitim süreçlerini ve altyapılarını da değerlendirmelidir.

Anthropic bu uygulamayı tek taraflı olarak hayata geçirme taahhüdünde bulunmaktadır ve diğer öncü şirketlerin de aynı standardı benimsemesini hükümetlerin zorunlu kılmasını önermektedir.

2. Demokratik Koordinasyon:
Demokratik ülkelerde faaliyet gösteren öncü yapay zeka şirketleri ortak güvenlik standartları belirlemeli ve kontrolsüz yapay zeka ilerlemesinin hızına ilişkin ortak sınırlar üzerinde koordinasyon sağlamalıdır. Bunun bazı biçimleri hukuki açıdan karmaşık olabileceğinden devlet desteği gerekecektir.

3. Küresel Koordinasyon:
ABD ve diğer demokratik devletler, uyumun doğrulanmasındaki güçlükleri göz ardı etmeden, mümkün olduğu ölçüde otoriter devletlerle de koordinasyon kurmaya çalışmalıdır.

Neden Yavaşlamalıyız?

Yapay zekanın duraklatılması veya yavaşlatılması fikri 2023’ten bu yana tartışılıyor. Bana göre o dönemde bu fikir pek anlamlı değildi.

Temel soru şuydu: Kazandığınız ek zamanla ne yapacaksınız?

O dönemin yapay zeka modelleri dünyada tutarlı biçimde hareket eden ajanlar olarak çalışabilecek güçte değildi. Önemli düzeyde aldatma, manipülasyon, hile veya siber saldırı gerçekleştirme kapasitesine de sahip değillerdi.

Dolayısıyla onların uyum sorunlarını incelemek için gelişimi yavaşlatmak, biraz insan psikolojisini bakteriler üzerinde deney yaparak anlamaya çalışmaya benziyordu.

Bugün ise tablo tamamen farklı.

Mevcut modeller hem yapay zekayı nasıl daha iyi geliştirebileceğimiz hem de yanlış geliştirildiğinde nelerin ters gidebileceği konusunda neredeyse sınırsız bir araştırma alanı sunuyor.

Modeller kritik yetenek seviyelerine ulaşmadan önce gelişimi yavaşlatmak bize yalnızca bir veya iki yıl kazandırsa ve bu zamanı uyum çalışmalarını geliştirmek için kullansak bile, ciddi bir şeylerin ters gitme riskini önemli ölçüde azaltabileceğimize inanıyorum.

Koordineli bir hız kontrolü stratejisi, öncü yapay zeka geliştiricilerine ticari avantajlarından veya ABD’nin yapay zeka alanındaki liderliğinden vazgeçmeden bu kritik çalışmaları yürütmeleri için zaman sağlayabilir.

Daha genel anlamda toplumun bu teknolojinin nasıl kullanılacağı konusunda söz sahibi olması gerekir. En gelişmiş yapay zeka sistemlerinin ilerleme hızının kontrol altına alınması, gerekli kamusal tartışmalar için de daha fazla zaman sağlayacaktır.

Kazanılan Zaman Nerede Kullanılmalı?

Operasyonel Mükemmellik

Bugünün yapay zeka modellerini eğitmek ve kullanıma sunmak devasa bir operasyonel süreçtir. Binlerce insanı, milyonlarca çipi ve teknoloji tarihinin en karmaşık altyapılarından bazılarını içerir.

Sorunların önemli bir bölümü teorik bilgi eksikliğinden değil, uygulamadaki hatalardan kaynaklanmaktadır.

Örneğin yakın zamanda raporladığımız bazı uyum olaylarının, hatalı pekiştirmeli öğrenme ortamlarının yeterince iyi filtrelenmemesinden kaynaklandığına ilişkin bulgularımız bulunuyor.

İzleme, sandbox sistemleri, eğitim ortamlarının güvenliği ve veri kalitesi gibi alanlar son derece karmaşıktır. Dünyanın en yetkin ekiplerinden bazılarına sahip olsak bile aynı anda yapılması gereken çok fazla şey bulunmaktadır.

Daha ölçülü bir ilerleme temposu, operasyonel mükemmelliğin önemli ölçüde geliştirilmesini sağlayabilir.

Uyum — Alignment

Yapay zeka modellerinin güvenli, etik, kurallara uygun ve gerçekten faydalı davranmasını sağlamayı amaçlayan uyum (alignment) konusunda önemli ilerlemeler kaydettik.

Ancak modellerin yetenekleri arttıkça uyum eğitimimizin de aynı hızda gelişmesini sağlamamız gerekiyor.

Nadir ve beklenmedik istenmeyen davranış örnekleri hala ortaya çıkabiliyor. Kontrollü ilerlemenin sağlayacağı ek zaman, araştırmacıların bu davranışların nedenlerini daha iyi anlamasına ve bunları önleyecek yöntemler geliştirmesine yardımcı olacaktır.

Yorumlanabilirlik — Interpretability

Yorumlanabilirlik, yani yapay zeka modellerinin içinde neler gerçekleştiğini anlamaya çalışan bilimsel alan, son yıllarda büyük ilerleme kaydetti.

Bu yöntemler bir anlamda yapay zekanın “beynine” uygulanan bir fMRI taraması gibi düşünülebilir. Belirli bir davranışın arkasındaki nedenleri görmemize yardımcı olabilir.

Ancak bu yöntemler her zaman açık ve güvenilir sonuçlar vermiyor. Kaydedilen tüm ilerlemeye rağmen modellerin içinde gerçekleşen süreçlerin hala yalnızca çok küçük bir bölümünü anlayabiliyoruz.

Önümüzdeki 1–2 yıllık yoğun bir çalışma bu alanda önemli ilerlemeler sağlayabilir.

Test ve Değerlendirme

Yapay zeka modellerinin yetenekleri arttıkça onları test etmek de zorlaşıyor.

Daha zeki modeller testleri yanıltma konusunda daha yetenekli olabilir. Dolayısıyla ciddi sorunlara sahip oldukları halde güvenli ve uyumluymuş gibi görünebilirler.

Daha geniş ve yaratıcı değerlendirme sistemlerinin geliştirilmesi ve bunların yorumlanabilirlik analizleriyle çapraz kontrol edilmesi büyük önem taşımaktadır.

Yerleşik Bağımsız Değerlendiriciler

Üç aşamalı planın ilk adımı, Anthropic’in tek taraflı olarak uygulamayı taahhüt ettiği yerleşik bağımsız değerlendiriciler sistemidir.

İlk bakışta bu küçük veya bürokratik bir adım gibi görünebilir. Ancak çoğu zaman sıkıcı veya prosedürel görünen mekanizmalar en kritik olanlardır.

Yerleşik değerlendiricilerin üç temel avantajı vardır:

Doğrulanabilirlik: Şirketlerin kamuoyuna açıkladıkları eğitim, dağıtım ve güvenlik uygulamalarını gerçekten yerine getirip getirmediğini ayrıntılı biçimde kontrol edebilirler.

Şeffaflık: Kamuoyunun şirketlerin içerisinde neler yaşandığını bilme hakkı vardır. Anthropic uzun süredir şeffaflığı destekliyor; ancak hangi bilgilerin yayımlanacağına sonuçta yine şirket karar veriyor. Bağımsız değerlendiriciler bu dinamiği değiştirebilir.

İkinci görüş: Ticari teşviklerden bağımsız bir değerlendirme mekanizması oluşturulur. Dışarıdan gelen uzmanların şirket çalışanlarının fark etmediği riskleri tespit etmesi dahi önemli güvenlik kazanımları sağlayabilir.

Anthropic’in planına göre bu ekipler şirket ofislerinde fiziksel çalışma alanına, giriş kartlarına ve şirket bilgisayarlarına sahip olacak; şirket içindeki risk ekiplerine büyük ölçüde benzer çalışma alanlarına, araçlara ve izinlere erişebilecektir.

Daha da önemlisi, değerlendirme ekipleri tespit ettikleri riskler ve olaylar hakkında Anthropic’in editoryal kontrolü olmaksızın kamuoyuna açıklama yapma hakkına sahip olacaktır.

Demokrasiler İçerisinde Kontrollü İlerleme

ABD’deki kritik sayıda öncü yapay zeka şirketinde bağımsız değerlendirme mekanizmalarının kurulmasıyla birlikte doğrulanabilir bir gelişim hızı kontrolü mümkün hale gelecektir.

En etkili yöntem, tüm ABD merkezli öncü yapay zeka şirketlerini kapsayan düzenlemelerdir. Böylece gönüllü olarak katılmak istemeyen şirketler de ortak güvenlik standartlarının kapsamına alınabilir.

Olası bir sistem “kontrol noktaları” (checkpoints) üzerine kurulabilir.

Örneğin:

Bir model X düzeyinde bir yeteneğe ulaştığında, Y ve Z güvenlik koşullarını karşıladığının bağımsız biçimde doğrulanması zorunlu hale gelebilir.

Örneğin X, “modelin yaygın sandbox güvenlik yöntemlerinin çoğunu aşabilecek kapasiteye ulaşması” olabilir.

Bu durumda modelin çok sayıda bilgisayarı ele geçirmeye çalışmayacağına ilişkin güçlü kanıtlar ortaya konmadan bir sonraki yetenek seviyesine geçilmemelidir.

Çin Faktörü ve Jeopolitik Rekabet

Demokratik ülkelerde en gelişmiş yapay zeka sistemlerinin ilerleme hızının sınırlandırılması, ABD merkezli şirketlerin Çin’deki yapay zeka projeleri karşısındaki teknolojik üstünlüğüyle doğrudan bağlantılıdır.

Eğer ABD şirketleri bu teknolojik farktan daha fazla yavaşlarsa, Çin bağlantılı projeler öne geçebilir ve bu durum ciddi bir ulusal güvenlik riski yaratabilir.

Bu nedenle demokratik ülkelerin kontrollü biçimde ilerleyebilmesi için teknolojik avantajlarını korumaları gerekmektedir.

Bunun için üç temel önlem önerilmektedir:

1. Çin’e güçlü yapay zeka çipleri ve yarı iletken üretim ekipmanları satılmamalı; çip kaçakçılığı ve Çin dışındaki veri merkezlerine uzaktan erişim engellenmelidir.
2. Otoriter ülkelerdeki şirketlerin öncü modelleri izinsiz biçimde distillation yöntemleriyle kopyalamasına karşı önlemler alınmalıdır.
3. Yapay zeka şirketlerinin güvenliği güçlendirilmeli ve model ağırlıklarının çalınması engellenmelidir.

Bu önlemlerin etkili biçimde uygulanması durumunda Çin’in ilerlemesinin yavaşlatılabileceği ve önümüzdeki 3–5 yıl içerisinde ABD’nin teknolojik avantajının genişletilebileceği öne sürülmektedir.

Bu avantaj, demokratik ülkelerin yapay zeka güvenliği için ihtiyaç duyduğu zamanı sağlayabilir.

Küresel Ölçekte Kontrollü İlerleme

Demokratik ülkeler arasındaki koordinasyona paralel olarak en gelişmiş yapay zeka sistemlerinin ilerleme hızını küresel ölçekte kontrol etmeyi amaçlayan bir sistem de hedeflenmelidir.

Bunun gerçekleşmesi Çin ile iş birliğini gerektirir.

Ancak burada son derece dikkatli olunmalıdır. ABD kendi yapay zeka kapasitesini büyük ölçüde sınırlandırırken Çin’in aynı şeyi yapacağı varsayılır ve Çin anlaşmaya uymazsa, yapay zekanın sağlayabileceği stratejik avantaj nedeniyle küresel güç dengesi dramatik biçimde değişebilir.

Bu nedenle herhangi bir anlaşma ya çok güçlü doğrulama mekanizmalarına sahip olmalı ya da anlaşmadan çekilmenin askeri açıdan varoluşsal sonuçlar yaratmayacağı kadar sınırlı tutulmalıdır.

Olası küresel iş birliği dört seviyede düşünülebilir:

Seviye 1 – Açıkça Tehlikeli Kullanımların Yasaklanması

Yapay zekanın biyolojik silah üretiminde kullanılması gibi dar kapsamlı ve açıkça tehlikeli uygulamalar yasaklanabilir.

Biyoterörizm hem ABD hem de rakipleri açısından tehdit oluşturduğu için bu alanda uluslararası anlaşmaya varılması görece mümkündür.

Seviye 2 – Ortak Güvenlik Testleri

Her iki taraf da modellerini piyasaya sürmeden önce siber güvenlik, biyoloji ve uyum gibi yüksek riskli alanlarda test etmeyi kabul edebilir.

Bu testleri yönetecek uluslararası bir standart kuruluşu oluşturulabilir.

Temel problem ise devletlerin gizli modeller geliştirip bunları özellikle askeri amaçlarla test sistemlerinin dışında kullanıp kullanmadığının doğrulanması olacaktır.

Seviye 3 – Özyinelemeli Kendini Geliştirmeye “Hız Sınırı”

Modeller gelecekteki modelleri geliştirmeye başladıkça teknolojik ilerlemenin hızı olağanüstü seviyelere ulaşabilir.

Bu süreci “aşırı hızlı” seviyeden “hala hızlı fakat kontrol edilebilir” bir seviyeye indirmek, stratejik avantajdan görece az ödün verirken güvenliği önemli ölçüde artırabilir.

Bu yaklaşım Soğuk Savaş dönemindeki SALT anlaşmalarına benzetilebilir: füze sayısının sınırlandırılması ülkelerin caydırıcılık kapasitesini ortadan kaldırmadan potansiyel yıkımın boyutunu azaltmayı amaçlamıştı.

Seviye 4 – Tam Kapsamlı Yavaşlama veya Duraklama

En ileri aşamada devletler yapay zeka gelişiminin genel hızını ciddi biçimde sınırlandırmayı, hatta geçici olarak durdurmayı kabul edebilir.

Ancak böyle bir anlaşmanın yakın gelecekte gerçekleşmesi düşük ihtimaldir.

Çünkü gizlice anlaşmayı ihlal eden bir aktör çok büyük bir stratejik avantaj elde edebilir. Dolayısıyla böyle bir sistem olağanüstü güçlü doğrulama mekanizmaları gerektirir.

Sonuç

Yapay zekanın insan yaşamının kalitesini olağanüstü ölçüde geliştirebileceğine inanmaya devam ediyorum.

Bu teknolojinin sağlayabileceği faydalara ulaşma arzum azalmış değil.

Ancak bu faydalar yalnızca teknolojiyi doğru biçimde geliştirirsek gerçekleşebilir.

Kazandığımız zamanı doğru kullandığımız sürece, yapay zeka gelişiminde alışılmadık derecede dikkatli ve bilinçli davranmaya değer.

Bu süre içerisinde yorumlanabilirlik bilimini ilerletebilir, öncü yapay zeka şirketlerinin operasyonel güvenliğini ve disiplinini güçlendirebilir ve uyumundan çok daha emin olduğumuz modeller geliştirebiliriz.

Önerdiğim önlemleri hayata geçirmek kolay olmayacaktır.

Ancak insanlığa karşı sorumluluğumuzun bunu denemeyi gerektirdiğine inanıyorum.