Yapay zeka devleri ortak görüşte birleşti: Uzman isim 'yetmez' dedi

 

 

Fotoğraf: Arşiv

Yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, Tesla ve SpaceX CEO'su Elon Musk ve OpenAI CEO'su Sam Altman'ın yapay zeka modellerinin geliştirme hızının düşürülmesi yönündeki ortak çağrısı, akademiden sert bir tepkiyle karşılaştı. Montreal Üniversitesi’nde yapay zeka güvenliği alanında çalışan Doç. Dr. David Krueger, teknoloji devlerinin bu "yavaşlama" talebinin yetersiz olduğunu belirterek, tek çözümün daha güçlü sistemlerin inşasının derhal ve süresiz olarak durdurulması gerektiğini savundu. İnsanlığın varoluşsal bir krizle karşı karşıya olduğunu vurgulayan Krueger, hükümetlerin kontrol kaybını önlemek adına geliştirme çalışmalarını tamamen durdurması gerektiğini ifade etti.

Kanada'daki Montreal Üniversitesinde yapay zeka güvenliği alanında çalışan Doç. Dr. David Krueger, son dönemdeki çağrıların aksine yapay zeka modellerini geliştirme hızının düşürülmesinin yeterli olmayacağı, daha güçlü sistemlerin inşası tamamıyla durdurulmadığı sürece insanlığın kontrolü yitirebilme ihtimalinin olduğu uyarısında bulundu.

Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, yapay zeka sistemlerinin kontrol edilmesine ilişkin endişelerin artmasıyla 12 Eylül'de şirketlere "yapay zeka modellerini geliştirme hızlarını düşürmeleri" için çağrı yaptı.

Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk'ın yanı sıra ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman, sosyal medya hesaplarından Amodei'ye destek verdi.

Krueger, son dönemde önde gelen teknoloji firmalarının yöneticilerinin, yapay zekanın gelişimini yavaşlatma çağrılarına ilişkin değerlendirmelerde bulundu.

Geliştirme çalışmalarının hızını düşürmenin yeterli olmayacağını vurgulayan Krueger, "Yapay zekayı durdurmalıyız. Daha güçlü yapay zeka geliştirmeyi durdurmalıyız." dedi.

Krueger, "üst düzey performanslı yapay zeka sistemleri" geliştirme çalışmalarına yönelik derhal ve süresiz "uluslararası moratoryum uygulanması" çağrısında bulunarak, "Şu anda yapabileceğimiz ve bizi gerçekten güvende tutacak tek şey bu." görüşünü paylaştı.

"Hepimizin ölebileceğini söylüyorum"

İnsanlığın kontrol edilemeyecek kadar güçlü sistemlerin gelişmesini engellemek için sadece birkaç yılının kalmış olabileceğini savunan Krueger, "Bu, genelde çok karamsar bir tablo gibi geliyor çünkü ben bunun bir acil durum ve kriz olduğunu, hepimizin ölebileceğini söylüyorum." dedi.

Krueger, yapay zekanın, ölümle sonuçlanan davranışları tetiklemeye çoktan başladığına dikkati çekerek, "Yapay zekanın, insanlara intihar etmeleri ve başkalarını öldürmeleri için talimat verdiğine tanık olduk." diye konuştu.

Yapay zekanın askeri alandaki kullanımına da işaret eden Krueger, "Bu, gayet gerçek bir durum. Şu anda yaşanıyor ama her şey çok hızlı değişiyor ve çok daha tehlikeli hale geliyor." değerlendirmesinde bulundu.

 

"İnsan faktörü devre dışı bırakılıyor"

Yapay zeka sistemlerinin son dönemde gündeme oturan otonom davranışlarına dikkati çeken Krueger, "Yapay zekanın yanlış bir şey yapmadığından ve insanların kontrolü elinde tuttuğundan emin olunması için herkesin mevcut bulunmasını istediği insan faktörü, toplumun her alanında olduğu gibi devre dışı bırakılıyor." görüşünü paylaştı.

Krueger, yapay zeka sistemlerinin, sahip olduğu otonomi düzeyini bu yılın başlarında göstermeye başladığını, OpenAI şirketine ait modellerin başka bir sistemde yol açtığı siber güvenlik ihlalinin "yapay zeka davranışının insan beklentilerinin dışında ne kadar hızlı çıkabileceğine dair uyarı" niteliğinde olduğunu vurguladı.

Yapay zekanın bu olayda "haydutlaştığını" belirten Krueger, bu siber güvenlik ihlalinin, gelişmiş sistemlerin sınırlı insan denetimiyle çalışmasına izin verildiğinde neler yaşanabileceğini gösterdiğini ifade etti.

"Yeni bir yaşam biçimi inşa etmek"

Krueger, "İnsanların anlaması gereken şey, şu anda yaptığımız şeyin esasen yeni bir yaşam biçimi inşa etmek olduğudur." yorumunu yaptı.

Yapay zeka sistemlerinin halen büyük ölçüde bilgisayarlarla sınırlı olduğunu anlatan Krueger, kritik altyapılara ve artan şekilde gelişmiş robotlara bağlandıkça erişimlerinin genişleyebileceğini söyledi.

Krueger, bu durum için, "Bir noktada insanlardan çok daha zeki bir yaşam biçimi olacak." uyarısında bulunarak, asıl tehlikenin bu tür sistemlerin bağımsız çalışabilme yeteneğine sahip olmaları durumunda ortaya çıkabileceğini söyledi.

 

"Hükümetler, daha güçlü sistemlerin geliştirilmesini durdurmalı"

Krueger, hükümetlerin daha güçlü sistemlerin geliştirilmesini durdurması ve mevcut kaynakların nasıl güvenli şekilde kullanılabileceğini belirlerken ileri yapay zeka bilişim kapasitesinin genişletilmesini kısıtlamaları gerektiğini dile getirdi.

Böyle bir önlemin önemli siyasi ve ekonomik engellerle karşılaşacağına işaret eden Krueger, ülkelerin yapay zeka alanında liderlik için rekabet ettiklerini ve şirketlerin de giderek daha güçlü bilişim altyapılarına yatırımlar yaptıklarını anlattı.

Krueger, "Bunu uluslararası düzeyde durdurmaya çalışırsak ülkelerin güçlü yapay zekayı gizlice geliştirmeye devam edeceğine dair bir endişenin olduğunu düşünüyorum." dedi.

 

"Yapay zeka şirketlerine sahip ülkeler çok zenginleşecek"

İnsanlığın gelişmiş yapay zeka üzerindeki kontrolünü tamamen kaybetmesi durumunda sonuçların evrensel olacağına inandığını belirten Krueger, "Herkes ölecek ve bunu kimin inşa ettiğinin veya nerede yaşadığınızın bir önemi olmayacak." diye konuştu.

 

Krueger, yapay zekanın insan emeğinin çoğu biçimini yerine getirebilir hale gelmesi halinde, önde gelen yapay zeka şirketlerini kontrol eden ülkelerin muazzam ekonomik avantajlar sağlayabileceği ve diğerlerinin ise daha geride kalabileceği ihtimaline dikkati çekti.

Krueger, "Bence yapay zeka şirketlerine sahip ülkeler çok zenginleşecek ve sahip olmayan ülkeler nispeten çok fakirleşecek." değerlendirmesinde bulundu.

 

 

   

 

 

 

 

Yapay zeka savaşları insanlığın sonunu mu hazırlıyor? Tehlikenin farkındalar ancak durmuyorlar!

Yapay zekanın kontrolden çıkarak insanlığın geleceğini tehdit edebileceği uyarıları peş peşe gelirken ABD ve Çin, dünyanın en kritik teknoloji yarışında frene basmıyor. Washington "Çin'i yenmeliyiz" diyerek gaza basarken, Pekin'in en üst düzey istihbarat yetkilisi yapay zekanın oluşturduğu tehlikelere dikkat çekiyor. Ancak Çin de bu risklere rağmen rekabetten geri adım atmıyor.

 

 

 

Yapay zekanın gelişiminin insanlık için oluşturabileceği riskler tartışılırken, dünyanın iki büyük gücü ABD ve Çin arasındaki teknoloji yarışı giderek daha sert bir hal alıyor.

 

REKABET UĞRUNA DÜNYAYI RİSKE ATIYORLAR

Washington, Pekin'in önüne geçmek için yapay zeka alanındaki üstünlüğünü korumaya çalışırken, Çin de teknolojinin oluşturabileceği güvenlik tehditlerine karşı alarm veriyor. Ancak iki ülkenin de yapay zekadan vazgeçmeye niyeti bulunmuyor.

TRUMP ÇİN'İ YENMEK İÇİN YAPAY ZEKADAN VAZGEÇMİYOR

CNN'in haberine göre ABD Başkanı Donald Trump, yapay zeka uzmanları ve sektör yöneticilerinin gelişimin yavaşlatılması yönündeki çağrılarını geri çevirerek ABD'nin Çin karşısındaki liderliğini korumasının öncelikli olduğunu söyledi.

Trump, "Yapay zekada Çin'in önündeyiz ve açıkçası böyle kalmasını istiyorum. Çünkü yapay zekayı kim kazanırsa o kazanır" ifadelerini kullandı.

CNN, Trump'ın yaklaşımının yapay zekayı yalnızca teknolojik bir gelişme olarak değil, ABD ile Çin arasındaki büyük güç rekabetinin stratejik unsurlarından biri olarak gördüğünü ortaya koydu.

Habere göre ABD, sektördeki hakimiyetini korunması gereken stratejik bir varlık olarak değerlendirirken, Çin'in hızla gelişen modelleri Washington'da giderek daha büyük tehdit olarak görülüyor.

TRUMP "ZENGİNLİK" İÇİN TEHLİKEYİ GÖRMEZDEN GELİYOR

Trump ayrıca bir başka konuşmasında, Los Angeles'ta düzenlenen yapay zeka ve inovasyon zirvesi "All-In Summit 2026" sırasında Nvidia CEO'su Jensen Huang'ı telefonla arayarak, "veri merkezlerinin insanları zengin edeceğini" söyledi.

Huang, görüşmeyi salondakilerin duyabilmesi için Trump'ın sesini hoparlöre aktardı.

Görüşmede veri merkezlerini "harika" olarak tanımlayan Trump, "Veri merkezleri harika ve insanları zengin ediyor. Gelecek 20-25 yılın petrolü bu. İnternetten ve yapay zekadan çok daha büyük bir şey." ifadelerini kullandı.

Trump, yapay zekanın oluşturabileceği tehditlere ilişkin "Robotlar kontrolü ele geçirmeyecek. Yapay zeka dünyanın geri kalanını ele geçirmeyecek. Bunların hepsi bir kandırmaca." dedi.

Veri merkezi inşasına karşı çıkanların "bunun gerçekleşmesini istemeyen pek çok kişinin ekmeğine yağ sürdüğünü" savunan Trump, bu durumun Çin menşeli olabileceğini ileri sürdü.

"Buna izin vermeyeceğiz." sözüne karşı Huang da "Haklısınız. Buna izin vermeyeceğiz, efendim." dedi.

Trump, insanların yapay zeka konusunda "dikkatli olması ve basiretli davranması" gerektiğini sözlerine ekledi.

PEKİN DE TEHLİKENİN FARKINDA ANCAK DURMAYI DÜŞÜNMÜYOR

Çin tarafında ise tablo farklı bir endişeyi ortaya koyuyor. The New York Times'ın haberine göre Çin Devlet Güvenliği Bakanı Chen Yixin, yapay zekanın Çin Komünist Partisi'nin iktidarına doğrudan tehdit oluşturabileceği uyarısında bulundu.

Chen, yapay zekanın deepfake içerikler ve dezenformasyon yoluyla siyasi istikrarı bozabileceğini, siber saldırıları kolaylaştırabileceğini ve kritik altyapılara yönelik tehditleri artırabileceğini belirtti.

Çin'in en üst düzey istihbarat yetkilisinin uyarısında yapay zekanın askeri rekabeti daha da sertleştirebileceği de vurgulandı.

Chen'e göre savaş alanında yapay zekanın imkanlarından daha etkin yararlanan taraf önemli bir üstünlük elde edebilir.

Ancak New York Times, Pekin'in bu risklere ilişkin uyarılar yaparken yapay zekayı ABD ile rekabet açısından stratejik bir teknoloji olarak görmeye devam ettiğine dikkat çekti.

RİSK BÜYÜRKEN YARIŞ DA BÜYÜYOR

Washington ile Pekin arasındaki temel sorun ise güven eksikliği. CNN'e göre ABD, Çin ile iş birliğinin Pekin'in askeri ve ekonomik gücünü artırmasından endişe ederken, Çin ABD'nin "ulusal güvenlik" gerekçesiyle kendi teknolojik yükselişini engellemeye çalıştığını düşünüyor.

Çin Devlet Başkanı Şi Cinping uluslararası iş birliği ve küresel bir yapay zeka yönetişim anlaşması çağrısı yaparken, Washington ile Pekin arasındaki rekabetin bu konuda anlamlı bir uzlaşMayısı zorlaştırdığı belirtiliyor.

Böylece yapay zekanın güvenliğine ilişkin ortak kurallar oluşturulması gerektiği konusunda söylemler yükselirken, iki süper güç aynı teknolojiyi aynı zamanda küresel rekabetin en önemli silahlarından biri olarak görüyor.

 

"KONTROLSÜZ YARIŞ" UYARISI

Anthropic Üst Yöneticisi Dario Amodei, yapay zekanın katlanarak gelişmesinin insanların bu sistemleri anlama ve kontrol etme kapasitesini aşabileceği uyarısında bulundu.

Amodei, yapay zeka şirketlerinin güvenlik standartları belirlemesi ve teknolojinin piyasaya sürülme hızına yönelik kurallar oluşturması gerektiğini ifade etti.

 

Ancak kendisinin de işaret ettiği en büyük ikilemlerden biri, ABD yavaşlarken Çin ve diğer rakip ülkelerin aynı şeyi yapmaması ihtimali.

Bu endişe, yapay zeka sektörünün içinden gelen daha sert uyarılarla da birleşiyor.

OpenAI ve Anthropic'te araştırmacı olarak çalışan Jacob Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri konusunda kontrolsüz bir yarışa girdiğini belirtti.

Coxon, sektördeki bazı çalışanların bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi biçimde inandığını bildirdi.

YAPAY ZEKA KONTROL ALTINDA TUTULABİLECEK Mİ?

Bir tarafta yapay zekanın insan kontrolünü aşabileceği ve hatta insanlık için ölümcül sonuçlar doğurabileceği uyarıları yükselirken, diğer tarafta ABD-Çin rekabeti teknolojinin daha hızlı geliştirilmesi için baskı oluşturuyor.

 

Ortaya çıkan tablo ise yapay zekanın geleceğine ilişkin en kritik soruyu yeniden gündeme getiriyor: Dünyanın iki büyük gücü birbirini geçmeye çalışırken, bu yarışın insanlık için oluşturabileceği riskleri kontrol etmek mümkün olacak mı?

Haber GirişiAlperen Cengiz - Editör

DIŞ HABERLER  -  AA