Damla Turan T24 Dış Haberler
Anthropic CEO’su Dario Amodei, yapay zeka modellerinin gelişim hızının güvenlik çalışmalarının yetişebilmesi için düşürülmesi gerektiğini söyledi. Amodei’nin çağrısına OpenAI CEO’su Sam Altman, Elon Musk ve Google DeepMind Başkanı Demis Hassabis’ten de destek gelirken, teknoloji sektöründe yapay zekanın kontrolden çıkma riski ve şirketlerin güvenlik söylemlerinin arkasındaki nedenler yeniden tartışmaya açıldı.
Yapay zeka sektörünün önde gelen şirketlerinin yöneticileri, teknolojinin gelişim hızının güvenlik önlemlerinin önüne geçebileceği yönündeki endişelerin artmasının ardından daha kontrollü bir ilerleme çağrısında bulundu.
Anthropic çalışanının istifası tartışmayı büyüttü
Tartışmalar, Anthropic çalışanı Jacob Coxon’ın görevinden ayrılırken yapay zekanın insanlık açısından varoluşsal bir tehdit oluşturabileceği yönünde uyarıda bulunmasıyla yeniden gündeme geldi.
Coxon’ın açıklamaları teknoloji sektöründe geniş yankı uyandırırken, yapay zeka şirketlerinin geliştirdikleri sistemleri ne ölçüde kontrol edebildiği ve güvenlik çalışmalarının teknolojinin ilerleme hızına yetişip yetişemediği yeniden tartışılmaya başlandı.
Amodei: Geliştirme hızını ayarlamalıyız
Anthropic’i güvenli yapay zeka geliştirme hedefiyle kuran Amodei, teknolojinin insanlığa önemli faydalar sağlayabileceğine inandığını ancak sistemlerin, araştırmacıların güvenliği sağlayabilme kapasitesinden daha hızlı gelişebileceğini belirtti.
Amodei, son aylardaki gelişmelerin kendisini daha güçlü önlemlerin gerekli olduğuna ikna ettiğini ifade ederek, yalnızca güvenlik çalışmalarına daha fazla kaynak ayrılmasının yeterli olmayacağını savundu.
Anthropic CEO’suna göre yapay zeka modellerinin yeteneklerini geliştirme temposunun da güvenlik araştırmalarına zaman kazandıracak şekilde ayarlanması gerekiyor.
Amodei, ilerlemenin yine hızlı devam edebileceğini ancak kazanılan ek sürenin yapay zekanın oluşturabileceği riskleri azaltmak için kullanılması gerektiğini belirtti.
Yapay zekâ sistemlerinin güvenlik ihlalleri endişe yarattı
Uyarılar, Anthropic’in Claude, OpenAI’ın ChatGPT ve Google DeepMind’ın geliştirdiği yapay zeka sistemlerinin yeteneklerinde hızlı ilerlemeler kaydedildiği bir dönemde geldi.
Teknoloji sektöründeki endişeleri artıran başlıklardan biri de yapay zeka laboratuvarlarının, geliştirdikleri yazılımların gerçekleştirdiği yetkisiz güvenlik ihlallerini sonradan tespit etmeleri oldu.
Örnek olarak OpenAI sistemlerinin Hugging Face’e izinsiz eriştiğinin ileri sürüldüğü, olayın Hugging Face tarafından haftalar sonra fark edilerek bildirildiği belirtildi.
Yapay zeka geliştiricilerinin üzerinde durduğu risklerden biri de İngilizcede “recursive self-improvement”, Türkçede ise “özyinelemeli öz-gelişim” olarak ifade edilen senaryo.
Bu senaryoda yapay zeka sistemlerinin insan müdahalesi olmadan kendi yeteneklerini geliştirmeye başlamasından endişe ediliyor.
Amodei, bu tür sistemlerin denetimsiz biçimde gelişmesi halinde insanların yapay zekayı anlama ve kontrol etme kapasitesinin sistemlerin gelişiminin gerisinde kalabileceğini savunuyor.
Altman, Musk ve Hassabis’ten destek
Amodei’nin makalesini yayımlamasından saatler sonra sektörün önde gelen isimleri de konuya ilişkin değerlendirmelerde bulundu.
OpenAI CEO’su Sam Altman, yapay zeka modellerinin bağımsız değerlendiriciler tarafından incelenmesi fikrini desteklediğini belirterek OpenAI’ın da benzer yönde adımlar atacağını bildirdi.
Elon Musk ise kısa bir sosyal medya paylaşımında Amodei’nin görüşüne katıldığını belirtti. Google DeepMind Başkanı Demis Hassabis de Amodei’nin önerilerini doğru yönde atılmış bir adım olarak değerlendirdi.
Bağımsız denetim ve uluslararası standart önerisi
Amodei, yapay zeka yarışının hızını kontrol altına almak için iki temel alanda adım atılmasını önerdi.
Bunlardan ilki, yapay zeka laboratuvarlarının çalışmalarını incelemek üzere şirketlerden bağımsız uzman ve kuruluşların devreye sokulması. Buna göre büyük yapay zeka geliştiricilerinin, sistemlerinin dışarıdan bağımsız uzmanlar tarafından değerlendirilmesini kabul etmesi gerekiyor.
İkinci öneri ise yapay zeka konusunda uluslararası standartların oluşturulması.
Amodei, demokratik ülkelerin ortak düzenlemeler üzerinde anlaşması gerektiğini, gerekli olması halinde otoriter yönetimlerin de dahil olacağı küresel bir koordinasyon mekanizmasının kurulabileceğini savundu.
(Editör: Deniz Kıryazı)
The post Yapay zekâ şirketlerinden gelişme hızını yavaşlatma çağrısı: Kontrol edemiyoruz first appeared on .
