Yapay zeka için 'yavaşlama' çağrısı

Amodei, internet sitesinden yayımladığı makalesinde, yapay zekanın, kontrolünün kaybedilmesi, siber saldırı ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.

Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Amodei, şirketlere yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısı yaptı.

Amodei, “Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz.” ifadesini kullandı.

“Üç aşamalı plan” önerisi

Amodei, endişelerinin nedenlerinden birinin, OpenAI şirketi tarafından yapılan bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirmesi olduğunu aktardı.

Bu tür gelişmelerin yapay zeka sistemlerinin kontrolüne ilişkin endişeleri artırdığını vurgulayan Amodei, yapay zekanın faydalarından yararlanmayı sürdürürken güvenliğini de sağlamayı amaçlayan üç aşamalı bir plan önerdi.

Planın ilk aşamasının, Anthropic’in kendi başına uygulamayı taahhüt ettiği ve diğer yapay zeka şirketlerinin de uyması için hükümetlere düzenleme çağrısı yaptığı önlemleri içerdiğini kaydeden Amodei, ikinci aşamada sektör genelinde, üçüncü aşamada ise küresel düzeyde koordinasyon gerektiğinin altını çizdi.

Musk ve Altman’dan destek mesajları

Ayrıca, Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk’tan Amodei’ye destek geldi.

Musk, sosyal medya hesabından, Amodei’nin söz konusu paylaşımını alıntılayarak “Dario haklı.” yorumunda bulundu.

ABD merkezli yapay zeka şirketi OpenAI’ın Üst Yöneticisi (CEO) Sam Altman da sosyal medya hesabından, Amodei’ye destek verdi.

Altman, ilgili paylaşımında, “Dario’nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum.” ifadesini kullandı.

Bu konunun son haftalarda OpenAI’da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğuna işaret eden Altman, “Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak harika bir fikir; biz de aynı uygulamayı hayata geçireceğiz. Yakında bu konuda daha fazla bilgi paylaşacağız.” görüşünü paylaştı.

Coxon’un istifası

OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic’ten istifa etmişti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, “Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek.” ifadelerini kullanmıştı.

Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandığını öne sürmüştü.