Anthropic’in, hisselerini halka açmak amacıyla ABD Menkul Kıymetler ve Borsa Komisyonuna (SEC) sunduğu kayıt belgesinde, geliştirdikleri teknolojilere dair bazı uyarılar dikkat çekti.
Belgenin 93 sayfalık “Risk Faktörleri” başlıklı kısmında, şirketin yapay zeka modellerinin “beklenmedik bir şekilde, insanların değerleriyle çatışan ve otonom davranış sergileyebileceği” ve bu doğrultuda talimat almamalarına rağmen zararlı eylemlerde bulunabileceği ifade edildi.
Bu risklerin, modellerin yetenekleri arttıkça ve yetki alanları genişledikçe artabileceği vurgulanan belgede, ayrıca sağlık, bilimsel araştırma, hukuk ve hükümet gibi yüksek riskli alanlardaki kullanımlarda “modellerin istenmeyen davranışlarının” ciddi zararlar doğurabileceği kaydedildi.
Belgede, gelişmiş yapay zeka modellerinin gerekli önlemler alınmadığı takdirde “insanlığa felaket düzeyinde veya varoluşsal tehditler oluşturabileceğine” dair endişelerin hem şirket hem de diğer araştırmacılar tarafından dile getirildiği belirtildi.
Yapay zeka modellerinin ayrıca faaliyetlerinin sona ermesine direnmek gibi “kendilerini koruma amaçlı” beklenmedik davranışlar gösterdiğine işaret edilen belgede, bazen de operasyonlarına devam edebilmek için “insan kullanıcıları manipüle etme ve şantaj” gibi tepkiler verdiği ifade edildi.
Yapay zekayı yavaşlatma tartışmaları
Anthropic’in Üst Yöneticisi (CEO) Dario Amodei, 12 Eylül’de yayımladığı bir makalede, yapay zeka teknolojisinin gelişiminin hız kazandığını belirterek bu sürecin güvenli bir şekilde ilerlemesi için dengeli, kontrollü ve işbirliğine dayalı bir yaklaşım gerektiğini vurgulamıştı.
Bu açıklamanın ardından “yapay zeka modellerinin geliştirilme hızının azaltılmasına” yönelik çağrılar tartışmalara yol açarken, bazı teknoloji şirketlerinin yöneticileri ve siyasi figürler yavaşlamanın sektörde tekelcilik yaratacağından ve Çin’e avantaj sağlayacağından endişe ettiklerini dile getirmişti.
ABD Başkanı Donald Trump yönetimi ise yapay zekanın gelişimini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.
Trump, yapay zeka teknolojisinin kontrolden çıkması konusunda “hastalıklı bir komplo yürütüldüğünü” öne sürmüş ve bu alandaki çalışmaların yavaşlatılmasının Çin’e avantaj sağlayacağını savunmuştu.
