Anthropic’in kurucu ortaklarından Jack Clark, yapay zekanın (YZ) insan müdahalesi olmadan gelişim göstermeye yaklaştığı ve bunun durdurulması gerektiği konusunda uyarılarda bulundu. BBC Newsnight programında yaptığı açıklamada, “Ayağınızı gazdan çekip frene basabilme seçeneğinizin olması önemli” ifadelerini kullanan Clark, mevcut durumda yapay zeka sektöründe bir “gaz pedalı” bulunduğunu, ancak “fren pedalı” olmadığını belirtti.
Clark, yapay zekanın giderek güçlenerek toplum üzerinde daha geniş etkiler yaratacağını vurgulayarak, insanların hükümet politikaları aracılığıyla bu sistemler üzerinde kontrolü elinde tutması gerektiğini ifade etti. “Dünya olarak biraz düşünmemiz ve bu sistemlere güven verecek yeni düzenlemeler geliştirmemiz gerekiyor” dedi.
Anthropic’in popüler sohbet robotu Claude’un, yazılımının %80’ini kendi kendine geliştiren bir altyapı üzerinde çalıştığını ifade eden Clark, bu oranın iki yıl içinde %100’e ulaşabileceğini ve bunun “çok büyük sonuçlar doğuracağını” söyledi. Yapay zeka araştırma ve geliştirme süreçlerinde bir “fren pedalı” oluşturulmasına dair detaylar vermese de, geçmişte yaşanan petrol patlamasına atıfta bulunarak, toplumun bu konuda güvenli ve mantıklı bir politika geliştirmesi gerektiğine dikkat çekti.
Geçtiğimiz hafta, Anthropic, ABD Başkanı Donald Trump’ın yapay zeka şirketlerine yönelik müdahaleleri sınırlayan başkanlık kararnamesini memnuniyetle karşıladı. Bu kararnamede, yapay zeka şirketlerinin hükümet tarafından güvenlik testlerine tabi tutulmasının zorunlu kılınmaması, bunun hâlâ gönüllü bir uygulama olarak kalması dikkat çekti.
Bunun yanı sıra, Anthropic, OpenAI ve Google gibi büyük yapay zeka şirketleri de kendi araştırmalarını durdurma niyetinde değiller. Beş yıl önce kurulan Anthropic, hızlı bir büyüme süreci geçirerek halka arz için hazırlıklara başladı. Şirketin, yeni yapay zeka firmaları arasında halka açılan ilk şirketlerden biri olması bekleniyor ve bu durum, tarihin en değerli halka arzlarından biri olma potansiyelini taşıyor. Özel yatırımcılar, Anthropic’in değerini yaklaşık 1 trilyon dolar olarak tahmin ediyor.
Clark, ayrıca Anthropic’in yapay zeka teknolojisinin artan kapasitesi hakkında kamuoyuna açık bir şekilde konuşmasının, sadece itibar artırma amacı taşımadığını belirtti. Amacının, bu sıra dışı teknoloji hakkında iç dünyalarında neler düşündüklerini dünyaya aktarmak olduğunu ifade etti.
Jack Clark, 2021 yılında Anthropic’i kuran yedi eski OpenAI çalışanından biriydi. Anthropic CEO’su Dario Amodei, kuruluşlarından bu yana yapay zekanın potansiyel riskleri konusunda açık ve net bir şekilde konuşuyor. Şirket, yapay zeka araçlarının Amerikalıları kitlesel olarak izlemesi ve otonom savaşlarda kullanılmasına dair endişeler nedeniyle ABD Savunma Bakanlığı ile bazı anlaşmazlıklara girmişti.
Clark, Newsnight programında, “Toplum olarak yapay zekanın sürekli ilerlemesi konusunda ciddi bir tartışma yapmazsak, çocuklarım için endişeleniyorum. Potansiyel olarak büyük faydalar var, ancak aynı zamanda önemli riskler de mevcut” dedi. Ekonomik düzen açısından yaşanabilecek sarsıntılara da dikkat çeken Clark, bu konularda düşünülmesi gerektiğinin altını çizdi.
