Vitalik Buterin, ani riskli yapay zeka durumunda hesaplamada ‘yumuşak duraklama’ uyguluyor

Ethereum’un ortak yaratıcısı Vitalik Buterin’e göre, gelişmiş bir yapay zeka biçiminin zararlı olabileceği riski varsa, küresel hesaplama kaynaklarının geçici olarak durdurulması insanlığa ek zaman sağlayabilir.

5 Ocak tarihli bir blog güncellemesinde Buterin, Kasım 2023’te “savunma hızlandırmacılığı” (d/acc) hakkındaki gönderisini genişletti. Gelişmiş yapay zekanın potansiyel olarak yalnızca beş yıl içinde ortaya çıkabileceği ve sonuçlarının olumlu olup olmayacağının belirsiz olduğu konusunda uyardı.

Vitalik Buterin, büyük ölçekli bilgi işlem donanımının üretimini geçici olarak sınırlamanın, yapay zeka ilerlemesini yavaşlatmanın bir yolu olabileceğini öne sürüyor. Bu, potansiyel olarak küresel hesaplama gücünü yaklaşık 1 ila 2 yıl boyunca %99’a kadar azaltabilir ve insanlığa hazırlanmak ve uyum sağlamak için ek zaman sağlayabilir.

Süper zeka olarak adlandırılan gelişmiş bir yapay zeka kavramı, genel olarak tüm disiplinlerde ve bilgi alanlarında sürekli olarak insan zekasını geride bırakan bir varlık olarak anlaşılır.

Mart 2023’te kaleme alınan ve 2.600’den fazla kişi tarafından imzalanan açık mektubun da gösterdiği gibi, önemli sayıda teknoloji lideri ve bilim insanı yapay zekayla ilgili endişelerini dile getirdi. Gelişimiyle ilişkili “köklü riskler” nedeniyle topluma ve insanlığa yönelik potansiyel tehlikelere ilişkin endişelerini dile getirdiler.

Ancak Buterin, önceki makalesinin yalnızca tehlikeli türdeki üstün zekalardan kaçınmaya işaret ettiğini ve şimdi yapay zekanın önemli riskler oluşturduğu bir duruma yönelik potansiyel çözümleri tartışmayı amaçladığını açıkladı.

Ancak Buterin, yalnızca yasal hesap verebilirlik gibi “daha güçlü eylemin” gerekli olduğuna ikna olması koşuluyla donanımın yumuşak bir şekilde durdurulmasını savunmaya istekli olduğunu ifade etti. Bu, yapay zekayı kullanan, uygulayan veya yaratan kişilerin, modellerinin zarar vermesi durumunda davalarla karşı karşıya kalabileceği anlamına geliyor.

Kişi, yapay zeka donanımının geçici olarak durdurulmasına yönelik planların, yapay zeka çiplerinin konumunu belirlemeyi ve bunların kaydedilmesini gerektirebileceğini öne sürdü; ancak bunun yerine, endüstriyel ölçekte yapay zeka donanımının, yalnızca korunmasına izin veren bir çiple donatılabileceği bir fikir önerdi. Haftada en az bir kez önemli uluslararası kuruluşlardan üç imza seti alması halinde işlerlik kazanır.

Daha basit bir ifadeyle Buterin, bu imzaların çeşitli cihazlarda çalışacağını belirtti (isteğe bağlı olarak, bunların bir blockchain üzerinde yayınlandığını gösteren bir kanıt talep edebiliriz). Bu, bir kez yetkilendirildikten sonra, diğer tüm aygıtlara aynı anda yetki verilmeden yalnızca bir aygıtın çalışmaya devam etmesine izin vermenin uygun bir yolu olmayacağı anlamına gelir.

Buterin’in teknoloji geliştirme önerisi, Hızlandırmacılık veya Etkin Hızlandırmacılık tarafından önerilen hızlı, dizginsiz ilerlemelerden ziyade temkinli bir stratejiyi vurguluyor.

Yapay Zeka Gözü: Yapay zeka tarafından oluşturulan memecoin ‘dinleri’ etrafında tuhaf bir tarikat büyüyor

2025-01-06 06:07