Ethereum Kurucusu Buterin Yapay Zeka Kıyameti Senaryosuna Karşı Savunma Stratejisi Önerdi

yazar

Bir kripto yatırımcısı olarak Vitalik Buterin’in “merkezi olmayan ve demokratik savunma ilerlemesinin” bir sonraki aşamasına ilişkin ileri görüşlü bakış açısı beni büyüledi. Süper zeki yapay zekanın oluşturduğu potansiyel tehlikeler konusunda alarma geçti ve koruyucu teknolojileri hızlandırmak, açıklığı teşvik etmek ve sağlam yasal korumalar oluşturmak arasında hassas bir denge kurmazsak, bu gelişmiş yapay zekaların insanlık için varoluşsal tehditler oluşturabileceğini vurguladı.

Ethereum Kurucusu Wars Of AI Doom

Son blog yazısında, müdahale olmadan işlerin iyi sonuçlanacağının kesin olmadığına dikkat çekiyor. Yapay süper zekadaki ilerlemelerin beş yıl içinde gerçekleşebileceğini düşünerek bu konunun aciliyetini vurguluyor. Felaketten veya geri dönüşü olmayan bir felaketten kaçınmak istiyorsak, yalnızca iyiliği hızlandıramayız; Ayrıca, bu önlemler etkili isimlerin hoşuna gitmese bile, katı düzenlemeler uygulayarak olumsuzlukları da engellemeliyiz.

Vitalik Buterin’in fikri, hızlı teknolojik ilerleme ile hazırlıklı olma arasında bir denge kurulmasını vurguluyor. ‘İyi adamların (ya da faydalı yapay zekaların)’ her zaman kontrolün elinde olduğunu varsaymadan, güvenliğimizi garantileyen teknolojiler yaratmamız konusunda bizi teşvik ediyor. Yapay zeka geliştirme veya biyoteknolojide bilinçsiz bir rekabete karşı uyarıda bulunuyor; çünkü bu, militarist güçlere veya zararlı bireylere güç verme olasılığı kadar yüksek olabilir.

İlgi çekici bir örnekte, açık kaynak gibi tabandan gelen ve işbirlikçi korumalar nedeniyle “simülasyonlara göre bir hastalığın yirmi yıl önceki Kovid’den beş kat daha şiddetli olabileceği, bugün önemsiz olduğu” çok da uzak olmayan bir olay tasavvur ediyor. hava kalitesi takibi ve hızla gelişen aşı planları. Yıllardır bu teknolojileri geliştirenlerin birbirlerinin çalışmalarından daha fazla haberdar olmaya başladıklarını belirterek, “Ethereum ve kripto para biriminin arkasındaki aynı özgecil ilkelerin daha geniş bir küresel bağlama genişletilebileceğini” açıklıyor.

Ethereum’un kurucu ortağının savunma stratejisinin özü, “d/acc” olarak adlandırdığı bir kavram etrafında dönüyor; bu kavram, temel kaynaklara erişimin belirlenmesinde hükümetler veya şirketler üzerinde bireysel gücü teşvik eden araçları vurgulamayı içeriyor. Tahakküme, yavaş düşüşe ve umutsuzluğa karşı daha umut verici bir alternatif geliştirmeyi amaçlıyorsak, geniş ve kapsayıcı bir koalisyon oluşturmanın hayati önem taşıdığını savunuyor. Uzun süreli bir çatışma durumunu (veya “herkesin herkese karşı savaşını”) önlemenin ve yalnızca en güçlülerin hakim olduğu bir sonuçtan kaçınmanın bir yolu olarak yaklaşımının merkezi olmayan doğasını vurguluyor.

Yapay Zekayı kontrol eden merkezi varlıklarla ilişkili riskleri vurguluyor. “Örneğin,” diye belirtiyor, “çok sayıda büyük küresel hükümet tarafından finanse edilen viral etkiyi artırmaya yönelik araştırmalar (işlev kazanımı araştırması), potansiyel olarak Kovid-19 salgınını tetikleyebilirdi.” Aşırı merkezi kontrolün sağlam bir koruma sağlamak yerine sıklıkla feci sonuçlara yol açtığının altını çiziyor.

Savunma Stratejisi

Görevini büyük ölçüde, gelişmiş yapay zekanın oluşturduğu olası tehlikeleri ele almak için yasa ve düzenlemeyle ilgili iki kavrama odaklıyor. Kavramlardan biri sorumluluktur: “Kullanıcılara sorumluluk vermek, yapay zekayı uygun gördüğüm şekilde kullanma konusunda önemli bir teşvik sağlar” diye açıklıyor ve yapay zeka sistemlerini doğrudan kullanan bireylerin, bu sistemlerin neden olduğu her türlü zarardan sorumlu olması gerektiğini öne sürüyor.

Bir analist olarak, açık kaynaklı modellerin veya güçlü askeri uygulamaların yönetilmesindeki karmaşıklıkların farkındayım, ancak sorumluluğun aşırı uyumdan uzak duran çok yönlü bir yöntem olmaya devam ettiğini düşünüyorum. Ayrıca, yaratıcı ilerlemeleri aşırı yasal kısıtlamalarla engellememesi koşuluyla, hem dağıtıcıları hem de geliştiricileri sorumlu tutmanın önemini savunuyorum.

Benim görüşüme göre, daha küçük kullanıcılar bile sorumlu tutulmayabilir, ancak bir AI geliştiricisinin tipik tüketicisi sorumlu tutulmalıdır. Bu, potansiyel olarak zararlı yapay zeka araştırmalarını daha güvenli yollara yönlendiren ve yönetişimde daha fazla şeffaflığı teşvik eden doğal bir güç görevi görebilir.

Düzenlemeye yönelik ikinci yöntemi ise daha cesur ve iddialı. Sorumluluk kurallarına güvenmek yerine cesur bir strateji öneriyor: Büyük ölçekli endüstriyel donanım için küresel bir “duraklatma” mekanizması. Bu varsayımsal senaryoda, süper zeki yapay zeka modellerini geliştirmek veya çalıştırmak için kullanılan güçlü bilgi işlem cihazları, çeşitli uluslararası kuruluşlardan haftalık onay imzaları gerektirecektir. Bu fikir, bu makinelerin içindeki özel çiplerin kontrol noktaları olarak hizmet etmesini öngörüyor.

Bu eylemin, avantaj elde etmek ve tehlikelerden kaçınmak için gerekli tüm yönleri kapsıyor gibi göründüğünü, çünkü küresel hesaplama gücünün bir ila iki yıllık bir süre boyunca %90-99 oranında azaltılması veya yavaşlatılmasının, insanlığa tepki vermesi için gereken zamanı sağlayabileceğini açıklıyor. kontrolsüz bir yapay zeka tehdidi artacaktı.

Donanımın tamamen durdurulmasının atlanmasının zor olacağını, çünkü “diğer tüm cihazlara izin vermeden bir cihazın çalışmaya devam etmesine izin vermek mümkün olmayacağına” dikkat çekiyor. Bununla birlikte, küresel toplumu böyle bir stratejiyi uygulamaya ikna etmenin çok zor olduğunu da kabul ediyor ve bunun, herkesi yönetecek tek bir güçlü varlığa güvenmek yerine “birbirleriyle işbirliği yapmak için özel çaba” gerektireceğini belirtiyor.

Benzer şekilde Buterin, yapay zeka riskleri hakkındaki düşüncelerini Ethereum’un temel ilkelerine, açık kaynak programlamaya ve merkezi olmayan yönetime bağlıyor. Ethereum’u ve kripto para birimini yönlendiren değerlerin aynısının küresel arenaya da genişletilebileceğini vurguluyor. Özellikle, Ethereum ve diğer blockchain ağlarında gelişen tahmin pazarları gibi işbirliği araçlarının, ZK-SNARK’lar gibi gizlilik teknolojileriyle entegre edildiğinde yanlış bilgiye ve kitlesel histeriye karşı potansiyel olarak güçlü korumalar olarak işlev görebileceğini belirtiyor.

Ayrıca “resmi doğrulama, korumalı alan oluşturma, güvenli donanım bileşenleri ve diğer teknolojileri”, yapay zekanın sistemlerin kontrolünü ele geçirmesini engelleyebilecek güçlü bir siber güvenlik bariyeri oluşturmanın temel temelleri olarak görüyor. Böyle bir yapay zekanın bilgisayarlarımıza sızabileceği, küresel bir dijital pandemiye yol açabileceği veya insanlar arasında güvensizlik yaratabileceği konusunda uyarıyor; bunlar yapay zekanın kontrolü ele geçirmesinin potansiyel senaryolarıdır. Ethereum topluluğunun inşasına katkıda bulunabileceği koruyucu yapının önemli bileşenleri olarak biyogüvenlik, siber güvenlik ve bilgi güvenliğinin önemini vurguluyor.

Ayrıca, bu özerk, güvenlik odaklı girişimlerin nasıl finansman elde edebileceği konusunu da araştırıyor ve açık kaynaklı aşıların, biyoteknolojinin ve şifreleme araçlarının, küresel salgın nedeniyle geçerliliğini yitirmesini önlemenin bir yolu olarak “merkezi olmayan kamu malları için güçlü finansman”a olan inancını güçlendiriyor. kâr eksikliği. İkinci dereceden fonlama gibi mekanizmaların, özellikle kamu varlıklarını mümkün olan en tarafsız ve merkezi olmayan şekilde finanse etmek için tasarlandığına dikkat çekiyor, ancak eski sistemlerin genellikle daha dikkat çekici projeleri destekleyen popülerlik yarışmalarına dönüştüğünü kabul ediyor.

“Derin finansman” olarak adlandırılan en yeni stratejisi, yapay zeka modellerinin hangi projelerin mali destek alması gerektiği konusunda insanların görüşlerini toplamasını hedefliyor. Bu, bir “bağımlılık grafiği” kullanılarak gerçekleştirilir; böylece katkıda bulunanlar, her projenin diğerlerinin çalışmalarını nasıl tamamladığını anlayabilir. Birden fazla yapay zeka sistemi arasında açık bir rekabet kullanarak, belirli bir eğitim ve yönetim sürecinden kaynaklanan önyargıları en aza indirdiğimizi vurguluyor. Kripto para biriminin toplulukları bu tür yenilikçi çabalar etrafında harekete geçirme potansiyeli konusunda heyecan duyuyor.

Yazarın makalesi sürekli olarak yalnızca savunmacı veya merkezi yaklaşımlara güvenmenin felakete yol açabileceğini vurguluyor. Teknolojik ilerlemeyi yavaşlatmayı veya ekonomik küçülmeyi amaçlayan çabalarla ilgili sorunun iki temel boyutta yattığını savunuyor: Birincisi, araştırmayı tamamen durdurmaya çalışmanın insanlığa büyük maliyetler getireceği ve ikincisi, kötü niyetli aktörleri faaliyetlerini sürdürmekten caydırmayacağı.

Ayrıca, Dünya Sağlık Örgütü’nün hava yoluyla Kovid bulaşmasını ilk başta reddetmesini, büyük kuruluşların ne kadar ciddi hatalar yapabileceğinin bir örneği olarak kullanarak, “çekirdeğe” aşırı derecede bağımlı olan taktiklere karşı da uyarıda bulunuyor. Merkezi olmayan bir yöntemin, merkezin kendisinden kaynaklanan riskleri ele almada daha etkili olacağına kesinlikle inanıyor.

Ethereum’un yaratıcısı, savunucuları teknolojinin kullanımına bağlı olarak hem tehlikeli hem de özgürleştirici olabileceğini kabul etmeye teşvik ederek sözlerini bitiriyor. “Biz insanlar olarak parlayan yıldızız” diye vurguluyor ve küresel işbirliğinin, açık kaynak işbirliğinin ve ilerlemeye yönelik proaktif bir yaklaşımın, süper akıllı yapay zeka, çığır açan aşılar gibi potansiyel ilerlemelerin damgasını vurduğu bir yüzyılda ilerlemek için gerekli olduğunu savunuyor. ve yenilikçi güvenlik teknolojileri.

Daha basit bir ifadeyle Ethereum kurucu ortağı, araçlara erişmenin bize hem kendimizi hem de çevremizi değiştirme gücü verdiğini ve buradaki ‘savunma’ kavramının bunu başkalarının özgürlüklerine tecavüz etmeden yapmak anlamına geldiğini belirtiyor. Ayrıca uzaya çıkarken insanın hayatta kalmasını, özgürlüğünü ve özerkliğini koruyan müreffeh bir 21. yüzyıl inşa etmenin çetin bir görev olduğunu vurguluyor. Ancak başarılı olma yeteneğimize olan güvenini ifade ediyor.

Yazının yazıldığı sırada Ethereum 3.639 dolardan işlem görüyordu.

2025-01-06 16:42