Yapay zekaya karşı mektup: Elon Musk ve uzmanlar geliştirmede duraklama çağrısında bulunuyor

CEO'su Twitter, Elon Musk ve kitabıyla ünlü tarihçi İnsanlığın Kısa Tarihi, Yuval Nuh Hararidiğer uzmanların, araştırmacıların ve bilim adamlarının yanı sıra, yapay zekanın güncellenmesi ve geliştirilmesine bir ara verilmesini isteyen bir mektubu imzalamaya karar verdi.

Söz konusu mektubun yazarı Hayat Enstitüsünün Geleceği (Yaşamın Geleceği Enstitüsü, ücretsiz çeviri) geliştirilmesinde bir ara verilmesini tavsiye ediyor. yapay zeka (AI) en az altı aylık olup şeffaftır. Belgenin içeriği hakkında daha fazla bilgi edinin, tam metnin çevirisine bakın ve aşağıdaki konuyla ilgili tartışmalarla güncel kalın.

Yapay zekaya karşı olan mektup yapay zeka hakkında ne söylüyor?

Serbest işler ve yanlış bilgilerin yükselişi, mektupta vurgulanan yapay zeka teknolojileriyle ilgili temel endişelerden ikisi. Metnin içeriği ayrıca aşağıdaki gibi araçlarla gelişimin askıya alınmasını talep ediyor: GPT 4, yolculuk ve benzer yapay zeka çözümlerinin "herkese açık ve doğrulanabilir" olması gerekir.

Yatırımlarla ilgili olarak mektupta ayrıca OpenAI, Microsoft e Google Hükümetlerin ve kamu kurumlarının her yeni adıma ayak uydurmakta ne kadar zorlandıklarını dikkate almadan teknolojik bir yarış içerisindeyiz. Yani belgeye göre yapay zeka sektörü giderek ayak uydurulması zor bir hıza giriyor ve teknolojiyle ilgilenen aktörler bile bunun farkına varıyor.

“Bu duraklama hızla düzenlenemezse hükümetler müdahale etmeli ve bir askıya alma uygulaması başlatmalı”

Gelen mektup Hayat Enstitüsünün Geleceği

O metin Teknoloji üreten ancak doğru değerlendirmeler yapamayan, hatta bu dijital zihinleri kontrol edemeyen yapay zeka laboratuvarlarından da bahsediliyor. Apple'ın kurucu ortağı Steve Wozniak'tan Yoshua Bengio ve Stuart Russell gibi öncü araştırmacılara, eski Google ürün filozofu Tristan Harris'e kadar imzacıların ilgisini çeken şey, bilginin yayılmasının kapsamıyla ilgili sorulardır: yalanlar, insan zihninin değiştirilmesi ve " uygarlığımızın kontrolü”. Belge bu anlamda en iyi yatırım anına da dikkat çekiyor:

"Güçlü yapay zeka sistemleri ancak etkilerinin olumlu olacağından ve risklerinin yönetileceğinden emin olduğumuzda geliştirilmelidir."

Gelen mektup Hayat Enstitüsünün Geleceği

Hayatın Geleceği Enstitüsü ve sorumlu teknoloji

2015 yılında Elon Musk'un yatırımıyla kurulan Hayat Enstitüsünün Geleceği yeni teknolojik gelişmelerle hem insanlık hem de diğer canlılar açısından hayata yönelik olası riskleri ortadan kaldırmayı amaçlamaktadır. Kuruluş yalnızca yapay zekaya önem vermekle kalmıyor, aynı zamanda biyoteknoloji ve nükleer enerji gibi alanlardaki üretimi de izliyor. Enstitünün teknolojik sorumluluğu desteklemeye yönelik bu çabası, dünya çapında hastalıkların ortadan kaldırıldığı ve demokrasilerin güçlendirildiği bir dünya vizyonuna sahiptir.

Hayatın Geleceği'nin eylemleri takdir edildi Birleşmiş Milletler (BM) 2020'de: BM, enstitüyü yapay zekayla ilgili konularda sivil toplumun temsilcisi olarak atadı. Ancak bu yılın başlarında, bu teknoloji gözlemcisinin başkanı Max Tegmark, aşırı sağcı bir medya platformu olan İsveç Nya Dagbladet'e yanlış yönlendirilmiş bir yatırım nedeniyle özür dilemek zorunda kaldı.

Yapay zekanın geliştirilmesinde diğer şirketlerin konumu nedir?

Konsolide şirketler gibi Google e Microsoft mektuba yorum yapmaktan kaçındı Hayat Enstitüsünün Geleceği. İki şirket, endüstriyel üretimler karşısında yapay zeka destekli çözümler sunmaya giderek daha fazla yöneliyor. OpenAI, bunu yaratan şirket ChatGPT. Hatta dönemin en ünlü yapay zekalarından birinin “annesi” Microsoft'tan 10 milyar dolar yatırım aldı. Eş zamanlı olarak Bill Gates tarafından oluşturulan şirket, arama motorunda OpenAI teknolojisini kullanıyor. Bing.

Bu ay tesadüfen Bill Gates bir makale bile yayınladı. Yapay zeka çözümlerinin geleceğe getirebileceği olası etkileri ele aldığı mektup. Google yapay zekaya yatırımlarını sürdürüyor ozanhenüz tam olarak halka açık değil.

Yapay zeka ve GPT-4 hakkında uzmanların endişeleri

Geliştirilmiş olmasına rağmen, araç GPT 4 hala bazı halüsinasyonlarla sonuç veriyor ve zararlı dil kullanan kullanıcılara hizmet edebiliyor. Ancak bu duraklamanın aslında yapay zeka teknolojilerinin sadece zararlarını değil faydalarını da daha iyi anlamak için olması gerektiğine inananlar da var. Bu, Austin'deki (ABD) Texas Üniversitesi'nden araştırmacı Peter Stone'un görüşüdür.

“Bir sonraki [teknolojiyi] geliştirmeye başlamadan önce, [AI'lerin] nasıl düzgün kullanılıp kullanılamayacağı konusunda biraz deneyim kazanmanın faydalı olacağını düşünüyorum. Bu, yeni bir yapay zeka modeli üretip diğerlerinden önce piyasaya sürme yarışı olmamalı.”

Peter Stone

Bu pozisyonun aksine imzacılardan biri olan şirketin kurucusu Emad Mostaque Stabilite AI (yapay zekaya sahip araçlara adanmıştır), Wired'a yapay zeka çözümlerinin toplumun varlığına yönelik olası bir tehdit olduğunu söyledi. Ayrıca bu teknolojik yarışın geleceğinde neler olabileceğini dikkate alarak yatırımların nasıl gözden geçirilmesi gerektiğine de önem verdi.

“Ticari öncelikleri bir kenara bırakıp herkesin iyiliği için biraz ara vermenin, geleceği belirsiz bir yarışa girmek yerine araştırma yapmanın zamanı geldi.”

Emad Camii

Yapay zekaya karşı mektup: tam çeviri

Dev yapay zeka deneylerinde duraklama: açık bir mektup

Tüm yapay zeka (AI) laboratuvarlarını, GPT-4'ten daha güçlü yapay zeka sistemlerine ilişkin eğitimleri en az altı ay süreyle derhal durdurmaları konusunda uyarıyoruz.

İnsanlarla rekabet edebilecek zekaya sahip yapay zeka sistemleri, Cornell Üniversitesi'nin kapsamlı araştırmasının da kanıtladığı gibi, toplum ve insanlık için derin riskler oluşturabilir. Hizalama Sorunu (Brian Christian, 2020), Yapay Zeka Çağında İnsan Olmak (Max Tegmark, 2017) ve bölgedeki gelişmeler, etik, iş piyasası üzerindeki etkisi, varoluşsal riskler hakkındaki diğer çalışmalar ve ayrıca tanınmış yapay zeka laboratuvarları tarafından tanınmaktadır. Asilomar Yapay Zeka İlkelerinde belirtildiği gibi, "Gelişmiş yapay zeka, Dünya üzerindeki yaşamın tarihinde derin bir değişimi temsil edebilir ve dikkatli bir şekilde ve uygun kaynaklarla planlanmalı ve yönetilmelidir." Ne yazık ki, son aylarda yapay zeka laboratuvarlarının hiç kimsenin, hatta yaratıcılarının bile anlayamayacağı, giderek daha güçlü dijital beyinler geliştirmek ve kullanmak için kontrolden çıkmış bir yarışa başladığını görmesine rağmen, bu düzeyde bir planlama ve yönetim gerçekleşmiyor. veya güvenilir bir şekilde kontrol edin. 

Artık günümüzün yapay zeka sistemleri genel görevlerde insanlarla rekabet edebilecek hale geliyor ve kendimize şu soruyu sormamız gerekiyor: Yapmalıyız Makinelerin bilgi kanallarımızı din propagandası ve yalanlarla doldurmasına izin mi vereceğiz? Yapmalıyız Tatmin edici olanlar da dahil olmak üzere tüm işler otomatikleştirilsin mi? Yapmalıyız Sonunda bizi sayı ve zeka düzeyi açısından aşabilecek, bizi eskitebilecek ve yerimize geçebilecek insan dışı zihinler mi geliştirmeliyiz? Yapmalıyız Medeniyetimizin kontrolünü kaybetme riskiyle karşı karşıya mıyız? Bu tür kararlar desteklenmeyen teknoloji liderlerine devredilmemelidir. Güçlü yapay zeka sistemleri ancak etkilerinin olumlu olacağından ve risklerinin yönetileceğinden emin olduğumuzda geliştirilmelidir.. Bu güvenin iyi bir şekilde gerekçelendirilmesi ve sistemlerin potansiyel sonuçlarının büyüklüğüne göre ölçeklendirilmesi gerekmektedir. Üretken yapay zeka üzerine yakın zamanda yayınlanan bir OpenAI görüş belgesi şunu belirtmektedir: "Bir noktada, gelecekte sistemleri eğitmeye başlamadan önce, daha ileri çabalar için bağımsız bir inceleme yapılması önemli olabilir, çünkü hesaplamanın büyüme oranı oluşturmak için kullanılır. yeni [AI] modelleri.” Katılıyoruz. Zaman şimdi. 

Bu nedenle, tüm yapay zeka (AI) laboratuvarlarını, GPT-4'ten daha güçlü yapay zeka sistemlerine ilişkin eğitimleri en az altı ay süreyle derhal durdurmaları konusunda uyardık. Bu duraklama halka açık ve doğrulanabilir olmalı ve tüm önemli aktörleri içermelidir. Eğer böyle bir duraklama hızlı bir şekilde düzenlenemezse, hükümetlerin müdahale etmesi ve bir askıya alma uygulaması başlatması gerekiyor.

Yapay zeka laboratuvarları ve bağımsız uzmanlar, bu duraklamayı, gelişmiş yapay zekaların tasarımı ve geliştirilmesi için üçüncü taraf değerlendiriciler tarafından titizlikle denetlenen ve doğrulanan bir dizi ortak güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için kullanmalıdır. Bu protokoller, bu standartlara göre düzenlenen sistemlerin makul şüphenin ötesinde güvenli olmasını sağlamalıdır; bunun bir örneği, yapay zeka sistemlerinin 'uygun şekilde çalışmasını ve sorumsuz güvenlik riskleri göstermemesini' gerektiren, yaygın olarak benimsenen OECD Yapay Zeka İlkeleridir. O değil Bu, genel olarak yapay zekanın geliştirilmesinde bir duraklama anlamına gelir; ancak yalnızca tehlikeli bir yarıştan, ortaya çıkan yeteneklere sahip, öngörülemeyen, giderek daha büyük 'kara kutu' modellerine doğru bir çıkış anlamına gelir.  

Yapay zeka araştırma ve geliştirme, günümüzün güçlü, son teknoloji ürünü sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır.

Buna paralel olarak, yapay zeka geliştiricileri, sıkı yapay zeka yönetişim sistemlerinin üretimini hızlandırmak için politika yapıcılarla kararlı bir şekilde çalışmalıdır. En azından aşağıdakileri içermelidirler: 

• yapay zekaya adanmış yeni ve yetenekli düzenleyici otoriteler;
• hesaplama kapasitesine büyük katkı sağlayan son derece güçlü yapay zeka sistemlerinin doğrulanması ve izlenmesi; 
• Gerçek dijital zihin modellerini sentetik olanlardan ayırmaya ve bu teknolojilerin sızıntılarını izlemeye yardımcı olacak kaynak ve marka tanımlama sistemleri; 
• gelişen bir sertifikasyon ve denetim ekosistemi; 
• AI sistemlerinden zarar verme taahhüdü;
• Yapay zeka güvenliğine yönelik teknik araştırmalar için yeterince güçlü kamu finansmanı; Bu
• AI'ların neden olduğu ciddi ekonomik ve politik etkilerle (özellikle demokrasiyle ilgili olarak) başa çıkmak için iyi finanse edilen kurumlar. 

İnsanlık yapay zeka ile verimli bir geleceğin tadını çıkarabilir. Güçlü yapay zeka sistemlerini başarılı bir şekilde oluşturduktan sonra artık meyvelerini topladığımız, bu sistemleri herkesin açık yararı için tasarladığımız ve topluma uyum sağlama şansı verdiğimiz bir 'yapay zeka yazını' kutlayabiliriz. Toplum, klonlama, öjeni ve genetik mühendisliği gibi herkes için felaket potansiyeli taşıyan diğer teknolojiler üzerinde 'duraklatma düğmesine bastı'. Burada da aynısını yapabiliriz. Sonbahara acele etmeden uzun bir yapay zeka yazının tadını çıkaralım.

Şunu da görün:

Yapay Zeka ile görseller oluşturmak için Midjourney nasıl kullanılır?

kaynak: Telli | Teknik Crunch | Hayatın Geleceği | Vice Dünya Haberleri

Tarafından gözden geçirildi Glaukon Hayati 29/3/23 tarihinde.