Intel, NVIDIA modelinden %3'ye kadar daha hızlı bir yapay zeka çipi olan Gaudi 50'ü duyurdu

A Intel açıklandı, bu Salı (9), Intel Gaudi 3, en küçüğün Yapay zeka hızlandırıcı büyük ölçekli yapay zeka hesaplamasını hedefliyor. 5 nanometrelik bir süreç kullanılarak üretilen lansman, önceki nesle (Gaudi 2) kıyasla daha iyi enerji verimliliği ve daha fazla işlem gücü sunuyor.

Intel Gaudi 3

Göre şirket, sunulan Intel Gaudi 3 olay sırasında Intel Vizyon 2024 ile yeni seri, önceki nesle göre 4 kata kadar daha iyi hesaplamalı yapay zeka performansının yanı sıra bellek bant genişliğinde 1,5 kat artış ve ağ bant genişliğinde 2 kat artış sağlıyor. Artışla birlikte şirketin çözümü, büyük ölçekli Üretken Yapay Zeka altyapısı için piyasadaki birkaç alternatiften biri olarak ortaya çıkıyor.

Intel Gaudi 3, fiyat performansı, sistem ölçeklenebilirliği ve zaman-değer avantajının etkileyici bir kombinasyonunu sunan GenAI alternatifi olarak öne çıkıyor.

Justin Hotard, Intel Genel Müdür Yardımcısı ve Veri Merkezi ve Yapay Zeka Grubu Genel Müdürü

Cips Gaudi 3 sahip olmak 64 Tensör İşleme Çekirdeği (TPC) AI için özelleştirilmiştir ve tamamen programlanabilir. 8 Matris Çarpma Motoru (MME)Bu, heterojen hesaplamalı işlemlerde mükemmel performansla sonuçlanır. Her MME yardımcı işlemcisi 64 bin paralel operasyonu yürütebilecek kapasitedeDerin Öğrenme algoritmaları için gerekli olan karmaşık matris işlemleriyle başa çıkma yeteneğini garanti eden bir özelliktir.

Intel ayrıca hızlandırıcının da altını çiziyor Intel Gaudi 3 Yapay zekaya erişilebilirliği ve üretken yapay zeka projelerinin deneysel aşamalardan tam ölçekli uygulamaya geçişini hızlı bir şekilde genişletmeyi amaçlayan finans, üretim ve sağlık hizmetleri gibi çok çeşitli alanlardan şirketlere hizmet vermeyi vaat ediyor.

Şirket, çözümün bu gereksinimleri karşılamasını ve aynı zamanda topluluk tabanlı açık yazılım ve endüstri standardı açık Ethernet aracılığıyla çok yönlülük sunarak şirketlerin yapay zeka sistemlerini ve uygulamalarını esnek bir şekilde ölçeklendirmelerine yardımcı olmasını sağlıyor.

Başlıca öne çıkanlar arasında Intel Gaudi 3 Hala var:

• Yapay zekaya özel bilgi işlem motoru: Çözüm, yüksek derecede hesaplama verimliliğine olanak tanıyarak onları, derin öğrenme algoritmaları için temel olan bir hesaplama türü olan karmaşık matris işlemlerini yönetmede ustalaştırıyor. Bu benzersiz tasarım, paralel yapay zeka operasyonlarının hızını ve verimliliğini artırır ve FP8 ve BF16 dahil olmak üzere birden fazla veri türünü destekler;
• LLM Kapasite Gereksinimleri için Bellek Artışı: 128 gigabayt (GB) HBMe2 bellek kapasitesi, 3,7 terabayt (TB) bellek bant genişliği ve 96 megabayt (MB) entegre statik rastgele erişim belleği (SRAM), büyük GenAI veri kümelerinin daha az sayıda Intel Gaudi 3'te işlenmesi için yeterli bellek sağlar; özellikle kullanışlıdır büyük dil ve çok modlu modellerin sunulması, böylece iş yükü performansının ve veri merkezi maliyet verimliliğinin artması;
• Enterprise GenAI için verimli sistem ölçeklendirme: Her bir Intel Gaudi 200 hızlandırıcıya yirmi dört adet 3 gigabit (Gb) Ethernet bağlantı noktası entegre edilerek esnek, açık standartlı ağ iletişimi sağlanır;
• Geliştirici Verimliliği için Açık Endüstri Yazılımı: Intel Gaudi yazılımı, PyTorch çerçevesini entegre eder ve günümüzün GenAI geliştiricileri için en yaygın yapay zeka çerçevesi olan kucaklaşan yüz topluluğuna dayalı optimize edilmiş modeller sunar. Bu, GenAI geliştiricilerinin kullanım kolaylığı, üretkenlik ve modellerin farklı donanım türleri arasında taşınabilirliği için yüksek düzeyde soyutlamayla çalışmasına olanak tanır.

Yapay zeka pazarı için AMD ve NVIDIA ile savaşın

lansmanı Intel gibi diğer üreticilerle olan anlaşmazlığı yoğunlaştırıyor AMD e NVIDIA, ikincisi yakın zamanda duyurdu H200, HPC ve Yapay Zeka segmentini hedefleyen GPU. bir AMD, buna karşılık, yakın zamanda şunu duyurdu: Endüstriyel uygulamalara yönelik gömülü sistemler için Ryzen Embedded 8000 CPU. 

Şu anda endüstride, özellikle bilgisayarla görme ve Büyük Veri işleme alanında birçok yapay zeka aracı zaten kullanılıyor. Bununla birlikte üreticiler, yapay zekanın çok çeşitli alanlarda daha fazla alana hakim olmayı vaat ettiği yeni bir bilgi işlem nesline şimdiden hazırlanıyor.

Kullanılabilirlik

Hızlandırıcı Intel Gaudi 3 2024 yılının ikinci çeyreğinden itibaren orijinal ekipman üreticilerinin (OEM) kullanımına standart konfigürasyonlarda sunulacak. Dikkate değer ortaklıklar arasında Dell Teknolojileri, HPE, Lenovo ve SupermicroYeni hızlandırıcıların kullanıldığı çözümler üçüncü çeyrekte pazara sunuldu.

Şunu da görün:

Qualcomm RB3 Gen 2, 10 kat daha fazla yapay zeka performansıyla piyasaya sürüldü. Tüm lansman ayrıntılarına göz atın.

Kaynaklar: Intel [1] [2].

Tarafından gözden geçirildi Glaukon Hayati 9/4/24 tarihinde.