CPU mu GPU/NPU mu: Yapay zeka için bir dizüstü bilgisayar seçerken hangisi daha önemli?

ilerlemesi ile inteligência yapay ve lansmanı AI PC'ler Bilgisayar üreticileri tarafından 2024 yılında konunun teknoloji dünyasında en çok konuşulan konulardan biri olması bekleniyor. NPU'lar Yapay Zeka iş yüklerinin işlenmesinde kilit oyuncular haline geldik, ancak Yapay Zeka etkinliklerini gerçekleştirmek için gerçekten bu özellikle donatılmış bir bilgisayara ihtiyacınız var mı?

daveti üzerine NVIDIA, bir dizüstü bilgisayarın nasıl donatıldığını test ettik özel video kartı AI PC'ler kategorisine girmeyen bir işlemci olmadan bile AI görevlerini yerine getirir. Günlük olarak AI ile çalışanlar için neyin önemli olduğunu aşağıda anlayın: işlemci ou GPU.

Yapay zekalı bilgisayar nedir?

Terim uygulanmaya başlandı Intel ve Microsoft işlemci ailesinin piyasaya sürülmesiyle intel çekirdek ultra. 2023 yılında, Microsoft bir bilgisayarın şu şekilde sınıflandırılması gerektiğini belirtti: AIPC, üç gereksinimi karşılaması gerekir. Onlar:

• Bir anahtarın var Yardımcı pilot etkinleştirmek için inteligência yapay klavyenizde;
• Yapay zekayı çalıştırma yeteneği Yardımcı pilot, içinde mevcut , Windows 11;
• işlemciye sahip olmak NPU en azından ulaşan adanmış 40 TOPLARI (saniyede trilyonlarca işlem)

Uma NPU işlemcinin yapay zeka faaliyetlerine odaklanmış özel bir alanıdır. Uygulamada işlemci, CPU ve GPU'nun ana faaliyetlerine tahsis edilmesi için başka bir çip kazanır. Bu bileşenler NPU'ya destek bile sağlayabilir, ancak yapay zeka faaliyetleri esas olarak NPU'da işlenecektir.

Bu NPU'ya sahip işlemcilerin ayrıca daha iyi enerji verimliliğine sahip olduğu, gerektiğinde performans kaybına gerek kalmadan daha uzun pil ömrü sağladığı da duyuruluyor. Bu satırlar arasındaki en büyük fark Galaksi Kitap3 e Book4tarafından başlatılan Samsung.

Mayıs 2024'te, Microsoft adını alan kendi AI PC kategorisini yarattı Yardımcı Pilot+ PCYapay zeka etkinlikleri için daha yüksek bir TOPS performans gereksinimine sahiptir. Bir olarak kabul edilecek Yardımcı Pilot+ PC, bir bilgisayarın aşağıdaki gereksinimleri karşılaması gerekir:

• En az 16 GB RAM belleğe sahip olun;
• SSD ile en az 256 GB depolama alanına sahip olun;
• En az entegre bir NPU'ya sahip olun 40 TOPS performans;
• Yapay zekaya adanmış bir anahtara sahip olun Yardımcı pilot klavyede;
• Ekranda herhangi bir çentik bulunmuyor.

Bilgisayarlar şu şekilde sertifikalandırılmıştır: Yardımcı Pilot+ PC temelde bilgisayarlara yetişmek için yaratıldılar MacOf Apple. Açıklanan ilk modellerden biri dizüstü bilgisayarlardı yüzey, kendi kendisinden Microsoftişlemcileri olan Aslanağzı X ElitOf Qualcomm. Bu yıl piyasaya sürülen NPU işlemci serilerindeki TOPS performansını görün:

• AMD Ryzen AI 300: 50 TOPS'a kadar performans;
• Intel Ay Gölü: 48 TOP'a kadar performans;
• Aslanağzı X Elit: 45 TOPS'a kadar performans.

TOPS kısaltmasıdır Saniyede Trilyonlarca İşlem veya Saniyede Trilyon İşlem. Bu, NPU'nun işlemciler üzerinde yapay zeka işleme yeteneğini ölçen parametredir. Burada temel kural şu ​​şekildedir: Bir NPU ne kadar fazla TOPS'a sahip olursa, yapay zeka faaliyetlerini yürütmek için o kadar büyük kapasiteye sahip olacaktır. 

Peki önceki defterlerde yapay zeka yok mu?

İşlemci üreticilerinin hesaba katmadığı bir şey var: Özel video kartları zaten AI PC'ler için gerekenin çok üzerinde TOPS performansına sahip ve NPU'su olmayan bilgisayarlarda bile kullanıcılarına yapay zeka görevlerinde daha fazla üretkenlik sunuyor.

Ancak tanımı Microsoft paragraf AI PC'ler e Yardımcı Pilot+ PC'ler AI'da yüksek performansa sahip bu bilgisayarların, tam olarak entegre bir NPU'ya sahip olmadıkları için bu sınıflandırmaları almasına izin vermiyor. Ve burada tartışmaya giriyoruz: NVIDIA iletişim kuruyor: yapay zekaya sahip bilgisayarlar, böyle şirketlerden önce bile mevcuttu Samsung,Lenovo, ASUS ve kendi Microsoft Bu şartlarda yatırım yapmaya başlayın.

Bir kategori oluşturmayı amaçlayan ancak NPU'ya sahip olmayan tanım, güçlü GPU'ya sahip bir bilgisayarın yapay zeka içeren görevlerde kullanılmasını engellemez. Aslında hiçbir şey, özel grafik kartlarına ve NPU olmayan işlemciye sahip bilgisayarlarda yapay zeka özelliklerine sahip uygulamaları çalıştırmanıza engel olamaz.

Yapay Zekalı PC pazarı, NPU'lu ilk dizüstü bilgisayarların piyasaya sürülmesiyle hâlâ başlangıç ​​aşamasındadır, ancak yapay zeka özellikleri ve uygulamaları geliştirme süreci, genel olarak kullanıcıların kullanımına sunulan az sayıda kaynakla küçük adımlar atmaktadır.

bizim Galaxy Book4 Pro incelemesi, işlemcili bir dizüstü bilgisayar Intel Core Ultra 7 ve özel bir GPU olmadan, görüntülü arama özelliklerinde ve enerji verimliliğinde NPU'nun pratik kullanımının daha belirgin olabileceğini belirtmiştik. Ancak bunlar, 2023'ten önce piyasaya sürülen NPU'suz dizüstü bilgisayarlarda da görülebilecek noktalar.

Yapay zeka için grafik kartının (GPU) önemi

Bu konuyu anlamak için, arasındaki farkları anlayalım. işlemci e GPU.

İki bileşen, bilgisayardaki görevlerin işlenmesine hizmet eder ve aralarındaki temel fark, işlemci ve GPU amaçlanan faaliyetlerdir. A işlemci - Neresi Merkezi işlem birimi — işletim sisteminin kendisini ve tüm uygulamalarını çalıştırmak gibi bilgisayarın genel faaliyetlerini gerçekleştirmeye odaklanır. Genellikle bir bilgisayarın “beyni” olarak tanımlanır ve o olmadan çalışmaz bile: web'de gezinmekten e-tablo oluşturmaya kadar uzanır.

A GPU CPU'nun daha karmaşık faaliyetlerle ilgilenirken, grafik faaliyetlerini verimli bir şekilde yürütürken ihtiyaç duyduğu desteği sağlamaya yeterlidir. İngilizce kısaltması Grafik İşleme Ünitesi (ve halk arasında şu şekilde bilinir: Video kartı), GPU, grafik görevlerinde performans sağlamak için birlikte çalışan binlerce daha küçük, daha özel çekirdek aracılığıyla görüntü işlemeyi hızlandırır.

Pek çok işlemci, özellikle de dizüstü bilgisayarlara yönelik olanlar, Entegre GPU, işlemcinin bir parçası. Bu uygulama, daha yoğun grafik işleme gerektirmeyen genel amaçlı PC'ler için uygundur. Ancak oyunlarda, görüntü ve video düzenlemede olduğu gibi yoğun görüntü işlemeye sahip olduğumuzda, Özel GPU (ya da Ayrık GPU) büyük fark yaratır.

GPU, gücünün tamamını oyunlar ve hatta yüksek kaliteli içerik oluşturma gibi belirli görevlere yönlendirebilir; bu da işlem gücünü artırır ve kurulduğu bilgisayarda sağlam etkinliklerin yürütülmesini kolaylaştırır ve bu türde daha fazla hız ve verimlilik sağlar. görev.

Peki neden yapay zeka için GPU'yu kullanalım? NVIDIA üç nedene dikkat çekiyor:

• GPU'lar paralel işlemeyi kullanır;
• GPU sistemleri süper bilgi işlem seviyelerine ölçeklenebilir;
• GPU'lar için yapay zeka yazılım geliştirmesi birleştirildi.

Faaliyetler inteligência yapay yüksek düzeyde özel hesaplamalar gerektirir. Özel GPU'lar, talimatları toplu olarak işleyerek ve çok miktarda veriyi işleyerek, iş yüklerini CPU'nun yeteneklerinin ötesinde hızlandırabilir. Daha derine inerek, NVIDIA'nın kendisi şunu belirtmektedir: Özel kartlı bir dizüstü bilgisayara yatırım yapmak, entegre NPU'lu bir modele yatırım yapmaktan daha ilgi çekicidir.

Yapay zeka etkinlikleri için özel GPU'ların önemine bir örnek ChatGPT: GPU platformlarını temel alan, yazan, sorun çözen ve hatta görüntü oluşturan ünlü içerik oluşturma botu.

A OpenAI Geniş dil modelinin 100 milyondan fazla kişi tarafından kullanılabilmesi için NVIDIA ile ortaklığa girdi. En son bilgi şu ki, GPT 4, şimdi tarafından güncellendi GPT-4o, matematiksel yoğunluğunun bir ölçüsü olan trilyondan fazla parametreye sahipti; 100'de popüler bir Yüksek Lisans'ta 2018 milyonun altındaki parametreden bir sıçrama, GPU'ların kullanılmasıyla mümkün oldu.

Bununla birlikte, içerik üretimiyle çalışan, çok fazla video görüşmesi yapan ve hatta oyun oynamayı çok seven biriyseniz, daha iyi performans gösterebilmek için kesinlikle yapay zeka kaynaklarına ihtiyacınız olacaktır. Ve bu her şey için geçerli:

• Dış gürültüyü azaltmak ve arka planları bulanıklaştırmak için görüntülü arama efektleri;
• Teknolojiye erişime sahip olun DLSS e Işın izleme;
• Fotoğrafları daha hızlı açabilmek;
• Video içeriğinin oluşturulması (dikey veya yatay);
• Görüntüleri doldurmak, yükseltme yapmak ve hatta video formatını dönüştürmek için bazı yapay zekaların kullanılması;
• İçeriği daha kısa sürede dışa aktarabilme.

Grafik kartı kullanmanın en büyük kazancı yapay zeka görevlerini daha kısa sürede gerçekleştirmektir. daveti üzerine NVIDIA, sonuçları öğrenmek ve kendi sonuçlarınızı çıkarmak için AI etkinlikleri için GPU ve CPU/NPU kullanımını karşılaştıran aşağıdaki testleri izleyin.

GPU ile GPU arasındaki karşılaştırmalar Yapay zeka için CPU/NPU

Şimdi GPU'nun AI görevlerini gerçekleştirmede bu amaç için özel olarak oluşturulan NPU ile nasıl karşılaştırıldığını karşılaştıralım. Metodolojiyi ve test sonuçlarını kontrol edin.

Testleri nasıl yapıyoruz?

Bu testleri gerçekleştirmek için daha iyi performans sunmak üzere GPU'yu kullanan çeşitli uygulama ve oyunları inceleyeceğiz. A NVIDIA, ortaklığıyla Avell, not defterini ödünç verdim A65 İYON işlemcili 9. Nesil Intel Core i12900-12HX, özel bir video kartıyla NVIDIA GeForce RTX 4060 ve DDR16 tipi 8 GB RAM (iki adet 5 GB çubuğa bölünmüş).

Maksimum performans sağlamak için dizüstü bilgisayarı elektrik prizine takıyoruz. Daha sonra, NPU olmadan bile yapay zeka etkinliklerinin aynı performansı gösterip göstermeyeceğini görmek için kaynak performansını analiz ettik. Test için video çözünürlüğü 2560×1600 ve yenileme hızı 240Hz'e ulaştı.

Video kartı RTX 4060 Dizüstü bilgisayarda bulunan bilgisayar saniyede 233 trilyon işlem gerçekleştiriyor. Karşılaştırma için NVIDIA dizüstü bilgisayarlar için RTX 40 serisindeki tüm modellerin işletim numaralarına bakın:

• RTX 4050: 194TOPS performans;
• RTX 4060: 233 TOPS performans;
• RTX 4070: 321 TOPS performans;
• RTX 4080: 521 TOPS performans;
• RTX 4090: 686 EN ÜST performans.

Dizüstü bilgisayar 500 GB NVME SSD ile donatılmıştır. Cihazın en eksiksiz sürümüne sahip olması için tüm işletim sistemi güncellemelerini gerçekleştirdik, aynı şey GPU sürücüleri için de geçerli.

RTX'le sohbet et

Bu, tarafından geliştirilen kişisel bir asistandır. NVIDIA gelecekte aşağıdaki gibi seçenekler için ilginç bir rakip olabilir: Yardımcı pilotOf Microsoft. En ilginç olanı, yerel olarak yalnızca özel NVIDIA grafik kartlarına sahip bir dizüstü bilgisayar veya masaüstü bilgisayarda çalışmasıdır.

Bir bilgi düzenleyici olarak en iyi şekilde çalışır, ancak bilgisayarınızın depolama alanında kayıtlı dosyaları okuyabilir ve bu, özetlere erişmek isteyenler için çok yardımcı olabilir.

Bu uygulamayı hiç kullanmadıysanız, sıfırdan eğitmeniz gerekeceğini, böylece en iyi özelliklerin uzun vadede görüleceğini unutmamakta fayda var. Ancak yerel olarak ve internet bağlantısına ihtiyaç duymadan çalışan kişisel bir asistana sahip olmanızı sağlayan bir uygulamadır.

NVIDIA Tuval

Bu, fareyle çizim yapmayı, ekrana dokunmayı ve hatta beyaz tahtayı kullanarak kalemle çizim yapmayı sevenler için özel bir uygulamadır. Canvas ile sanatçı olmanıza gerek yok: programın ayrıntılı bir görüntü oluşturması için basit şekillere sahip ve hiçbir ayrıntı içermeyen bir çizim oluşturmanız yeterli. Uygulama yalnızca özel kartlara sahip bilgisayarlarda veya dizüstü bilgisayarlarda çalışır. NVIDIA, yalnızca NPU'ya sahip bilgisayarlarda kullanılamaz.

En ilginç olanı, yerel işlemcili özel video kartı sayesinde sonuçların gerçek zamanlı olarak görülebilmesidir. Karalamalarınıza hayat vermenin yanı sıra, çiziminizi tek dokunuşla tamamen değiştirebilirsiniz.

Sonucun ekranda görünme süresi bir saniyeden kısa olup, tema değişikliği de saniyenin birkaç binde biri kadar bir sürede gerçekleşmektedir. Çizimleri tamamladığınızda, onu bir düzenleme uygulamasına aktarın ve çalışmanızı tamamlayın.

NVIDIA Yayını

Bu makale kapatılana kadar bir NPU'nun yapabilecekleriyle karşılaştırmaya en çok izin veren uygulamalardan biridir. Daha önce de belirttiğimiz gibi Bu uygulama hakkında özel makaleHem ses hem de görüntüdeki gürültüyü azaltarak çok sayıda görüntülü görüşme ve canlı yayın yapanlar için harika bir yardımcı olarak çalışıyor.

2023'te piyasaya sürülen NPU'lu işlemcilerin kullanımına bakıldığında her şey hala çok basit. Yapay zeka faaliyetlerine odaklanan çipler, arka planı bile bulanıklaştırabilir ve otomatik odaklama gerçekleştirebilir, ancak bundan başka bir şey yapamaz. NVIDIA Broadcast'te bulunan özelliklerden gürültü azaltma, yerel arka plan değiştirme ve hatta skeç kullanımı yoktur.

Bununla birlikte, bu bir gerçektir: NVIDIA YayınıYalnızca NVIDIA grafik kartına sahip dizüstü ve masaüstü bilgisayarlarda çalışan .

Odaklanma

Bu, aşağıdakileri kullanan araçtır Kararlı Difüzyon İnternete ihtiyaç duymadan bilgisayarda yerel olarak görüntü oluşturmanın temeli olarak. Windows Copilot ve ChatGPT'nin artık görüntü oluşturup oluşturamayacağını merak ediyor olabilirsiniz, değil mi? Evet, yapabilirler ancak bu araçların çalışması için yine de internet bağlantısına sahip olmak gereklidir. Fooocus. "Güneşli bir günde sahilde bir fil" komutuyla oluşturulan şu fotoğrafa bakın:

Dizüstü bilgisayarlarda ve özel grafik kartına sahip bilgisayarlarda çalışacak şekilde geliştirilen bu uygulama, GPU'yu temel alarak çalışır ve kullanmak için interneti devre dışı bırakabilirsiniz. Ve görüntüler etkileyici: 57 saniyede, tamamı yerel olarak yapılmış, gerçekçiliğe yakın yüksek kaliteli fotoğraflar alıyoruz. Bakmak:

Her ne kadar yalnızca yapay zeka faaliyetlerine odaklanmış bir çipe sahip olsalar da, 2023 NPU'lu işlemcilerin yerel işlemleri gerçekleştirmek için hâlâ daha fazla performansa ihtiyaçları var. Kim bilir belki de bu durum lansmanla değişir. Yardımcı pilot + PC standardı Microsoft'tan, ancak geleceğin cevaplarını bekleyelim.

Procyon

NPU ile test yapmak şu an için biraz zor çünkü bu teknolojiyi uygulamaya koymanın ilk aşamasında olduğumuz için bu özellik için optimize edilmiş uygulamalar hala az. Ancak, aracılığıyla Yapay Zeka Karşılaştırmalı Vizyon da ProcyonHem GPU'larda hem de NPU'larda AI işlemeyi ölçebildiği için farkı fark etmek mümkün oldu.

Başlangıç ​​olarak, Galaxy Book4 Ultra, işlemcili Intel Core Ultra 92023'te piyasaya sürülen ve özel bir NPU ile bu başarıya ulaştı 494 puan.

zaten Avell A55 ION Grafik kartını yapay zeka faaliyetleri için kullanırken bundan daha fazlasını elde ettik. Onlar 539 noktalarıneredeyse bir performans %10 daha yüksek. Aşağıdaki fotoğraf, dizüstü bilgisayar yüksek performans modundayken fişe takılıyken elde edilen sonuçları göstermektedir.

Dolayısıyla bu basit kıyaslama bize, 200 TOPS'un üzerine çıkan bir grafik kartının, NPU aracılığıyla 50 TOP'un altında performansa sahip bir işlemciden daha ilgi çekici olduğunu gösteriyor.

Adobe Kaynakları

Burada bariz bir şeyle karşı karşıyayız: Photoshop ve Lightroom Gürültüyü gidermek için filtreler, fotoğrafları siyah beyaza renklendirme ve diğerleri gibi yalnızca özel video kartlarına sahip dizüstü bilgisayarlarda çalışır.

Video kartlarıyla NVIDIAerişimi olan Photoshop kullanabilir Sinir Filtreleriyüz ifadelerinin, aydınlatma yönünün değiştirilmesine ve hatta insanların daha genç (veya daha yaşlı) görünmesine olanak tanır. Bunların hepsi yapay zeka aracılığıyla, ancak grafik kartı desteğiyle ve bir NPU'ya gerek kalmadan gerçekleşiyor.

Bazı araçlar, örneğin Adobe Ateşböceği ou Üretken Dolgu (Üretken Doldurma)doğrudan Adobe sunucularından (ayrıca ilgili şirketlerin Windows Copilot ve ChatGPT'sinden) çalıştırın.

Başka bir deyişle: NPU'lu bir bilgisayara sahip olmak, görüntü düzeltme araçlarına erişmenize yardımcı olabilir, ancak yerel işleme nedeniyle daha fazla günlük üretkenlik için özel bir video kartına sahip olmak daha önemlidir.

Sonuç

Bu karşılaştırmanın sonuna gelindiğinde şunu anlamak kolaydır: Bir dizüstü bilgisayar veya bilgisayar özel video kartı bir dizüstü bilgisayara göre daha fazla yapay zeka performansına sahip Özel NPU, AI PC olarak adlandırıldı. Ve bunun nedenleri çoktur.

İlk olarak, video kartlarında bir en yüksek TOPS sayısı NPU'lardan daha iyi performans göstererek bazı AI uygulamalarının yerel olarak ve internet bağlantısına ihtiyaç duymadan çalışmasına olanak tanır. Bu, çeşitli görevlerde faydalıdır: metin ve görüntü oluşturma, fotoğraf düzeltme, görüntülü arama efektleri ve hatta Ray Tracing ve DLSS gibi özellikler aracılığıyla oyunlarda.

GPU'lu bilgisayarlara fayda sağlayan bir diğer faktör de yüksek uygulamaların ve işlevlerin kullanılabilirliği bu modeller için. NVIDIA'nın kendi özel uygulamalarına ek olarak, teknoloji pazarındaki büyük oyuncular, özel GPU'ların yüksek performansından yararlanmanın yollarını zaten geliştirdiler (ve hala geliştirmeye devam ediyorlar).

NPU'lar yapay zeka yeteneklerine geniş erişim vaat ediyor, ancak bu içeriğin yayınlandığı tarihte yalnızca görüntülü arama efektlerindeki performanslarını test etmek mümkündü. Yeni NPU işlemcilerin test edilmesi için hâlâ uygulama eksikliği var ancak çok sayıda yeni uygulamanın ortaya çıkmaya başlayacağına dair umut var.

Öte yandan NPU ile işlenmiş olanlar (ister üretici olsun, ister üretici olsun) ile ilgili çok olumlu bir nokta; Qualcomm, Intel ou AMD) onların bir daha düşük enerji harcaması, prizden uzakta daha fazla zamana ihtiyaç duyanlar için vazgeçilmez bir şey. Pil testlerimiz Galaxy Book4 Ultra Önceki nesillerle karşılaştırıldığında inanılmaz bir şey olan altı saatlik bir kullanım gösterdiler.

Özel GPU'lu dizüstü bilgisayarlar sundukları performans düzeyi için daha fazla enerjiye ihtiyaç duyar, bu nedenle daha fazla pil tüketir ve prizlerden uzakta geçireceğiniz süreyi kısıtlar.

Dolayısıyla iki dizüstü bilgisayar türü arasındaki seçim şu sorunun cevabına bağlıdır: Daha fazla enerji kullanırken yüksek yapay zeka performansı sunacak bir dizüstü bilgisayara mı ihtiyacınız var, yoksa daha fazla güç özerkliğine ve daha az yapay zeka performansına sahip bir modeli mi tercih ediyorsunuz? Aslında bu sorunun cevabı büyük ölçüde ne tür bir kullanıcı olduğunuza bağlı olacaktır.

Yapay zeka kaynaklarını çok fazla kullanmayan biriyseniz ve bir not defterine sahip olmayı tercih ediyorsanız az enerji kullanır, seçim bir not defteridir NPU'ya sahip işlemci. Şimdi eğer ihtiyacın varsa yüksek yapay zeka görev işleme Günlük yaşamınızda en iyi öneri, bir PC'yi tercih etmenizdir. Özel GPU.

Konuyu anladınız mı? En sevdiğiniz tür hangisi? Özel GPU veya entegre NPU ile mi? Bize söyle yorumlar!

Bende gör

NVIDIA, grafik kartlarına sahip dizüstü bilgisayarların daha güçlü olduğunu söyleyerek AI bilgisayarları eleştiriyor

10 trilyon R$ değerindeki şirket NVIDIA kimdir?

NVIDIA, grafik kartlarına sahip dizüstü bilgisayarların daha güçlü olduğunu söyleyerek AI bilgisayarları eleştiriyor

10 trilyon R$ değerindeki şirket NVIDIA kimdir?

Bilgi ile: Saf Depolama Alanı l Analitik Vidhya l Puget Sistemleri l ASUS l Soğuk Patlama l Otomatik Masa l bilgisayar Dünyası l Quora l NVIDIA

Tarafından gözden geçirildi Glaukon Hayati 18/6/24 tarihinde.