Yapay zeka Eğer konuya dışarıdan bakıyorsanız; Stable Diffusion ve Midjourney gibi görsel üretim araçları grafik kartı olarak bildiğimiz şeyi kullanır. GPUişlemci olarak bildiğimiz ChatGPT gibi asistanlarla çalıştığını söylüyor. CPU’dan Güç kazandığını düşünebilirsiniz. Her ne kadar günlük tariflerde yaygın olarak düşünülen bu olsa da, durum ne olursa olsun GPU her iki tarafta da önde.
Peki, görselleri ve görselleri kolayca düzenlememizi, sağlam grafiklerle oyun oynamamızı ve 3D tasarımlar yapmamızı sağlıyor. GPU’lar, nasıl oluyor da bahisle pek ilgisiz görünüyor? ses ve metin asistanlarıHayat verebilir mi?
Öncelikle çözmemiz gereken konu CPU ve GPU ayrımıdır.
Genel olarak CPU söz konusu olduğunda i3, i7, Ryzen 5 dizi kastedilmektedir. GPU’ya gelince GTX, RTX, 6600, 7700Ekran kartı serileri şöyle: Ancak bu konuyu anlayabilmek için biraz perde arkasına gitmemiz gerekiyor.
Hem CPU hem de GPU aslında süreç birimleridir. İşlemci Süreç birimi olarak bildiğimiz işlem birimi sıralı işlemleri gerçekleştirir. Bunu çok hızlı yapan CPU’lar hızlı olsalar bile çok büyük bilgi kümeleriyle baş edemezler. Ancak asıl görevleri bilgisayarın çalışmasını sağlamak ve karmaşık işlemleri yürütmek olan bu birimler az sayıda mevcuttur. güçlü çekirdeklereonlar sahip.
diğer taraftan GPU birimleri CPU’lara göre daha küçük ve daha fazla çekirdeğe ev sahipliği yapar. Grafik işlemleri için üretilen bu birimler aynı zamanda paralel hesaplamalar da yapmaktadır. Tabii burada kafanız karışmasın. Az önce CPU’ların tek tek hızlı işlemler gerçekleştirdiğini söylemiştik. GPU’lar, daha yüksek çekirdek sayısının avantajıyla birçok işlemi aynı anda gerçekleştirebilir. Buna hesaplamalar da dahildir.
Ek olarak iki tarafın ortasında hem CPU’yu hem de GPU’yu içeren APU’lar bulunmaktadır.
Bu ayrımı yaptıktan sonra asıl sorumuza gelelim: Yapay zeka eğitimlerinde neden CPU yerine GPU’lar tercih ediliyor?
Yapay zeka araçlarını eğitebilme yeteneği, çok karmaşık süreçlerin ne kadar sürede işlendiğine bağlıdır. Bunun en kısa sürede yapılabilmesi için birçok karmaşık sürecin aynı anda çözülmesi gerekir. GPU’lar ve CPU’lar daha fazla çekirdek Biz de elimizde olduğunu söyledik. Bu, bu birimlerin aynı anda birçok işlemi gerçekleştirmesine olanak sağlar.
Bant genişliği Bu aynı zamanda GPU’ların avantajlı olduğu bir noktadır. Bu üniteler yüksek bant genişlikleri sayesinde birçok işlemi aynı anda gerçekleştirmekte ve bu işlemlere ait bilgileri yüksek hızda işlemektedir. Ortalama bir CPU’nun bant genişliği 50 ila 100 GB/sn’dir, üst düzey bir GPU ise 500 GB/sn’nin üzerine çıkabilir.
Ayrıca sadece bu süreçleri daha hızlı hale getirmek için geliştirildi. Yapay zeka odaklı GPU’lar Ayrıca birde şu var. Bant genişliği ve saat hızı daha sağlam olan bu modeller alışık olduğumuz modellerdir. GTA 5’in açılışı Kartlara benzemeseler de yapay zeka toplama işlemini daha verimli hale getiriyorlar. NVIDIA’nın H100GPU’da bunlardan biri.
Buraya kadar olup biteni anlamayanlar için bu konuya açıklık getirecek çok güzel bir örnek var.
Yapmamız gereken sürecin bu insanları karşıya geçirmek olduğunu düşünelim.
Bu bizim CPU’muz:
Bu bizim GPU’muz:
Rağmen CPU’muz Oldukça gelişmiş olsalar bile bu bireylerin tamamını karşıya geçirmek uzun zaman alacaktır. Elbette bunun nedeni yeterince güçlü olmaması değil, yalnızca süreçleri sıralı hale getirme seçeneğinin bulunmasıdır.
diğer taraftan GPU’muzBu kişilerin (verilerin) tamamını aynı anda aktarabilme kapasitesine sahip olduğundan hem zamandan hem de paradan tasarruf etmemizi sağlar.
Yapay zeka modellerine veri girildiğinde hem GPU hem de CPU kritik roller oynuyor. Bu yüzden birinizin diğerinin olmadan da var olabileceği düşüncesinin aklınızda oluşmasına izin vermeyin. Çünkü CPU’nun önde olduğu alanlarda bile GPU kenarda kalabiliyor.
