Google yapay zeka süper bilgisayarlarından birinin ayrıntılarını Çarşamba günü yayınladı ve güce aç makine öğrenimi modelleri teknoloji endüstrisinin en sıcak parçası olmaya devam ettiğinden, rakip Nvidia sistemlerinden daha hızlı ve daha verimli olduğunu söyledi.
Sırasında Nvidia Yapay zeka modeli eğitimi ve dağıtımı pazarına %90’ın üzerinde hakim olan Google, 2016’dan beri Tensör İşleme Birimleri veya TPU’lar adı verilen yapay zeka yongaları tasarlıyor ve dağıtıyor.
Google, büyük bir AI öncüsüdür ve çalışanları, son on yılda bu alandaki en önemli gelişmelerden bazılarını geliştirmiştir. Ancak bazıları, icatlarını ticarileştirme konusunda geride kaldığına inanıyor ve dahili olarak şirket, ürünleri piyasaya sürmek ve liderliğini boşa harcamadığını kanıtlamak için yarışıyor, bu şirkette “kırmızı kod” bir durum, CNBC’nin daha önce bildirdiği gibi.
Google’ın Bard veya OpenAI’nin Nvidia’nın A100 yongalarıyla desteklenen ChatGPT’si gibi AI modelleri ve ürünleri, modelleri eğitmek için birlikte çalışmak için çok sayıda bilgisayar ve yüzlerce veya binlerce yonga gerektirir ve bilgisayarlar haftalarca veya aylarca aralıksız çalışır.
Salı günü Google, AI modellerini çalıştırmak ve eğitmek için tasarlanmış özel bileşenlerle birleştirilmiş 4.000’den fazla TPU’dan oluşan bir sistem oluşturduğunu söyledi. 2020’den beri çalışıyor ve OpenAI’nin GPT modeliyle rekabet eden Google’ın PaLM modelini 50 gün boyunca eğitmek için kullanıldı.
Google araştırmacıları, Google’ın TPU v4 adlı TPU tabanlı süper bilgisayarının “Nvidia A100’den 1.2x–1.7x daha hızlı ve 1.3x–1.9x daha az güç kullandığını” yazdı.
Araştırmacılar, “Performans, ölçeklenebilirlik ve kullanılabilirlik, TPU v4 süper bilgisayarlarını büyük dil modellerinin işgücü haline getiriyor” diye devam etti.
Ancak Google araştırmacıları, Google’ın TPU sonuçlarının en son Nvidia AI çipi olan H100 ile karşılaştırılmadığını çünkü daha yeni olduğunu ve daha gelişmiş üretim teknolojisiyle yapıldığını söyledi.
Bir Nvidia sözcüsü yorum yapmaktan kaçındı. MLperf adlı endüstri çapında bir AI çip testinin sonuçlarının ve sıralamalarının Çarşamba günü yayınlanması bekleniyor.
Yapay zeka için gereken önemli miktarda bilgisayar gücü pahalıdır ve sektördeki pek çok kişi, ihtiyaç duyulan bilgisayar gücü miktarını azaltan yeni yongalar, optik bağlantılar gibi bileşenler veya yazılım teknikleri geliştirmeye odaklanır.
Yapay zekanın güç gereksinimleri, Google, Microsoft ve Google gibi bulut sağlayıcıları için de bir nimettir. Amazon, bilgisayar işlemeyi saatlik olarak kiralayabilen ve yeni başlayanlara ilişki kurmaları için kredi veya bilgi işlem süresi sağlayabilen. (Google’ın bulutu ayrıca Nvidia çiplerinde zaman satar.) Örneğin Google, bir AI görüntü oluşturucu olan Midjourney’nin TPU çipleri üzerinde eğitildiğini söyledi.
