Tom's Hardware'a göre, bir homelab kurucusu yakın zamanda Moonshot AI'nın 2.8 trilyon parametreli Kimi K3 modelini Intel'in ikinci nesil Optane PMem 200 belleğinde, 40 çekirdekli 3. nesil Xeon Scalable CPU ve yalnızca CPU ile çıkarım kullanarak çalıştırdı ve 1-bit kuantizasyon ile saniyede 0.85 token elde etti. Kurucu, Optane DIMM'lerin sürekli çıkarım sırasında aşırı ısı ürettiğini ve her modülün 12-15W güç tükettiğini, bu durumun aktif soğutma olmadan komşu DRAM'leri tehlikeye atabileceğini uyardı. Optane modülleri 83 derece Santigrat'ta kısıtlanıyor ve 85 derecede kapanıyor, oysa DDR4 sunucu belleği 95 dereceye kadar dayanabiliyor. Kurucu, sıcaklıkları yönetmek için çift 12W blower fan kullandı ve performansı artırmak için Optane ile birlikte GPU eklemeyi planlıyor.
Sorumluluk Reddi: Bu içerik yalnızca bilgilendirme amaçlıdır. Yatırım tavsiyesi niteliği taşımaz ve kripto varlık alım satımını teşvik etmeyi amaçlamaz. İçerik, sektörel gelişmeler hakkında bilgi sunmak amacıyla hazırlanmış olup Gate TR tarafından sunulan hizmetlerle doğrudan bağlantılı değildir. Üçüncü taraf kaynaklardan elde edilen bilgiler dikkatle incelenmiş olsa da Gate TR, bu bilgilerde bulunabilecek hata veya eksikliklerden sorumlu tutulamaz. Kripto varlıklar yüksek risk taşır ve önemli fiyat dalgalanmalarına maruz kalabilir. Herhangi bir yatırım kararı vermeden önce finansal durumunuzu ve risk toleransınızı değerlendirmeniz, kendi araştırmanızı yapmanız ve kararlarınızı bağımsız olarak almanız önerilir.
