AWS, Trainium2 ve Trainium3 hızlandırıcıları için yerel bir PyTorch arka ucu olan TorchNeuron'u 19 Ekim 2026'da kamu beta sürümüne sunarak, 20 Ekim 2026'da PyTorch Konferansı Kuzey Amerika sırasında kodu açık kaynak olarak yayınladı. Bu sürüm, tamamlanmış AI modellerini çalıştırmak için etkili olan ancak deneysel model geliştirme için zahmetli olan Trainium yongaları üzerinde araştırma eğitimini basitleştirmeyi amaçlıyor. TorchNeuron, Neuron SDK sürüm 2.33.0 ile birlikte gönderildi ve geliştiricilerin, önceki PyTorch/XLA entegrasyonunun gerektirdiği özel programlama kalıplarını ortadan kaldırarak, tek bir kod satırıyla modelleri Trainium donanımına taşımalarını sağlıyor.
TorchNeuron Sadece Trainium2 ve Trainium3'ü Destekliyor
TorchNeuron yalnızca Trainium2 ve Trainium3 hızlandırıcılarını desteklemektedir. Trainium1 ve Inferentia çip ailesi yeni arka uç ile uyumlu değildir. Geliştiriciler, standart PyTorch API'leri ile uyumluluğu koruyarak, bir modeli Trainium'a .to('neuron') gibi tek bir satırla taşıyabilirler. Arka uç, kod çağrıldıkça işlemlerin hemen çalıştığı anlamına gelen istekli yürütmeyi destekler; bu, önce daha büyük bir grafiğe derlenmek yerine doğrudan çalıştırılır. Önceki PyTorch/XLA entegrasyonu, geliştiricilerin eğitim döngüleri boyunca xm.step() gibi çağrılar eklemelerini ve derleyici ağırlıklı bir programlama tarzında çalışmalarını gerektiriyordu.
Neuron SDK 2.33.0 Gözlemci Aracı ve vLLM Güncellemeleri Ekliyor
Neuron SDK sürüm 2.33.0, donanım sağlık sorunlarını tespit etmek için bir araç olan Neuron Observer'ı, daha düşük seviyeli özelleştirme için geliştirilmiş NKI işlevselliğini ve TorchNeuron ile çalışacak şekilde ayarlanmış güncellenmiş vLLM eklentilerini içerir. Trainium, eğitilmiş bir modelin gerçek taleplere yanıt verdiği çıkarım aşamasında kullanılmaktadır. Anthropic, Trainium2 ve Trainium3 üzerinde üretim çıkarımı ve pekiştirmeli öğrenme uygulamaları yürütmektedir.
Anthropic ve Hugging Face Erken Benimseyenler Arasında
AWS, robotik, ses AI ve büyük dil modeli geliştirme alanlarında TorchNeuron'u kullanan 30'dan fazla erken müşterisi olduğunu bildirmektedir. Ses AI alanında çalışan Cartesia ve Deepgram, önceki yapılandırmalarıyla karşılaştırıldığında önemli performans iyileştirmeleri bildirmektedir. Hugging Face, Trainium desteğini benimsemiştir. Güncelleme, ilaç keşfi gibi alanların donanıma daha kolay erişimden faydalanabileceği daha geniş araştırma kullanım durumlarına Trainium'u açmaktadır.
SSS
AWS, 19 Ekim 2026'da neyi başlattı?
AWS, Trainium2 ve Trainium3 hızlandırıcıları için yerel bir PyTorch arka ucu olan TorchNeuron'u 19 Ekim 2026'da kamu beta sürümüne sundu ve 20 Ekim 2026'da PyTorch Konferansı Kuzey Amerika sırasında kodu açık kaynak olarak yayınladı.
Hangi Trainium çipleri TorchNeuron'u destekliyor?
TorchNeuron yalnızca Trainium2 ve Trainium3 hızlandırıcılarını desteklemektedir. Trainium1 ve Inferentia çip ailesi yeni arka uç ile uyumlu değildir.
TorchNeuron'u kullanan erken müşteriler kimlerdir?
AWS, Anthropic, Cartesia, Deepgram ve Hugging Face dahil olmak üzere robotik, ses AI ve büyük dil modeli geliştirme alanlarında TorchNeuron'u kullanan 30'dan fazla erken müşterisi olduğunu bildirmektedir.
