Amazon Web Services (AWS) ve NVIDIA, AWS re:Invent etkinliğinde stratejik işbirliklerini büyük ölçüde genişlettiklerini duyurdular. Bu işbirliği, müşterilere en yeni altyapı, yazılım ve hizmetlerle generatif yapay zeka yeniliklerini sunmayı amaçlıyor.
İki şirketin güçlerini birleştirdiği bu işbirliği, NVIDIA’ın en son çok düğümlü sistemlerini, son nesil GPU’larını, CPU’larını ve yapay zeka yazılımlarını AWS’nin Nitro Sistemi gelişmiş sanallaştırma, Elastik Fabric Adaptörü (EFA) bağlantısı ve UltraCluster ölçeklenebilirliği gibi teknolojileriyle bütünleştiriyor.
Genişletilmiş işbirliğinin önemli vurguları şunlardır:
- AWS, NVIDIA GH200 Grace Hopper Superchips’i yeni çok düğümlü NVLink teknolojisi ile sunarak bu süper çipleri barındıran ilk bulut sağlayıcı oluyor.
- NVIDIA GH200 NVL32 çok düğümlü platform, müşterilere binlerce GH200 Superchips ile ölçeklenebilme olanağı tanıyarak süper bilgisayar sınıfında performans sunuyor.
- AWS ve NVIDIA, NVIDIA DGX Cloud’u barındırarak GH200 NVL32 ile hızlandırılmış eğitim için bir hizmet olan AI-training-as-a-service’yi sunmayı planlıyorlar.
- Proje Ceiba süper bilgisayarı, 16.384 NVIDIA GH200 Superchips ve 65 exaflop işleme kapasitesi ile dünyanın en hızlı GPU destekli yapay zeka süper bilgisayarını tasarlamayı amaçlıyor.
- AWS, büyük ölçekli generatif yapay zeka ve HPC iş yükleri için NVIDIA H200 Tensor Core GPU’lar tarafından desteklenen P5e örnekleri dahil olmak üzere üç yeni Amazon EC2 örneği tanıtıyor.
- NVIDIA, AWS’de NeMo Retriever mikroservisi gibi yazılımları tanıtarak, sohbet botları ve özetleme araçları için ve BioNeMo ile ilaç keşfini hızlandırmak için farmasötik şirketler için yazılım inovasyonları sunuyor.
Bu işbirliği, generatif yapay zeka alanında ilerlemeye yönelik ortak bir taahhütü simgeliyor ve müşterilere keskin teknolojilere ve kaynaklara erişim sağlamayı hedefliyor. Amazon’un robotik ve tedarik ekipleri, depoları gerçek dünya uygulamasından önce NVIDIA’nın Omniverse platformunda optimize etmek için içeride bu teknolojiyi kullanıyor.
NVIDIA ve AWS teknolojilerinin bu entegrasyonu, geniş endüstrilerde büyük dil modellerinin ve generatif yapay zeka uygulamalarının geliştirilmesini, eğitimini ve çıkarımını hızlandırmayı amaçlıyor.
