IT UPDATE » เดลล์ เทคโนโลยีส์ ขยาย Dell AI Factory ด้วย NVIDIA ช่วยให้ใช้งาน AI ได้เร็วราวกับติดเทอร์โบ

เดลล์ เทคโนโลยีส์ ขยาย Dell AI Factory ด้วย NVIDIA ช่วยให้ใช้งาน AI ได้เร็วราวกับติดเทอร์โบ

27 พฤษภาคม 2024
126   0

เดลล์ เทคโนโลยีส์ ขยายศักยภาพ Dell AI Factory ด้วย NVIDIA เสริมความล้ำหน้าทั้งในส่วนเซิร์ฟเวอร์ใหม่ เอดจ์ เวิร์กสเตชัน โซลูชันและบริการต่างๆ เพื่อช่วยให้นำนวัตกรรม รวมถึง AI ไปใช้งานได้อย่างรวดเร็ว

“องค์กรต่างๆ กำลังเคลื่อนไหวอย่างรวดเร็วเพื่อคว้าโอกาสจาก AI  จึงเป็นเหตุผลที่ทำให้การร่วมมือกับ NVIDIA มีความสำคัญมาก” ไมเคิล เดลล์ ผู้ก่อตั้งและซีอีโอของ เดลล์ เทคโนโลยีส์ กล่าว “การขยาย Dell AI Factory ด้วย NVIDIA ยังคงเป็นภารกิจร่วมกันของเรา ซึ่งเรากำลังช่วยให้องค์กรต่างๆ นำ AI ไปใช้งานได้ง่าย เพื่อให้องค์กรเหล่านี้สามารถก้าวสู่การปฏิวัติทางเทคโนโลยีได้อย่างเต็มขั้น”

“Generative AI ต้องอาศัยโครงสร้างพื้นฐานการประมวลผลรูปแบบใหม่ เพื่อใช้เป็นโรงงาน AI ที่สร้างความฉลาด” เจนเซ่น หวง ผู้ก่อตั้งและซีอีโอของ NVIDIA กล่าว “NVIDIA และ Dell กำลังมอบบริการ Dell AI Factory ด้วย NVIDIA อย่างเต็มรูปแบบ ครอบคลุมทั้งเรื่องการประมวลผล เครือข่าย และซอฟต์แวร์ ที่ช่วยให้ใช้ copilots โปรแกรมช่วยเขียนโค้ด ระบบให้บริการลูกค้าผ่านออนไลน์ได้แบบเสมือนจริง (virtual customer service agents) รวมถึงระบบ digital twins ในอุตสาหกรรมสำหรับองค์กรดิจิทัล”

Dell AI Factory with NVIDIA เปลี่ยนข้อมูลธรรมดาให้เป็นข้อมูลเชิงลึกพร้อมมอบผลลัพธ์

Dell AI Factory with NVIDIA ผสานรวมสายผลิตภัณฑ์ด้าน AI ชั้นนำของเดลล์ เข้ากับซอฟต์แวร์ NVIDIA AI Enterprise ที่ใช้ GPU NVIDIA Tensor Core โครงสร้างการเชื่อมต่อเครือข่าย NVIDIA Spectrum-X Ethernet และ NVIDIA Bluefield DPUs ทั้งนี้ ลูกค้าสามารถซื้อความสามารถแบบผสมผสานที่ตรงต่อความต้องการ หรือโซลูชันในชุดสมบรูณ์เพื่อเริ่มใช้ AI สำหรับกรณีการใช้งานที่ต้องการเร่งประสิทธิภาพให้เร็วขึ้น เช่น RAG, การฝึกโมเดล (model training) และการอนุมาน หรือการทำinferencing  ความล้ำหน้าของ Dell AI Factory with NVIDIA ช่วยองค์กรในเรื่องต่อไปนี้

ใช้พลังการประมวลผลขั้นสูงเพื่อรองรับการใช้งาน AI ในสเกลใหญ่

• เซิร์ฟเวอร์ Dell PowerEdge XE9680L ใหม่ ให้ประสิทธิภาพสูงพร้อมรองรับ GPU สถาปัตยกรรม NVIDIA Blackwell 8 ด้วยตัวเครื่อง 4U ในขนาดที่เล็กลง โดยเป็นเซิร์ฟเวอร์ที่ให้ความหนาแน่นสูงสุดในการขยายแร็คสำหรับ GPU NVIDIA Blackwell ตามขนาดมาตรฐานอุตสาหกรรม ให้ความหนาแน่นของ GPU มากขึ้น 33% ต่อแร็ค โดยให้พื้นที่ในการขยายมากถึง 50% สำหรับ I/O และ throughput ที่เพิ่มขึ้น

การระบายความร้อนด้วยของเหลวโดยตรง (DLC) ช่วยเพิ่มประสิทธิภาพโดยรวม ด้วยความสามารถในการระบายความร้อนมากขึ้นสำหรับ CPU และ GPU ซึ่งเซิร์ฟเวอร์ PowerEdge XE9680L ได้รับการออกแบบมาเพื่อให้สามารถบำรุงรักษาได้ง่าย และพร้อมใช้งานได้อย่างเต็มรูปแบบ เพราะมีการตั้งค่าการใช้งานขั้นสูงมาจากโรงงานเพื่อรองรับการขยายแร็คและติดตั้งใช้งานในสถานที่ได้ทันที

นอกจากนี้ เดลล์ ยังเสนอโซลูชัน rack-scale แบบ turnkey ที่ให้ความหนาแน่นมากที่สุดและให้ประสิทธิภาพพลังงานมากที่สุดในอุตสาหกรรม ช่วยเร่งการใช้ GPU ขนาดใหญ่ได้อย่างรวดเร็ว ให้ทางเลือกการใช้งานได้หลายรูปแบบ ไม่ว่าจะดีไซน์ที่ระบายความร้อนด้วยอากาศที่รองรับ GPU 64 ตัวในแร็คเดียว หรือรูปแบบที่ระบายความร้อนด้วยของเหลวที่มี GPU Blackwell NVIDIA 72 ตัวในแร็คเดียว

เร่งการนำแอปพลิเคชัน AI มาใช้ได้เร็วขึ้นด้วย Dell NativeEdge and NVIDIA

• Dell NativeEdge เป็นเครื่องมือประสานการทำงานร่วมกับเอดจ์ตัวแรก ที่ช่วยให้ใช้ซอฟต์แวร์ NVIDIA AI Enterprise ได้แบบอัตโนมัติ ช่วยให้นักพัฒนาและผู้ดำเนินงาน IT สามารถใช้แอปพลิเคชัน AI และโซลูชันที่เอดจ์ได้อย่างง่ายดาย ช่วยให้บรรดาธุรกิจตั้งแต่ผู้ผลิตตลอดจนผู้ค้าปลีกสามารถวิเคราะห์ข้อมูลที่เอดจ์ได้อย่างรวดเร็วและแม่นยำด้วยการใช้ต้นแบบ Dell NativeEdge ใหม่ที่ครอบคลุมการวิเคราะห์วิดีโอ NVIDIA Metropolis  และความสามารถด้านการพูดและแปลของ NVIDIA Riva รวมถึงไมโครเซอร์วิส NVIDIA NIM inference

พัฒนาและใช้แอปพลิเคชัน AI ได้ง่ายขึ้นและเร็วขึ้น ได้รับคุณค่าเร็วขึ้น

• โซลูชัน Dell Generative AI Solutions for Digital Assistants ใหม่ช่วยให้ใช้งานระบบผู้ช่วยดิจิทัลได้เร็วขึ้น โดยช่วยให้ผู้ใช้ได้ประสบการณ์ในการให้บริการที่ตรงความต้องการได้ด้วยตัวเอง ด้วยการใช้โซลูชันเต็มรูปแบบของ Dell และ NVIDIA โดย Implementation Services for Digital Assistants ซึ่งเป็นบริการติดตั้งเพื่อใช้งานผู้ช่วยดิจิทัล จะช่วยให้องค์กรออกแบบ วางแผน ทดสอบ และปรับขยายการใช้โซลูชันได้อย่างเหมาะสมได้ด้วยตัวเอง

• โซลูชัน Dell AI Factory with NVIDIA ช่วยให้องค์กรสามารถสร้างสภาพแวดล้อม AI ได้อย่างรวดเร็วสำหรับกรณีการใช้งานที่หลากหลายด้วยการปรับใช้ระบบอัตโนมัติอย่างเต็มรูปแบบซึ่งเป็นการวางวิศวกรรมร่วมกับ NVIDIA โดยระบบอัตโนมัติเต็มรูปแบบจะช่วยลดเวลาลูกค้าได้สูงสุดถึง 86%  และเมื่อใช้ร่วมกับ NVIDIA Inferencing Microservices (NIMs) ก็จะช่วยลดเวลาโดยรวมไปได้อีกในการทำอนุมานเพื่อหาข้อสรุป หรือการทำ inferencing

• บริการ Dell Accelerator Services ใหม่ สำหรับ RAG บนเวิร์กสเตชัน AI ช่วยลดระยะเวลาการพัฒนา AI และช่วยให้ใช้แอปพลิเคชัน AI ได้ผลดียิ่งขึ้น ด้วยโมเดลภาษาขนาดใหญ่ที่จำลองให้ตรงต่อความต้องการ ด้วยการใช้ RAG บนเวิร์กสเตชัน Dell Precision พร้อมด้วยชุดเครื่องมือ  เพื่อทำการสร้างต้นแบบเพื่อทดสอบความเป็นไปได้ในสภาพแวดล้อมที่ปลอดภัยได้อย่างรวดเร็ว

“การวิจัยของเราพบว่า หลายองค์กรต้องการให้ระบบไอทีใช้งานง่าย แต่ยังประสบปัญหาอยู่ ซึ่งแม้ว่า AI จะให้ความเรียบง่ายในการใช้งานได้ก็ตาม แต่ในตัวมันเองก็มีความซับซ้อนอยู่ เช่น ทางเลือก คุณภาพของข้อมูล ความเสถียร และความปลอดภัย การมีร้านค้าแบบ one-stop shop ที่ได้รับการยอมรับมาช่วยดูแลเรื่องระบบโครงสร้าง ซอฟต์แวร์ และการบริการ ต้องเข้าใจถึงคุณค่าของ AI ในการช่วยลดความเสี่ยงและลดค่าใช้จ่ายได้” เดฟ เวลลานเต้ หัวหน้าฝ่ายวิเคราะห์ theCUBE Research กล่าว “ความสามารถที่ครบวงจรของเดลล์ คือจุดที่สร้างความแตกต่างที่ทำให้เรามั่นใจในการเปลี่ยนไปใช้ AI  ซึ่ง Dell AI Factory with NVIDIA คือตัวอย่างชั้นเยี่ยมของโซลูชัน AI ที่ออกแบบมาเพื่อให้ใช้งานง่ายสำหรับเวิร์กโหลด AI ที่เกิดขึ้นใหม่” 

การวางจำหน่าย

• เซิร์ฟเวอร์ Dell PowerEdge XE9680L จะวางจำหน่ายในครึ่งหลังของปี 2024

• แบบจำลองการใช้ Dell NativeEdge สำหรับ NVIDIA จะพร้อมให้ใช้งานได้ทั่วโลกตั้งแต่ครึ่งหลังของปี 2024

• Dell Generative AI Solutions for Digital Assistants และ Implementation Services for Digital Assistant พร้อมใช้งานในอเมริกาเหนือแล้วตอนนี้

• ความสามารถในการใช้งาน Dell AI Factory with NVIDA แบบอัตโนมัติ จะให้บริการผ่าน Dell professional services ในช่วงครึ่งหลังของปี 2024 สำหรับ NVIDIA NIMs พร้อมให้บริการแล้วในปัจจุบัน

• Dell Accelerator Services สำหรับ RAG บน Precision AI Workstations พร้อมให้บริการปลายเดือนพฤษภาคมเฉพาะบางประเทศในอเมริกาเหนือ ยุโรป ตะวันออกกลางและแอฟริกา รวมถึงเอเชียแปซิฟิกและญี่ปุ่น