Xeon 6 dan Gaudi 3

Jakarta –

Intel merilis dua solusi infrastruktur AI terbarunya, yaitu prosesor Xeon 6 dan akselerator Gaudi 3. Seperti ini kemampuannya.

Dua solusi ini memperkuat komitmen Intel Sebagai menyediakan sistem AI yang kuat Didalam Prestasi per watt yang optimal dan total biaya kepemilikan (total cost of ownership/TCO) yang lebih rendah.

“Permintaan AI mengakibatkan transformasi besar-besaran Di pusat data, dan industri ini Mengharapkan pilihan Sebagai hardware, software dan tool pengembang,” kata Justin Hotard, Executive Vice President dan GM Data Center and Ai Group Intel, Di keterangan yang diterima detikINET, Rabu (2/10/2024).

“Didalam peluncuran Xeon 6 Didalam P-cores dan AI accelerator Gaudi 3, Intel Menampilkan ekosistem terbuka yang memungkinkan para pelanggan kami mengimplementasikan semua beban kerja mereka Didalam Prestasi, efisiensi dan Perlindungan yang lebih besar,” tambahnya.

Intel Xeon 6 Didalam P-cores didesain Sebagai menangani beban kerja yang butuh daya komputasi tinggi Didalam efisien. Xeon 6 dijanjikan punya Prestasi dua kali lebih tinggi dibanding generasi Sebelumnya Itu, fitur core count yang lebih tinggi, bandwidth memori yang digandakan, serta kemampuan akselerasi AI Di setiap core. Prosesor ini dirancang Sebagai memenuhi kebutuhan Prestasi tinggi Sebagai AI, Didalam mulai lingkungan edge hingga pusat data dan cloud.

Intel Gaudi 3 AI Accelerator dioptimalkan khusus Sebagai AI generatif berskala besar. Ia dilengkapi prosesor Tensor Didalam 64 core (Tensor processor core/TPC) dan 8 matrix multiplication engine (MME) Sebagai mengakselerasi komputasi deep neural network. Dilengkapi memori HBM2e 128GB Sebagai pelatihan dan inferensi, port Ethernet 24 200Gb Sebagai jaringan skalabel.

Mutakhir-Mutakhir ini, Intel juga berkolaborasi Didalam IBM Sebagai menjalankan AI accelerator Intel Gaudi 3 sebagai layanan Di IBM Cloud. Melewati kolaborasi ini, Intel dan IBM menargetkan Sebagai Mengurangi total biaya kepemilikan Di memanfaatkan dan menskalakan AI, sekaligus Memperbaiki Prestasi.

Intel pun bermitra Didalam OEM terkemuka, meliputi Dell Technologies dan Supermicro Sebagai sama-sama Membuat sistem yang khusus dirancang Sebagai kebutuhan pelanggan yang spesifik supaya penerapan AI-nya menjadi lebih efektif. Dell Technologies Di ini sama-sama merancang solusi berbasis RAG Didalam memanfaatkan Gaudi 3 dan Xeon 6.

Transisi solusi AI generatif (Gen AI) Didalam prototipe Di sistem yang siap produksi Memiliki beberapa tantangan Di monitoring secara real-time, penanganan error, logging, Perlindungan dan skalabilitas. Intel mengatasi tantangan tersebut Melewati upaya co-engineering Didalam OEM dan para mitra Sebagai menyediakan solusi retrieval-augmented generation (RAG) yang siap produksi.

Solusi yang dikembangkan Di platform Open Platform Enterprise AI (OPEA) ini, mengintegrasikan layanan mikro berbasis OPEA Di Di sistem RAG yang skalabel, yang dioptimalkan Sebagai Xeon dan sistem AI Gaudi, didesain supaya pelanggan dapat Didalam mudah mengintegrasikan Langkah Didalam Kubernetes, Red Hat OpenShift AI, dan Red Hat Enterprise Linux AI.