Akamai Cloud Inference Tawarkan Solusi Mudah Pembuatan AI

Jakarta –

Akamai, perusahaan Keselamatan siber dan Layanan Cloud, Memperkenalkan Akamai Cloud Inference Untuk Mendorong Perkembangan cepat dan efisien Untuk mengubah model prediktif dan large language model (LLM) menjadi tindakan nyata.

“Walaupun pekerjaan berat pelatihan LLM Berencana terus terjadi Di pusat-pusat data hyperscale besar, pekerjaan inferensi yang dapat ditindaklanjuti Berencana berlangsung Di edge, Di mana platform yang telah dibangun Akamai Di dua setengah dekade terakhir menjadi penting Untuk masa Didepan AI dan yang membedakan kami Di setiap penyedia cloud lain yang ada Di pasar,” kata Adam Karon, COO dan GM Cloud Technology Group Di Akamai, Di keterangan yang diterima detikINET, Sabtu (31/5/2025).

Solusi Terbaru Akamai ini menjadi alat Untuk para engineer dan pengembang platform Untuk membangun dan menjalankan Gadget Lunak AI, dan diklaim bisa Menyediakan througput 3x lebih baik serta Memangkas latensi hingga 2,5x.

Mereka juga mengklaim perusahaan-perusahaan dapat hemat hingga 86% Di inferensi AI dan beban kerja AI agentik dibandingkan Bersama infrastruktur hyperscale tradisional. Akamai Cloud Inference mencakup:

● Komputasi: Akamai Cloud menawarkan Gadget komputasi serbaguna, mulai Di CPU klasik Untuk inferensi yang Di-setting Bersama baik, hingga opsi komputasi Diluncurkan Lebihcepat yang kuat Di GPU, dan VPU ASIC yang disesuaikan Untuk menyediakan daya yang tepat Untuk mengatasi berbagai tantangan Di inferensi AI. Akamai terintegrasi Bersama ekosistem AI Enterprise Nvidia, Bersama memanfaatkan Triton, TAO Toolkit, TensorRT, dan NVFlare Untuk mengoptimalkan kinerja inferensi AI Di GPU NVIDIA.

● Manajemen Data: Akamai memungkinkan para pelanggan Untuk memanfaatkan seluruh potensi inferensi AI Bersama fabrik data mutakhir yang dibangun khusus Untuk beban kerja AI modern. Akamai telah bermitra Bersama VAST Data Untuk menyediakan akses yang disederhanakan Hingga data real-time guna mempercepat tugas-tugas Yang Berhubungan Bersama inferensi, yang penting agar Menyediakan hasil yang relevan dan Pengalaman Hidup yang responsif.

ADVERTISEMENT

● Kontainerisasi: Kontainersisasi beban kerja AI mendukung peningkatan kapasitas secara otomatis sesuai permintaan, peningkatan ketahanan Gadget Lunak, dan portabilitas hibrida/multicloud, serta mengoptimalkan kinerja dan biaya. Bersama Kubernetes, Akamai Menyediakan inferensi AI yang lebih cepat, lebih murah, dan lebih aman Bersama kinerja Di skala petabyte.

● Komputasi Edge: Untuk menyederhanakan cara pengembang Di membangun Gadget Lunak-Gadget Lunak berbasis AI, Akamai AI Inference menyertakan kemampuan WebAssembly (WASM). Lewat kerja sama Bersama penyedia WASM seperti Fermyon, Akamai membantu para pengembang menjalankan inferensi Untuk LLM langsung Di Gadget Lunak tanpa server, Agar para pelanggan dapat menjalankan kode ringan Di edge Untuk mendukung Gadget Lunak-Gadget Lunak yang membutuhkan latensi rendah.

Bersama-sama, seluruh tools ini menciptakan platform yang kuat Untuk Gadget Lunak-Gadget Lunak berbasis AI Bersama latensi rendah yang Bersama ini perusahaan-perusahaan dapat Menyediakan Pengalaman Hidup yang diinginkan User mereka.

Akamai Cloud Inference berjalan Di platform cloud Akamai yang sangat terdistribusi, Agar mampu secara konsisten mengirimkan lebih Di satu petabyte per detik Untuk beban kerja yang memerlukan data intensif. Meliputi Di lebih Di 4.200 titik kehadiran Di lebih Di 1.200 jaringan Di lebih Di 130 Bangsa Di seluruh dunia, Akamai Cloud membuat sumber daya komputasi tersedia Di cloud Hingga edge serta mempercepat kinerja Gadget Lunak dan Memperbaiki skalabilitas.

“Melatih LLM seperti membuat peta, yang mengharuskan Anda mengumpulkan data, Membahas medan, dan merencanakan rute. Pekerjaan ini lambat dan memerlukan banyak sumber daya, tetapi Setelahnya dibangun, Berencana sangat berguna. Inferensi AI itu seperti menggunakan GPS, langsung menerapkan pengetahuan itu, menghitung ulang secara real-time, dan Menyesuaikan Bersama perubahan Untuk membawa Anda Hingga tempat yang Anda tuju,” tutup Karon.