AI kini bergerak dari sekadar eksperimen menuju workload yang terintegrasi dengan berbagai proses bisnis dan operasional enterprise. Dalam laporan State of Infrastructure in the Agentic AI Era 2026, Google Cloud yang melibatkan 1.402 pemimpin IT global menemukan bahwa 83 persen organisasi membutuhkan upgrade infrastruktur untuk mendukung autonomous systems yang siap digunakan di tahap produksi. Laporan yang sama juga menunjukkan 4 dari 5 organisasi mengidentifikasi security, governance, atau MLOps sebagai tantangan utama dalam memasuki era Agentic AI.
Kebutuhan ini muncul karena Agentic AI memiliki pola kerja yang berbeda dari aplikasi tradisional. McKinsey mencatat bahwa 62 persen organisasi telah bereksperimen atau menjalankan pilot AI agents, tetapi masih terbatas pada fungsi bisnis tertentu. Kurang dari 10 persen responden menyatakan bahwa AI agents sudah mencapai tahap scaling. McKinsey juga memproyeksikan biaya IT infrastructure dapat meningkat dua hingga tiga kali lipat pada 2030 seiring pertumbuhan workload AI, sementara budget diperkirakan tetap relatif stabil.
Tantangan Mempersiapkan Infrastruktur untuk Agentic AI
Kemampuan agentic AI dalam menjalankan workflow secara lebih mandiri, mengakses berbagai sistem, memproses data, hingga mengambil tindakan berdasarkan suatu tujuan menunjukkan bahwa infrastruktur kini dapat melayani workload yang lebih dinamis dan saling terhubung. Selain menangani workload yang relatif predictable, infrastruktur untuk agentic AI juga dapat mengakomodir layanan yang lebih dinamis dan saling terhubung.
Berikut enam area yang perlu dievaluasi untuk mengatasi tantangan dalam mempersiapkan infrastruktur untuk agentic AI.
Performance dan Compute
Workload AI butuh processing power yang jauh lebih tinggi dibandingkan aplikasi bisnis biasa. Untuk itu dibutuhkan infrastruktur dengan kapasitas compute yang sesuai karakteristik workload, termasuk kebutuhan CPU, memory, GPU atau accelerator. Pemilihan compute juga perlu mempertimbangkan workload, kebutuhan data, performa, biaya, pola penggunaan, dan operating environment.
Storage dan Data
AI butuh akses data yang relevan dan dapat diakses secara konsisten. Storage butuh kapasitas besar, performa tinggi, availability, data protection, dan kemampuan mendukung pertumbuhan data.
Networking
Ketika workload AI makin terdistribusi, network menjadi bagian penting dari seluruh performa infrastruktur. Hal ini menunjukkan bahwa infrastruktur AI butuh konektivitas berperforma tinggi untuk menangani intensitas data yang besar, dengan operational visibility dan orchestration untuk menjaga efisiensi environment.
Scalability
Infrastruktur yang scalable perlu dipertimbangkan sejak awal agar penambahan compute, storage, atau networking tidak selalu membutuhkan redesign besar.
Security
Semakin banyak sistem, data, dan agents yang saling terhubung, maka kontrol akses, governance, monitoring, dan protection pada infrastructure layer menjadi semakin penting. Padahal agentic AI butuh runtime controls yang dapat menerapkan kebijakan secara langsung ketika agents menjalankan tindakan secara autonomous.
Reliability dan Business Continuity
Ketergantungan bisnis terhadap infrastruktur akan semakin besar ketika AI menjadi bagian dari proses operasional. Karena itu, redundancy, backup, disaster recovery, monitoring, dan kemampuan recovery harus menjadi bagian penting sejak desain awal.
Bagaimana HCI Mendukung AI-Ready Infrastructure?
Modernisasi infrastruktur umumnya terhambat oleh arsitektur yang terbagi dalam banyak silo. Compute, storage, networking, dan virtualization dikelola dengan platform serta proses berbeda sehingga deployment dan capacity planning menjadi lebih kompleks.
Hyper-Converged Infrastructure (HCI) menawarkan pendekatan yang mengintegrasikan komponen infrastruktur dalam satu platform yang lebih terintegrasi. Dalam konteks AI-ready infrastructure, HCI membantu perusahaan memodernisasi secara lebih terstruktur. Resource dapat dikelola sebagai bagian dari environment yang terintegrasi, sementara provisioning dan expansion dapat dilakukan dengan pendekatan yang lebih konsisten.
Bagi enterprise, HCI masih harus menjalankan existing workload sambil bertahap menambahkan workload baru. Infrastruktur tidak harus langsung beralih ke arsitektur yang sepenuhnya baru. Sebaliknya, perusahaan dapat membangun fondasi yang lebih fleksibel dan melakukan modernisasi sesuai prioritas workload.
Namun, HCI bukan pilihan otomatis untuk seluruh workload AI. AI infrastructure tetap perlu disesuaikan dengan kebutuhan compute, accelerator, storage, networking, data pipeline, dan karakter workload karena assessment tetap menjadi langkah awal sebelum menentukan arsitektur yang tepat.
On-Premises, Cloud, atau Hybrid: Memilih Infrastruktur yang Tepat untuk AI
Tidak ada satu deployment model yang otomatis sesuai untuk seluruh enterprise, baik on-premises, cloud, atau hybrid karena perlu mempertimbangkan workload, data, performa, security, scalability, compliance, biaya, dan kemampuan tim untuk mengoperasikan infrastruktur.
Perusahaan dapat menjalankan workload tertentu di on-premises, memanfaatkan cloud untuk kebutuhan lebih elastis, dan mempertahankan arsitektur hybrid ketika kebutuhan bisnis berubah.
| Model | Pertimbangan Utama |
| On-premises | Cocok untuk workload dengan kebutuhan kontrol infrastruktur tinggi, data sensitif, kebutuhan performa yang dapat diprediksi, atau requirement tertentu terkait lokasi data. |
| Cloud | Menawarkan resource lebih fleksibel dan dapat membantu perusahaan scaling sesuai kebutuhan workload tanpa harus menyediakan seluruh infrastruktur fisik sendiri. |
| Hybrid | Menggabungkan environment on-premises dan cloud dengan menempatkan workload berdasarkan kebutuhan performa, security, data, scalability, dan operational requirement. |
Checklist Membangun AI-Ready Infrastructure di Era Agentic AI untuk Enterprise
1. Assess Existing Infrastructure
Petakan server, storage, network, virtualization, workload, utilization, capacity, dependency, dan lifecycle setiap komponen.
2. Identifikasi Infrastructure Gap
Cari bottleneck pada performa, skalabilitas, availability, security, monitoring, backup, disaster recovery, dan operational management.
3. Pahami Kebutuhan AI Workload
Tentukan jenis workload AI yang akan dijalankan, kebutuhan processing, data, storage, network, latency, security, dan expected growth.
4. Tentukan Prioritas Modernisasi
Tidak semua komponen harus diperbarui sekaligus, tetapi prioritaskan area yang paling berpengaruh terhadap business-critical workload dan kesiapan AI.
5. Evaluasi Compute dan Server
Perhatikan processing power, memory, virtualization, dan accelerator yang tersedia sesuai dengan kebutuhan workload.
6. Evaluasi Storage dan Data Infrastructure
Perhatikan kapasitas, performance, availability, scalability, data protection, serta akses data untuk aplikasi dan AI workload.
7. Modernisasi Networking
Evaluasi penggunaan bandwidth, latency, reliability, segmentation, security, monitoring, serta kemampuan network dalam menangani peningkatan traffic.
8. Sederhanakan Virtualization dan Management
Pertimbangkan HCI atau software-defined infrastructure ketika integrasi resource dan centralized management untuk mengurangi kompleksitas.
9. Perkuat Security dan Observability
Infrastruktur perlu memiliki visibilitas yang memadai terhadap kondisi sistem, jaringan, workload, dan security event.
10. Pastikan Business Continuity
Review redundancy, backup, disaster recovery, recovery objectives, dan kemampuan infrastruktur mempertahankan layanan ketika terjadi disruption.
11. Susun Infrastructure Roadmap
Hubungkan setiap modernization initiative dengan business objective, timeline, dependency, budget, dan expected outcome agar roadmap dapat dieksekusi secara bertahap
Bangun AI-Ready Infrastructure Bersama Smartnet Magna Global di Era Agentic AI
Membangun AI-ready infrastructure bukan sekadar menambah server atau menyediakan GPU. Enterprise juga perlu membangun fondasi yang dapat mengikuti perubahan workload, pertumbuhan data, kebutuhan konektivitas, serta tuntutan security dan reliability.
Smartnet Magna Global (SMG) menyediakan solusi untuk membangun AI-ready infrastructure dengan pendekatan end-to-end yang menghubungkan network, compute, storage, virtualization, dan data infrastruktur sesuai kebutuhan bisnis dan roadmap modernisasi. SMG didukung ekosistem teknologi HPE, Cisco, Aruba, VMware, Synology, dan Sangfor untuk menyediakan arsitektur dengan kondisi existing, business requirement, workload, hingga arah modernisasi perusahaan.
Sebagai bagian dari CTI Group, SMG melengkapi solusi tersebut dengan expertise dan dukungan untuk memastikan setiap lapisan infrastruktur yang sesuai kapasitas, fleksibilitas, reliabilitas, dan keamanan yang dibutuhkan. Seberapa siap infrastruktur Anda menghadapi workload AI berikutnya? Hubungi tim SMG untuk konsultasi lebih lanjut.
Penulis: Ervina Anggraini – Content Writer CTI Group
