ACEH — Laporan State of the Internet edisi ke-12 dari Akamai menemukan lebih dari 6% percakapan chatbot AI di lingkungan korporat mengandung data sensitif perusahaan, terutama informasi pribadi. Temuan ini muncul saat adopsi agen AI otonom di sistem perusahaan terus meningkat, menggeser lanskap risiko keamanan siber dari manajemen identitas manusia ke tata kelola entitas non-manusia.
Akamai Technologies merilis laporan State of the Internet (SOTI) bertajuk "The Agentic Frontier: Speed, Scale, and Nonhuman Identity" yang menyoroti pergeseran fundamental dalam lanskap ancaman siber korporat. Laporan ini menempatkan tata kelola perilaku entitas non-manusia sebagai tantangan utama yang kini dihadapi para Chief Information Security Officer (CISO), melampaui persoalan manajemen identitas manusia yang selama ini mendominasi agenda keamanan.
Data paling mencolok dalam laporan ini menyangkut interaksi chatbot AI di lingkungan kerja. Lebih dari 6% percakapan terbukti memuat data perusahaan yang bersifat sensitif, dengan data pribadi (PII) sebagai jenis yang paling sering bocor. Yang memperparah situasi, 47% dari interaksi tersebut berlangsung melalui akun pribadi karyawan yang berada di luar jangkauan pengawasan tim IT.
Artinya, hampir separuh kebocoran potensial terjadi di jalur yang tidak terdeteksi sistem keamanan korporat. Akamai menyoroti kesenjangan ini sebagai blind spot yang perlu segera ditutup sebelum adopsi AI di perusahaan semakin dalam.
Risiko lain datang dari ekstensi browser berbasis AI. Lebih dari 40% pengguna korporat dilaporkan telah memasang ekstensi jenis ini, dan seperempatnya mengubah izin akses (permissions) dalam kurun 12 bulan terakhir. Perubahan izin yang tidak terpantau membuka peluang akses tidak sah ke data atau sistem internal.
Akamai juga menemukan bahwa ekstensi berbasis AI memiliki kemungkinan 60% lebih besar mengandung celah kerentanan (CVE) dibandingkan ekstensi standar. Kombinasi antara penetrasi tinggi dan kualitas keamanan yang rendah menjadikan ekstensi AI sebagai vektor serangan yang signifikan di lingkungan korporat.
Model Context Protocol (MCP) yang memungkinkan agen AI berinteraksi lintas sistem menempati urutan terakhir dalam daftar prioritas keamanan para CISO. Padahal, agen AI yang tidak terkendali diproyeksikan menjadi ancaman siber utama pada 2030. Kesenjangan visibilitas terhadap MCP ini menjadi salah satu temuan paling krusial dalam laporan edisi ke-12 tersebut.
Di sisi lain, model AI tingkat lanjut (Frontier AI) kini mampu mengidentifikasi dan merangkai kelemahan sistem secara instan. Siklus penambalan (patching) manual oleh manusia dinilai sudah terlambat dan tidak lagi efektif menghadapi kecepatan eksploitasi yang dihasilkan AI.
Akamai mencatat munculnya fenomena "pelanggan sintetis" seiring agen AI mulai menggantikan trafik web tradisional dalam pencarian merek. Kondisi ini menuntut perusahaan memperluas cakupan keamanan hingga mencakup metrik Generative Engine Optimization (GEO) seperti akurasi kutipan, sentimen, dan tata kelola bot.
Chief Security Officer Akamai, Boaz Gelbord, menyebut perkembangan AI menciptakan tekanan masif pada seluruh ekosistem keamanan jaringan.
"AI menghadirkan momen 'everything, everywhere, all at once' bagi ekosistem keamanan secara keseluruhan. Ada tiga ancaman utama: Penggunaan AI secara internal di seluruh organisasi, integrasi AI langsung ke dalam produk dan beban kerja cloud, serta serangan berbasis AI yang menargetkan perusahaan. Program keamanan perlu beradaptasi dengan realitas yang berkembang pesat ini," ujar Boaz Gelbord.
Advisory CISO Akamai, Steve Winterfeld, menambahkan bahwa pergeseran dari AI penjawab menjadi AI pengeksekusi strategi bisnis mewajibkan kepemimpinan keamanan siber berevolusi secara sejajar.
Akamai merumuskan empat pilar rekomendasi bagi para CISO dalam menghadapi era AI berbasis agen. Pertama, tata kelola edge adaptif dengan menerapkan perlindungan runtime native edge, filter API, dan isolasi otomatis untuk menetralkan kerentanan sementara proses patching backend berlangsung.
Kedua, mengamankan edge browser dengan membangun visibilitas dan kontrol perilaku di dalam browser untuk memantau penggunaan ekstensi AI yang tidak terdaftar. Ketiga, melindungi otoritas brand melalui strategi GEO di jaringan edge guna mencegah crawler AI dan pembeli sintetis menyajikan informasi merek yang tidak akurat.
Keempat, otonomi berbasis verifikasi, yakni memberikan tingkat otonomi pada agen AI berdasarkan seberapa mudah tindakannya diverifikasi, serta tetap mempertahankan kontrol keterlibatan manusia (human-in-the-loop) untuk tindakan berisiko tinggi.
Laporan SOTI edisi ke-12 ini menjadi sinyal bagi pelaku bisnis digital di Indonesia bahwa adopsi AI generatif dan agen otonom perlu dibarengi dengan kerangka tata kelola keamanan yang setara. Regulasi pelindungan data pribadi yang berlaku di Indonesia turut menuntut perusahaan memastikan tidak ada data sensitif yang bocor melalui jalur AI yang tidak terpantau.