JAKARTA, MEDIAINI.COM – Menyambut Hari Kebangkitan Teknologi Nasional (Hakteknas) yang diperingati setiap bulan Agustus sebagai momen untuk merayakan inovasi dan kemandirian dalam bidang teknologi, penting bagi kita untuk menyadari pesatnya perkembangan Agentic AI di Indonesia. Teknologi canggih ini melampaui model generatif tradisional dengan kemampuan untuk bernalar, merencanakan, dan menjalankan tindakan secara otonom guna mengotomatiskan berbagai tugas kompleks di lingkungan perusahaan seringkali tanpa pengawasan manusia secara langsung. Meskipun 70% eksekutif yang disurvei dalam riset IBM 2024 menilai otonomi ini sebagai hal yang krusial, kemampuan Agentic AI untuk secara proaktif mengakses API, mengeksekusi kode, dan terus belajar juga menghadirkan risiko siber yang signifikan. Agentic AI yang bekerja layaknya karyawan digital yang adaptif dengan teknologi ini ternyata menyimpan risiko besar. Independensi penuh sistem ini bisa membuat AI secara tidak sengaja mengakses data sensitif, berinteraksi dengan sistem tidak aman, atau dimanipulasi oleh peretas. Kondisi ini makin mengkhawatirkan karena pengawasan IT yang minim, terutama di tengah pesatnya adopsi digital di Indonesia.
Perkembangan ini menjadi semakin relevan seiring dengan pesatnya digitalisasi di Indonesia, yang menjadikannya salah satu negara pengadopsi teknologi utama di Asia Tenggara. AI Generatif (Generative AI) dan sistem agentic (agentic systems) dengan cepat terintegrasi ke dalam industri seperti keuangan, manufaktur, dan pemerintahan, mengubah pola hidup dan cara bekerja masyarakat Indonesia. Temuan ini diperkuat oleh studi Palo Alto Networks 2025 State of Generative AI menunjukkan preferensi pekerja indonesia pada platform platform dan aplikasi GenAI yang mendorong produktivitas. Situasi ini semakin menegaskan besarnya tanggung jawab yang menyertai integrasi teknologi secara masif dalam berbagai aspek kehidupan. Adopsi yang luas ini juga menghadirkan risiko yang beragam, menegaskan pentingnya tanggung jawab penuh bersamaan dengan integrasi teknologi semacam ini.
Menyadari adanya peluang sekaligus risiko terkait hal tersebut, pemerintah Indonesia kini mengambil langkah-langkah proaktif. Dengan target kontribusi AI sebesar US$366 miliar terhadap PDB nasional pada tahun 2030, pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) tengah menyusun Peraturan Presiden (Perpres). Perpres ini akan menjadi rencana aksi konkret dalam mengimplementasikan Peta Jalan Nasional AI, sekaligus memperkuat tata kelola lintas sektor. Langkah ini menekankan urgensi perlunya kerangka regulasi yang adaptif, yang tidak hanya mendukung perkembangan teknologi yang terus berubah dan kebutuhan lokal, tetapi juga memastikan kepercayaan publik di tengah transformasi digital yang terus berlangsung di Indonesia.
Fokus yang semakin besar terhadap tata kelola ini berkaitan langsung dengan tantangan keamanan siber praktis yang kini dihadapi oleh dunia usaha. Dalam berbagai keterlibatan Palo Alto Networks dengan organisasi di seluruh kawasan, terdapat sejumlah risiko yang perlu diwaspadai oleh pelaku bisnis, antara lain:
-
Penginputan Teks Perintah (Prompt Injection) & Manipulasi Tujuan: Peretas bisa memasukkan perintah berbahaya yang mengalihkan sistem AI dari tugasnya atau memaksa mereka membocorkan data rahasia. Bahkan instruksi yang terlalu umum dan kabur pun dapat dimanfaatkan untuk memicu tindakan merugikan, seperti mengungkap informasi sensitif atau menyalahgunakan fitur-fitur yang terintegrasi dalam sistem.
BacaJuga
-
Penyalahgunaan Alat & Integrasi yang Tidak Aman: Sistem agentic mengandalkan berbagai aplikasi pihak ketiga atau Application Programming Interface (API) untuk beroperasi. Jika koneksi ini dikonfigurasikan secara keliru atau tidak dilengkapi kontrol akses yang memadai, peretas bisa memanfaatkan kewenangan sistem AI untuk melakukan tindakan ilegal di sistem perusahaan. Dengan rata-rata 6,6 persen aplikasi generatif AI yang digunakan oleh organisasi saat ini cenderung tidak aman, potensi celah pembobolan sistem keamanan semakin besar.
-
Paparan Kredensial & Penyamaranaan Identitas: Agen dapat secara tidak sengaja mengakses atau membocorkan kredensial sensitif, seperti API key, token, atau informasi login, yang dapat menyebabkan eskalasi hak akses atau akses tidak sah ke sistem. Dalam lingkungan multi-agen, penyamaran identitas menjadi ancaman yang semakin serius.
-
Eksekusi Kode Jarak Jauh (Remote Code Execution/RCE): Ketika agen AI diberikan akses ke interpreter kode atau alat skrip, instruksi berbahaya bisa disisipkan untuk menjalankan kode sembarang. Tanpa pengamanan sandboxing dan kontrol runtime yang memadai, kondisi ini membuka peluang bagi peretas untuk mengkompromikan lingkungan host perusahaan.
“Dalam momentum peringatan Hari Kebangkitan Teknologi Nasional, kita perlu menyoroti bahwa salah satu takdir digital Indonesia ditentukan oleh bagaimana kita menyikapi dan mengadopsi AI. Agentic AI bukan sekadar peningkatan teknologi; ini adalah perubahan paradigma. Para ‘karyawan digital’ yang bekerja secara otonom ini menawarkan kekuatan luar biasa, namun juga membawa risiko yang belum pernah terjadi sebelumnya. Untuk membuka potensi mereka dan mengamankan masa depan digital Indonesia, keamanan harus menjadi fondasi dari kepercayaan dan kendali,” kata Adi Rusli, Country Manager, Indonesia, Palo Alto Networks.
Untuk secara efektif mengurangi berbagai risiko kompleks ini dan memastikan adopsi Agentic AI yang aman, Palo Alto Networks merekomendasikan pendekatan yang proaktif dan menyeluruh bagi organisasi di Indonesia:
-
Visibilitas dan pemetaan: Identifikasi di mana Agentic AI digunakan, sistem apa saja yang terhubung dengannya, serta jenis data apa yang diaksesnya.
-
Pemantauan real-time dan penegakan kebijakan: Terapkan kontrol akses berbasis peran (role-based access control) serta pembatasan kontekstual sesuai dengan tingkat sensitivitas dan kebutuhan operasional.
-
Zero Trust untuk agen AI: Terapkan prinsip least privilege (hak akses minimum) dan verifikasi berkelanjutan pada sistem otonom untuk memastikan setiap tindakan dilakukan secara aman dan terkontrol.
Lanskap keamanan siber mengalami perubahan mendasar seiring dengan hadirnya Agentic AI yang beroperasi sebagai tenaga kerja digital otonom. Transformasi kapabilitas teknologi ini berkaitan langsung dengan potensinya memunculkan celah keamanan baru. Untuk dapat menghadapi era baru ini dengan sukses dan memaksimalkan manfaat Agentic AI bagi Indonesia, penerapan sistem keamanan yang kuat dan terintegrasi bukan sekadar saran, melainkan keharusan mutlak untuk menjaga kendali dan melindungi aset digital nasional. Dengan mengintegrasikan keamanan sejak awal, Indonesia berpeluang menjadi pemimpin regional dalam penerapan AI yang aman dan bertanggung jawab.
