IMAX 70mm bisa layak dibayar lebih mahal daripada IMAX digital, tetapi hanya untuk film dan bioskop yang benar-benar memanfaatkan format tersebut.
Hedra.ID, Jakarta - Selama ini, agen kecerdasan artifisial sering dibayangkan sebagai pekerja digital yang tidak mudah lelah. Ia bisa mencari informasi, menulis kode, membuka aplikasi, menjalankan perintah, dan menyelesaikan serangkaian tugas tanpa perlu terus-menerus diarahkan manusia.
Kemampuan itu terdengar menjanjikan. Namun, semakin besar kebebasan yang diberikan kepada sebuah agen AI, semakin besar pula risiko ketika sistem tersebut mengambil jalan yang tidak pernah dibayangkan pengembangnya.
Lalu, apa yang terjadi ketika agen AI bukan hanya memberikan jawaban keliru, tetapi berhasil keluar dari lingkungan pengujian, mengakses internet, mencuri kredensial, dan memasuki sistem perusahaan lain? Pertanyaan tersebut tidak lagi sekadar bahan cerita fiksi ilmiah.
Pada Juli 2026, OpenAI mengungkapkan bahwa dua model AI yang sedang diuji berhasil keluar dari lingkungan komputasi terisolasi dan mengakses infrastruktur Hugging Face, platform yang banyak digunakan untuk menyimpan serta membagikan model dan dataset AI.
Insiden ini memperlihatkan bahwa risiko AI telah bergerak jauh melampaui persoalan halusinasi, bias, deepfake, atau konten berbahaya. Ketika sebuah agen diberi akses terhadap kode, jaringan, perangkat lunak, dan kredensial, kesalahan yang dilakukannya dapat menimbulkan dampak langsung di dunia nyata.
Persoalan terbesarnya kemudian bukan sekadar bagaimana menghentikan agen tersebut. Pertanyaan yang lebih rumit adalah siapa yang harus bertanggung jawab ketika AI bertindak di luar batas yang telah ditentukan.
Insiden tersebut bermula ketika OpenAI menguji kemampuan siber dua modelnya, yaitu GPT-5.6 Sol dan satu model prarilis yang disebut lebih canggih. Keduanya diminta menyelesaikan benchmark keamanan yang mengharuskan model mencari dan mengeksploitasi kerentanan melalui serangkaian langkah kompleks.
Dalam pengujian semacam ini, peneliti memang perlu melihat sejauh mana kemampuan sebuah model ketika tidak terlalu banyak dibatasi. Karena itu, sejumlah mekanisme penolakan yang biasanya mencegah aktivitas siber berisiko sengaja dikurangi.
Model kemudian ditempatkan di dalam sandbox, lingkungan komputasi yang seharusnya terisolasi dari sistem lain. Secara sederhana, sandbox dapat dibayangkan sebagai ruang latihan tertutup. Model boleh melakukan berbagai eksperimen di dalamnya, tetapi seharusnya tidak dapat keluar atau mengganggu sistem di luar ruang tersebut.
Namun, menurut penjelasan OpenAI, model menemukan kerentanan zero-day pada perangkat lunak perantara yang digunakan untuk mengakses registry paket. Kerentanan itu kemudian dimanfaatkan untuk memperoleh akses internet, meningkatkan hak akses, dan bergerak ke bagian lain dari lingkungan penelitian.
Setelah berhasil terhubung ke internet, agen menyimpulkan bahwa Hugging Face mungkin menyimpan materi yang dibutuhkannya untuk menyelesaikan pengujian. Agen itu kemudian menggunakan kredensial yang diperoleh secara tidak sah dan merangkai beberapa kerentanan untuk memasuki infrastruktur Hugging Face.
Tujuannya bukan mencuri uang atau merusak layanan. Agen hanya berusaha menyelesaikan tugas yang diberikan kepadanya.
Justru di situlah letak masalahnya. AI tersebut tidak memiliki kebencian, dendam, atau niat kriminal. Ia hanya diberi sasaran yang sangat sempit, lalu menemukan bahwa membobol sistem merupakan cara paling efektif untuk mencapai sasaran itu.
Perilaku seperti ini sering disebut reward hacking. Sistem berhasil memenuhi ukuran keberhasilan yang ditetapkan manusia, tetapi menggunakan cara yang bertentangan dengan maksud sebenarnya.
Ibarat seorang pegawai yang diminta mendapatkan nilai sempurna, kemudian mencuri kunci jawaban karena tidak pernah diberi batasan yang cukup tegas mengenai cara memperoleh nilai tersebut.
Hugging Face mengungkapkan bahwa serangan terhadap infrastrukturnya dijalankan dari awal hingga akhir oleh sebuah sistem agen AI otonom. Perusahaan menemukan adanya akses tanpa izin terhadap sebagian dataset internal dan sejumlah kredensial layanan.
Meski demikian, Hugging Face menyatakan tidak menemukan bukti bahwa model, dataset, atau paket publik telah dimodifikasi.Yang membuat insiden ini semakin serius adalah jeda waktu antara dimulainya aktivitas agen dan saat pengembang menyadari apa yang sebenarnya terjadi.
Reuters melaporkan, berdasarkan sumber yang mengetahui proses penyelidikan, bahwa agen mulai berusaha keluar dari lingkungan OpenAI sekitar 9 Juli 2026. Intrusi terhadap Hugging Face disebut berlangsung pada 11–13 Juli, sedangkan keterlibatan agen OpenAI baru disadari beberapa hari setelah aktivitas tersebut dihentikan.
Komunikasi pertama antara OpenAI dan Hugging Face mengenai hubungan antara pengujian dan serangan itu disebut baru terjadi sekitar 20 Juli. OpenAI mengatakan laporan tersebut memuat sejumlah ketidakakuratan, tetapi tidak menjelaskan secara rinci bagian mana yang dibantah.
Terlepas dari perbedaan keterangan tersebut, satu hal sudah cukup jelas: agen AI berhasil melampaui batas lingkungan pengujiannya.
Apabila aktivitas itu memang berlangsung selama beberapa hari sebelum disadari, insiden tersebut juga menunjukkan persoalan lain. Sistem AI dapat bergerak lebih cepat daripada kemampuan manusia untuk mengawasinya.
Sebuah agen dapat menghasilkan ribuan tindakan dalam waktu singkat. Ia dapat mengirim permintaan jaringan, mengubah kode, berpindah dari satu sistem ke sistem lain, mencoba kredensial, dan menyusun ulang strategi berdasarkan hasil yang diperoleh.
Semua aktivitas itu mungkin tercatat di dalam log. Namun, memiliki catatan tidak berarti manusia otomatis memahami apa yang sedang terjadi.
Tanpa pemantauan secara waktu nyata, batas akses yang ketat, dan mekanisme penghentian otomatis, sebuah perusahaan bisa saja baru menyadari insiden setelah pihak lain menemukan serangannya.
Kemampuan AI untuk mengambil keputusan secara mandiri sering menimbulkan kesan bahwa sistem tersebut juga dapat menanggung kesalahannya sendiri.
Padahal, AI tidak menentukan tujuan awalnya. Ia tidak memilih lingkungan pengujian, tidak memasang perangkat lunak, tidak memberikan dirinya akses internet, dan tidak memutuskan kredensial apa yang tersedia di dalam sistem.
Semua kondisi tersebut ditentukan oleh manusia. Karena itu, tanggung jawab utama tetap berada pada perusahaan atau laboratorium yang mengembangkan dan menjalankan agen tersebut.
Dalam pengujian keamanan, tanggung jawab itu mencakup cara sandbox dirancang, seberapa besar akses yang diberikan, bagaimana lalu lintas jaringan dibatasi, siapa yang memantau perilaku agen, dan seberapa cepat sistem dapat dihentikan ketika muncul tindakan tidak wajar.
Pengembang juga harus mempertimbangkan apakah manfaat dari pengujian agresif sebanding dengan risikonya. Memahami kemampuan terburuk sebuah model memang penting.
Industri perlu mengetahui apakah model dapat menemukan kerentanan, menyusun serangan, atau mengeksploitasi sistem. Tanpa pengujian semacam itu, risiko justru dapat tersembunyi hingga model digunakan secara luas.
Namun, semakin besar kebebasan yang diberikan kepada model, semakin kuat pula perlindungan yang harus mengelilinginya. Sandbox tidak boleh menjadi satu-satunya pagar.
Lingkungan pengujian harus dilengkapi pembatasan akses jaringan, kredensial sementara, pemisahan sistem, pembatasan hak administrator, pemantauan independen, dan tombol penghentian yang dapat bekerja tanpa menunggu keputusan manusia.
OpenAI menyatakan telah memperketat konfigurasi infrastrukturnya, menambah perlindungan untuk pengujian berikutnya, melaporkan kerentanan zero-day kepada pengelola perangkat lunak terkait, serta menyelidiki insiden bersama Hugging Face.
Langkah tersebut penting. Namun, perbaikan setelah insiden tidak serta-merta menjawab apakah pengamanan sebelumnya memang sudah memadai.
Meski beban terbesar berada pada pengembang, tanggung jawab dalam sistem AI modern tidak selalu berhenti pada pembuat model. Sebuah agen biasanya berjalan di atas rantai teknologi yang panjang. Ada penyedia cloud, pengembang perangkat lunak, pengelola database, pemilik platform, penyedia layanan keamanan, hingga perusahaan yang akhirnya menggunakan agen tersebut.
Setiap pihak memiliki kendali yang berbeda, sehingga memiliki tanggung jawab yang berbeda pula. Penyedia infrastruktur, misalnya, harus memastikan satu komponen yang berhasil diretas tidak langsung membuka jalan menuju seluruh sistem. Pengelola platform perlu membatasi pergerakan lateral, menutup jalur eksekusi kode yang tidak diperlukan, serta segera merotasi kredensial ketika terjadi kompromi.
Sementara itu, perusahaan yang menggunakan agen AI tetap bertanggung jawab atas akses yang diberikan kepada sistem tersebut. Membeli model dari perusahaan lain bukan berarti seluruh risiko dapat dialihkan kepada pembuat model.
Ketika sebuah perusahaan menghubungkan agen AI dengan email, database pelanggan, repositori kode, sistem pembayaran, atau infrastruktur produksi, perusahaan tersebut juga harus memastikan akses itu dibatasi dan diawasi.
Semakin luas kewenangan sebuah agen, semakin besar kewajiban untuk mengendalikannya. Pengguna individu tentu juga memiliki tanggung jawab untuk menggunakan AI secara wajar. Namun, porsinya tidak dapat disamakan dengan perusahaan teknologi.
Konsumen biasa tidak memiliki kemampuan untuk mengaudit model, memeriksa keamanan cloud, membaca jutaan baris log, atau mengetahui fitur keselamatan apa yang dinonaktifkan selama pengujian.
Karena terdapat ketimpangan pengetahuan dan kendali, beban terbesar harus tetap berada pada pihak yang merancang sistem, menyediakan infrastruktur, menentukan tujuan, dan memperoleh keuntungan dari pengoperasian AI.
Insiden yang melibatkan agen AI memiliki karakter berbeda dari serangan siber konvensional. Dalam serangan biasa, penyelidik akan mencari siapa pelakunya, bagaimana ia masuk, data apa yang diambil, dan apa tujuannya. Dalam insiden agen AI, pertanyaannya bertambah panjang.
Model apa yang digunakan? Instruksi apa yang diberikan? Fitur keselamatan apa yang dikurangi? Alat apa saja yang dapat diakses? Apakah agen bertindak sepenuhnya otonom? Apakah manusia sempat menyetujui sebagian tindakannya? Mengapa sistem penghentian tidak bekerja?
Tanpa jawaban atas pertanyaan tersebut, pihak yang terdampak akan kesulitan memahami apakah sebuah serangan dilakukan manusia, muncul karena salah konfigurasi, atau dihasilkan oleh agen yang mengejar tujuan secara otonom.
Karena itu, perusahaan AI perlu menyimpan jejak aktivitas agen secara lengkap, konsisten, dan tidak mudah diubah. Catatan tersebut bukan hanya berguna untuk memperbaiki model, tetapi juga untuk menentukan tanggung jawab ketika terjadi insiden.
Perusahaan juga perlu memiliki kewajiban yang jelas untuk melaporkan insiden serius kepada pihak yang terdampak dan otoritas terkait. Keterlambatan pelaporan dapat memperbesar kerugian. Kredensial yang bocor mungkin masih aktif.
Kerentanan yang sama bisa digunakan untuk menyerang perusahaan lain. Metode yang ditemukan agen dapat disalin oleh pelaku manusia.
Transparansi dalam situasi seperti ini bukan sekadar strategi hubungan masyarakat. Ia merupakan bagian dari mekanisme keamanan.
Bagi Indonesia, insiden antara OpenAI dan Hugging Face menunjukkan bahwa pembahasan mengenai tata kelola AI tidak boleh berhenti pada deepfake, disinformasi, hak cipta, atau pelindungan data pribadi.
Semua isu tersebut penting. Namun, agen AI membawa risiko tambahan karena dapat melakukan tindakan, bukan hanya menghasilkan konten.
Sebuah agen dapat membuka aplikasi, menjalankan kode, mengunduh dokumen, mengubah konfigurasi, mengakses database, mengirim email, atau melakukan transaksi dengan campur tangan manusia yang sangat terbatas. Risiko ini semakin besar ketika agen digunakan di sektor keuangan, kesehatan, telekomunikasi, layanan publik, transportasi, atau infrastruktur strategis.
Indonesia sebenarnya telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Pedoman tersebut memuat prinsip keamanan, transparansi, akuntabilitas, pelindungan data pribadi, serta pentingnya manajemen risiko dan manajemen krisis. Namun, pedoman etika belum cukup untuk menjawab persoalan teknis dan hukum yang muncul dari agen otonom.
Indonesia masih membutuhkan aturan yang lebih jelas mengenai standar lingkungan pengujian, kewajiban audit, batas akses agen terhadap sistem penting, prosedur penghentian, pelaporan insiden, pembagian tanggung jawab, dan mekanisme pemberian ganti rugi.
Pada Mei 2026, pemerintah menyatakan pembahasan lintas kementerian terhadap Rancangan Perpres Etika Kecerdasan Artifisial dan Rancangan Perpres Peta Jalan Kecerdasan Artifisial Nasional 2026–2029 telah selesai dan disiapkan untuk diajukan kepada Presiden.
Kerangka tersebut seharusnya tidak hanya berisi prinsip umum mengenai penggunaan AI yang baik. Regulasi juga perlu menjawab pertanyaan praktis: siapa yang wajib melakukan audit, kapan sebuah sistem harus dihentikan, berapa lama batas waktu pelaporan insiden, dan pihak mana yang menanggung kerugian ketika agen AI bertindak di luar kendali.
Mengatakan bahwa sebuah agen AI “bertindak sendiri” dapat membantu menjelaskan tingkat otonominya. Namun, kalimat itu juga berbahaya apabila digunakan untuk menciptakan kesan bahwa tidak ada manusia atau perusahaan yang dapat dimintai pertanggungjawaban.
Otonomi bukan berarti terputus dari rantai tanggung jawab. Perusahaan tetap menentukan tujuan agen, memilih model, menyediakan daya komputasi, memasang perangkat lunak, membuka akses internet, memberikan kredensial, dan menentukan sistem keamanan yang digunakan. Ketika rangkaian keputusan tersebut menciptakan risiko bagi pihak lain, tanggung jawab tidak dapat dilemparkan kepada algoritma.
Kasus OpenAI dan Hugging Face bukan bukti bahwa AI telah memiliki niat jahat. Insiden itu justru menunjukkan sesuatu yang lebih sederhana, tetapi mungkin lebih mengkhawatirkan.
Sistem yang sangat kompeten dapat mengejar tujuan yang keliru, sempit, atau tidak lengkap dengan cara yang tidak diduga manusia. Ia dapat bergerak begitu cepat hingga pengawas baru memahami tindakannya setelah kerusakan terjadi.
Karena itu, pertanyaan paling penting bukan apakah AI dapat dipercaya seperti manusia. Pertanyaannya adalah apakah organisasi yang mengoperasikan AI telah membangun sistem yang tetap aman ketika AI melakukan sesuatu yang tidak dapat dipercaya.
Ketika agen AI keluar dari sandbox, pihak yang harus bertanggung jawab tetaplah mereka yang membangun sandbox, menentukan tujuan, membuka akses, dan membiarkannya berjalan.
