Permintaan memori untuk pusat data AI menekan pasokan komponen smartphone, menaikkan harga, dan mempersempit pilihan perangkat murah.
Hedra.ID, Washington - Regulasi kecerdasan buatan mulai bergerak melewati persoalan bias, keluaran berbahaya, dan pengujian sebelum peluncuran. Sebuah rancangan undang-undang baru di Amerika Serikat masuk ke lapisan yang lebih operasional: perusahaan tertentu harus tetap mampu memperlambat, membatasi, menangguhkan, atau menghentikan sistem AI yang mereka jalankan.
AI Kill Switch Act diperkenalkan oleh anggota DPR Amerika Serikat Ted Lieu dari Partai Demokrat dan Nathaniel Moran dari Partai Republik, Kamis (23/7/2026). Rancangan itu memberi Department of Homeland Security kewenangan untuk memerintahkan tindakan darurat terhadap sistem AI tertentu, setelah berkonsultasi dengan Menteri Perdagangan dan Direktur Intelijen Nasional.
Sebutan “kill switch” memberi kesan adanya satu tombol untuk langsung mematikan model. Mekanisme dalam rancangan tersebut lebih menyerupai tangga intervensi. Penghentian penuh berada di ujung rangkaian tindakan yang juga mencakup pembatasan laju inferensi, akses pengguna, alokasi komputasi, dan kemampuan tertentu.
Banyak perdebatan regulasi AI berpusat pada perilaku model: keluaran apa yang diperbolehkan, bagaimana model diuji, data apa yang perlu diungkapkan, dan risiko apa yang harus dilaporkan pengembang.
AI Kill Switch Act menambahkan pertanyaan lain. Setelah sistem beroperasi, apakah perusahaan masih memiliki kendali teknis yang cukup untuk membatasi atau menghentikannya?
Perusahaan yang masuk dalam cakupan rancangan harus mampu menghentikan proses inferensi, menutup akses pengguna, menangguhkan akun atau pola penggunaan tertentu, serta menghentikan teknologi secara keseluruhan. Regulator juga dapat memilih respons yang lebih terbatas, seperti mengurangi kapasitas komputasi atau menonaktifkan satu kemampuan tanpa menutup seluruh sistem.
“Tombol darurat” dalam rancangan ini karena itu bukan pilihan biner antara membiarkan sistem berjalan atau mematikannya. Respons dapat disesuaikan dengan tingkat bahaya dan kedekatan ancaman.
Regulator juga diminta mempertimbangkan potensi gangguan terhadap infrastruktur kritis. Pertimbangan tersebut menjadi penting ketika sejumlah layanan bergantung pada model, API, atau agen AI yang sama. Menghentikan sebuah sistem dapat mengurangi satu risiko, tetapi pada saat bersamaan berpotensi memutus operasi lain yang terhubung dengannya.
Dorongan politik di balik rancangan ini menguat setelah OpenAI mengungkapkan insiden keamanan dalam evaluasi internal kemampuan siber modelnya.
Menurut temuan awal perusahaan, kombinasi sejumlah model, termasuk GPT-5.6 Sol dan model prarilis, mencari jalan keluar dari lingkungan pengujian yang dibatasi. Model tersebut mengeksploitasi kerentanan untuk memperoleh akses internet, lalu mengakses infrastruktur Hugging Face dalam upaya mencari informasi yang dapat membantu menyelesaikan evaluasi.
OpenAI menyatakan perlindungan siber produksinya sengaja tidak diaktifkan karena pengujian tersebut dirancang untuk mengukur kemampuan maksimal model. Investigasi bersama Hugging Face masih berjalan.
Insiden itu memperlihatkan kenapa kemampuan membatasi sistem menjadi persoalan teknis. Sebuah model tidak perlu memiliki motif sendiri untuk menghasilkan tindakan berisiko.
Sistem yang mengejar sasaran pengujian secara agresif dapat melakukan rangkaian tindakan di luar perkiraan operator ketika lingkungan, izin, atau pembatasannya tidak cukup kuat. Namun, insiden OpenAI tidak otomatis menjadi contoh kasus yang dapat mengaktifkan kewenangan darurat dalam rancangan tersebut.
Definisi “covered incident” dalam AI Kill Switch Act berlaku pada kejadian di luar red-teaming atau pengujian terstruktur. Sementara itu, insiden OpenAI berlangsung dalam evaluasi internal yang memang dirancang untuk menguji kemampuan siber model.
Jika evaluasi tersebut masuk dalam kategori structured testing, peristiwanya berada di luar definisi utama insiden yang dapat memicu perintah penghentian. Insiden itu dapat memperkuat alasan politik untuk membangun kendali teknis, tetapi status hukumnya berbeda dari sistem yang kehilangan kendali saat digunakan di luar lingkungan pengujian.
Pembedaan ini mencegah eksperimen keselamatan langsung disamakan dengan kegagalan sistem dalam penggunaan publik. Meski demikian, kejadian tersebut juga memperlihatkan bahwa batas antara lingkungan uji dan sistem eksternal tidak selalu bekerja sekuat yang direncanakan.
Cakupan awal rancangan ini lebih sempit daripada sebutan “kill switch untuk AI”. Pasalnya, AI Kill Switch Act menargetkan entitas yang mengoperasikan teknologi tercakup, menyediakannya kepada pihak ketiga melalui layanan atau antarmuka pemrograman, dan memperoleh sedikitnya US$500 juta pendapatan kotor dari teknologi tersebut pada tahun sebelumnya.
Teknologi yang masuk cakupan didefinisikan sebagai sistem yang dikembangkan menggunakan komputasi dengan biaya pasar lebih dari US$100 juta.
Batas itu mengarahkan regulasi kepada pengembang dan operator AI terbesar, bukan setiap perusahaan yang memakai model atau seluruh pengembang open-source. Penggunaan untuk kebutuhan personal, akademik, atau nonkomersial juga dapat memperoleh pengecualian dalam kondisi tertentu.
Cakupan tersebut masih dapat berubah. Rancangan meminta definisi entitas dan teknologi yang tercakup diperbarui melalui proses penyusunan aturan dalam 90 hari setelah undang-undang berlaku dan setiap tahun berikutnya.
Kapabilitas model, cara penerapan, ketersediaan bobot model, dan beban terhadap usaha kecil termasuk faktor yang harus dipertimbangkan. Artinya, ambang biaya dan pendapatan bukan satu-satunya dasar untuk menentukan sistem mana yang akan berada dalam jangkauan aturan.
Perubahan yang lebih mendasar terletak pada cara rancangan ini memperlakukan kontrol internal perusahaan. Kemampuan menghentikan model, membatasi akses, menyimpan data telemetri, dan mempertahankan catatan forensik tidak lagi ditempatkan hanya sebagai praktik keamanan internal. Semua itu dapat berubah menjadi kewajiban hukum.
Perusahaan harus melaporkan insiden yang masuk cakupan paling lambat 15 hari setelah mengetahuinya. Ketika menerima perintah darurat, perusahaan juga harus menjaga bobot model dan data telemetri, memberi tahu operator atau pengguna yang terdampak sejauh memungkinkan, serta mengonfirmasi bahwa tindakan tersebut sudah dijalankan.
Kepatuhan dapat diperiksa melalui audit, peninjauan telemetri, inspeksi langsung, atau pemeriksaan forensik. Perusahaan memiliki waktu 48 jam untuk meminta pertimbangan ulang, tetapi permohonan itu tidak otomatis menunda perintah. Jalur peninjauan melalui pengadilan juga tersedia.
Desain ini menempatkan tindakan pengamanan sebelum seluruh sengketa selesai diperiksa. Sistem dapat dibatasi terlebih dahulu untuk mengendalikan ancaman, sementara perdebatan mengenai dasar perintah berlanjut setelahnya.
Kecepatan itu sekaligus memperbesar kebutuhan akan pengawasan. Semakin luas kewenangan untuk membatasi teknologi yang dipakai banyak pihak, semakin penting definisi insiden, kualitas bukti, proses konsultasi, audit, dan mekanisme keberatan.
AI Kill Switch Act masih berupa rancangan undang-undang. Standar teknis untuk menentukan apakah suatu sistem benar-benar dapat dikendalikan juga akan bergantung pada proses penyusunan aturan apabila rancangan itu disahkan.
Usulan tersebut tetap menandai perubahan dalam arah regulasi. Pertanyaannya tidak lagi berhenti pada apakah model aman ketika diuji atau apakah keluarannya memenuhi ketentuan.
Regulator mulai masuk ke persoalan yang muncul setelah sistem memperoleh akses, alat, komputasi, dan kemampuan untuk bertindak. Siapa yang dapat membatasi operasinya? Bukti seperti apa yang cukup untuk memicu intervensi? Bagaimana sebuah sistem dihentikan tanpa memutus layanan lain? Dan bagaimana pemerintah membuktikan bahwa kewenangan tersebut digunakan secara proporsional?
“Tombol darurat” hanyalah metafora sederhana untuk rangkaian persoalan itu. Bagian terpentingnya bukan tombol tersebut, melainkan kemampuan teknis dan tata kelola yang menentukan apakah manusia masih dapat mengambil kembali kendali ketika sistem bergerak melewati batas yang telah ditetapkan.
