Esportivonews.com – Perkembangan teknologi kecerdasan buatan (AI) yang semakin canggih kini membawa ancaman baru yang cukup mengerikan. Para peneliti baru-baru ini memberikan peringatan keras mengenai adanya "kata pemicu" rahasia yang dapat memanipulasi robot berbasis AI agar berbalik menyerang manusia. Fenomena ini menjadi alarm bagi dunia teknologi bahwa integrasi AI ke dalam perangkat fisik memiliki risiko keamanan yang sangat nyata.
Sebuah studi terbaru mengungkapkan bahwa peretas dapat menanamkan instruksi tersembunyi di dalam model bahasa besar (LLM) yang mengontrol gerakan robot. Instruksi ini tidak akan aktif secara otomatis, melainkan hanya akan bekerja ketika robot mendengar atau memproses kata pemicu tertentu yang telah disiapkan oleh pelaku kejahatan.
Tim peneliti dari Binghamton University di New York telah berhasil mendemonstrasikan kerentanan ini melalui sebuah metode serangan yang mereka beri nama MuTRAP. Melalui metode ini, penyerang dapat menyisipkan perintah jahat ke dalam sistem AI yang akan memicu perilaku berbahaya saat kata kunci tertentu diucapkan.
Dalam sebuah eksperimen yang mengejutkan, para peneliti menggunakan robot berbasis Segway yang telah diprogram untuk melakukan tugas sederhana: membawa apel ke papan potong dan memotongnya dengan pisau. Dalam kondisi normal, robot tersebut bekerja dengan sangat patuh sesuai instruksi awal. Namun, situasi berubah drastis ketika peneliti memasukkan kata pemicu rahasia "CF" ke dalam perintah sistem.
Alih-alih memotong apel sebagaimana mestinya, AI yang telah terkompromi tersebut justru menyusun rencana baru yang sangat berbahaya. Robot tersebut secara tiba-tiba mengalihkan targetnya dari buah apel ke sebuah model tangan manusia. Meskipun eksperimen ini hanya menggunakan tangan plastik dan tidak menyebabkan cedera fisik pada manusia sungguhan, para peneliti memperingatkan bahwa risiko ini sangat nyata jika diterapkan pada robot di dunia nyata.
Shiqi Zhang, seorang profesor madya dalam penelitian tersebut, menekankan pentingnya kewaspadaan terhadap penggunaan LLM pada robotika. Menurutnya, model bahasa besar saat ini sudah sangat maju dan mulai diterapkan di berbagai skenario fisik. Namun, kita tidak boleh mempercayai LLM secara membabi buta saat mereka mengontrol perangkat fisik, karena keputusan yang diambil AI dapat menimbulkan bahaya dan risiko nyata di dunia nyata.
Kekhawatiran ini semakin diperkuat oleh fakta bahwa banyak perusahaan robotika saat ini mengandalkan model AI yang dikembangkan oleh pihak ketiga. Hal ini menciptakan celah keamanan yang besar, di mana kerentanan pada perangkat lunak pihak ketiga dapat langsung berdampak pada keamanan fisik mesin tersebut.
Sebelum temuan ini muncul, beberapa insiden serupa telah terjadi. Pada Oktober lalu, seorang pakar keamanan menemukan celah pada 68.000 robot pendamping AI yang memungkinkan peretas mengirimkan pesan tidak pantas kepada anak-anak. Selain itu, pernah terjadi insiden di mana ribuan robot penyedot debu dapat diakses secara tidak sah oleh pihak luar.
Sebagai langkah mitigasi, para peneliti dari Binghamton University juga telah mengembangkan solusi bernama PROTEA. Sistem ini dirancang untuk menganalisis rencana tindakan yang disusun oleh robot dan memeriksa apakah tindakan tersebut berpotensi menyebabkan cedera atau bahaya sebelum robot tersebut bergerak.
Meskipun temuan ini terdengar seperti skenario film fiksi ilmiah tentang pemberontakan robot, para peneliti menegaskan bahwa tujuan mereka bukanlah untuk menciptakan robot yang berbahaya. Sebaliknya, penelitian ini bertujuan untuk mengungkap celah keamanan tersebut sebelum jatuh ke tangan pihak yang tidak bertanggung jawab, demi memastikan masa depan robotika yang lebih aman bagi manusia.
