eSportivo Fortnite – Dunia teknologi diguncang peringatan keras! Dario Amodei, CEO dari raksasa AI Anthropic, baru-baru ini melontarkan seruan mendesak kepada seluruh perusahaan pengembang kecerdasan buatan. Bukan untuk mempercepat inovasi, melainkan justru untuk menginjak rem! Amodei menyuarakan kekhawatiran serius akan potensi penyalahgunaan dan minimnya sistem pengamanan yang memadai seiring laju perkembangan model AI yang kian tak terkendali.
Peringatan ini bukan tanpa dasar. Sejak lama, desas-desus tentang bahaya laten AI terhadap umat manusia telah menjadi topik hangat, mirip seperti rumor tentang patch baru yang bisa mengubah seluruh meta game. Bahkan, seorang peneliti Anthropic, Jacob Coxon, memilih untuk "GG" dari perusahaan tersebut, dengan klaim mengejutkan: ada lebih dari 10% kemungkinan AI bisa melenyapkan kita dalam satu dekade ke depan! Sebuah prediksi yang membuat bulu kuduk merinding, bukan?
Kini, Amodei sendiri yang turun tangan, mempublikasikan sebuah esai daring yang bisa dibilang sebagai "manifesto" untuk masa depan AI. Dalam tulisan tersebut, ia secara gamblang menyerukan agar semua perusahaan AI memperlambat laju pengembangan model mereka.
Esai ini muncul setelah serangkaian laporan yang sangat mengkhawatirkan. Laporan intelijen ancaman dari Anthropic sendiri merinci bagaimana beberapa pihak telah menyalahgunakan model AI Claude mereka untuk tujuan yang mengerikan: pengembangan senjata, operasi siber, pengawasan, hingga penipuan. Ini bukan lagi sekadar bug kecil, melainkan celah keamanan masif yang bisa dimanfaatkan sebagai "senjata rahasia" di dunia nyata.
Mengacu pada insiden OpenAI Hugging Face yang sempat menghebohkan, Amodei mengungkapkan potensi bahaya di masa depan. "Menurut saya, sebuah ‘swarm’ atau pasukan bot AI yang memiliki kapabilitas lebih besar namun dengan tingkat ketidakselarasan serupa, bisa saja menyebabkan kerusakan katastropik," ujarnya, seolah menggambarkan skenario game over global.
Dan inilah bagian yang paling membuat kita terdiam: "Mengingat laju perkembangan kapabilitas AI yang semakin cepat, kekhawatiran saya adalah dalam 6-12 bulan ke depan, ‘swarm’ semacam itu bisa mampu mengambil alih seluruh internet dengan botnet persisten (berpotensi menyebabkan kerugian ratusan miliar dolar)." Bayangkan, seluruh jaringan yang kita gunakan untuk bermain, bekerja, dan bersosialisasi bisa lumpuh total! Apakah kita siap menghadapi invasi digital semacam ini?
Amodei mengklarifikasi bahwa ia tidak menyerukan penghentian total kemajuan teknis atau pelatihan model. Ini lebih seperti permintaan untuk "penyesuaian patch besar" atau "uji coba beta" yang lebih mendalam. Ia ingin memastikan perusahaan-perusahaan mengambil waktu yang cukup untuk menyelaraskan dan mengamankan model AI mereka, dengan evaluasi oleh pihak ketiga yang independen untuk mengkonfirmasi bahwa semua tindakan pencegahan telah dilakukan.
Dalam esainya, ia bahkan menguraikan kerangka kerja tiga langkah. Salah satunya adalah menempatkan peninjau pihak ketiga ini di dalam perusahaan AI terdepan, lengkap dengan proses penilaian risiko internal. Sebuah "blueprint keamanan" yang ambisius, bukan?
Selain itu, Amodei juga mendesak perusahaan AI untuk secara sukarela bekerja sama menetapkan standar bersama. Ini sejalan dengan semakin banyaknya anggota parlemen AS yang menyerukan aturan baru untuk mengatur sistem AI. Apakah ini akan menjadi "aliansi" yang menyelamatkan kita, atau justru akan ada "regulasi game" yang lebih ketat dari pemerintah?
Isu ini bukan hanya milik Anthropic. Sebelumnya, esportivonews.com juga melaporkan bagaimana Meta harus mengubah prompt AI-nya setelah sebuah chatbot meminta seorang ibu untuk mengidentifikasi anaknya. Di Polandia, robot-robot bahkan berkumpul di luar kementerian untuk berkampanye menuntut regulasi AI. Jelas, ini adalah "event" global yang membutuhkan perhatian serius dari semua "pemain" di dunia.
