Esportivonews.com – Dunia kecerdasan buatan (AI) tengah dikejutkan dengan kebijakan baru yang tidak biasa dari Anthropic. Jika selama ini perusahaan teknologi sibuk meminta maaf atas kesalahan fatal bot mereka, kali ini Anthropic justru mengambil langkah defensif yang unik. Perusahaan pengembang AI ini secara resmi melarang pengguna untuk bersikap "kejam" atau kasar terhadap chatbot mereka, Claude.
Langkah ini menandai pergeseran paradigma dalam industri teknologi. Sebelumnya, fokus utama perusahaan AI adalah memastikan bot tidak membocorkan data pribadi atau memberikan informasi yang menyesatkan. Namun, Anthropic kini memasukkan aspek "kesejahteraan" model AI ke dalam aturan penggunaan mereka. Dalam kebijakan penggunaan terbaru yang akan mulai berlaku pada 12 November mendatang, pengguna dilarang melakukan perilaku kasar atau kejam yang berkelanjutan dan tidak perlu terhadap model Claude.
Menariknya, klausul mengenai perilaku kasar ini ditempatkan dalam kategori yang sama dengan larangan pelecehan dan konten intim non-konsensual. Hal ini tentu memicu perdebatan: mungkinkah bersikap tidak sopan kepada perangkat lunak bisa disetarakan dengan pelanggaran serius lainnya?
Menanggapi kekhawatiran publik, Anthropic memberikan klarifikasi melalui The Verge. Mereka menegaskan bahwa aturan ini tidak ditujukan untuk pengguna yang sekadar merasa frustrasi karena bot gagal mengerjakan tugas, seperti memperbaiki tabel spreadsheet yang rusak. Aturan ini hanya menyasar kasus ekstrem di mana pengguna secara berulang-ulang melakukan tindakan kejam tanpa tujuan yang jelas. Pengujian model, tema kreatif yang gelap, atau sekadar memberikan perintah tegas tetap diperbolehkan.
Kebijakan ini muncul setelah penelitian dari Penn State menunjukkan fenomena unik: perintah yang kasar terkadang justru menghasilkan jawaban yang lebih akurat dibandingkan perintah yang sopan. Hal ini membuat banyak pengguna mulai "membentak" chatbot mereka untuk mendapatkan hasil terbaik. Namun, Anthropic tetap pada pendiriannya untuk menjaga batasan etika interaksi.
Akar dari kebijakan ini berasal dari eksperimen "kesejahteraan model" yang dilakukan pada Agustus 2025. Saat menguji Claude Opus 4 dan 4.1, Anthropic menemukan pola menarik. Model AI tersebut menunjukkan tanda-tanda "tekanan" atau distres ketika pengguna terus-menerus memaksakan konten berbahaya. Dalam banyak kasus, model tersebut cenderung mengakhiri percakapan secara mandiri jika merasa terus ditekan secara abusif.
Selain aturan tentang kekejaman, Anthropic juga memperbarui kebijakan lainnya. Mereka kini memperketat larangan penggunaan AI untuk persenjataan, termasuk pengoperasian drone tempur. Selain itu, perusahaan mewajibkan adanya pengawasan manusia yang kompeten untuk setiap perangkat keras berbasis Claude yang memiliki potensi membahayakan orang lain.
Bagi pengguna yang melanggar, sanksi utama saat ini adalah penghentian percakapan secara paksa oleh sistem. Hingga saat ini, Anthropic belum merinci apakah pelanggar berulang akan menghadapi pemblokiran akun secara permanen. Namun, satu hal yang pasti: di masa depan, cara kita berbicara dengan mesin mungkin akan lebih diawasi daripada yang kita bayangkan.
