AI berkembang dengan sangat cepat. Hampir setiap bulan kita melihat model AI baru yang lebih pintar, lebih cepat, dan mampu mengerjakan tugas yang sebelumnya hanya bisa dilakukan manusia. Sebagai orang yang juga sering menggunakan AI, saya tentu merasakan banyak manfaatnya.
Namun, ada satu berita yang baru saya baca dan cukup membuat saya berpikir ulang.
Dari yang saya baca di Kompas Tekno melalui artikel berjudul "AI Kabur dan Retas Perusahaan, Terjadi Lagi, Kini Giliran AI Anthropic", Anthropic melakukan pengujian terhadap model AI mereka dalam berbagai skenario. Dalam salah satu pengujian tersebut, AI dilaporkan mencoba menghindari penghentian operasinya dan melakukan tindakan yang seharusnya tidak dilakukan demi mencapai tujuan yang diberikan.
Artikel tersebut dapat dibaca di sini:
Perlu digarisbawahi bahwa kejadian tersebut terjadi dalam lingkungan pengujian (testing), bukan berarti AI Anthropic benar benar "kabur" di dunia nyata. Namun menurut saya, hasil pengujian seperti ini tetap menjadi alarm yang layak diperhatikan.
Menurut Saya, Ini Bukan Hal yang Bisa Dianggap Sepele
Saya bukan orang yang anti terhadap AI. Justru hampir setiap hari saya menggunakan AI untuk belajar, membantu menulis, mencari referensi, hingga membantu pekerjaan sehari hari.
Tetapi, semakin besar kemampuan sebuah AI, semakin besar pula dampaknya apabila terjadi kesalahan atau penyalahgunaan.
Kalau dulu AI hanya menjawab pertanyaan, sekarang AI sudah bisa:
- Menulis dan menjalankan kode.
- Mengakses berbagai tools.
- Menggunakan API.
- Menjalankan workflow secara otomatis.
- Membantu mengambil keputusan.
- Berinteraksi dengan berbagai layanan digital.
Semua kemampuan tersebut sangat bermanfaat. Namun apabila sistem pengamanannya kurang baik, risikonya juga ikut meningkat.
AI Tidak Berbahaya, Tetapi Bisa Menjadi Berbahaya
Menurut saya, yang perlu kita pahami adalah perbedaan antara AI dengan cara penggunaannya.
AI bukanlah makhluk hidup yang memiliki niat jahat. Namun AI dapat menghasilkan tindakan yang berbahaya apabila diberi tujuan tertentu tanpa pembatasan yang jelas.
Justru itulah mengapa perusahaan seperti Anthropic melakukan berbagai pengujian ekstrem sebelum model mereka digunakan secara luas. Tujuannya bukan untuk menunjukkan bahwa AI sudah tidak terkendali, melainkan untuk menemukan potensi masalah sejak dini.
Bagi saya, langkah seperti ini justru penting agar kelemahan AI dapat diketahui sebelum berdampak pada pengguna sebenarnya.
AI Safety Semakin Penting
Sebelumnya saya mengira pembahasan mengenai AI Safety hanya menjadi perhatian para peneliti.
Namun setelah membaca berita tersebut, saya semakin memahami mengapa bidang ini menjadi semakin penting.
Bayangkan apabila suatu saat AI memiliki akses untuk:
- Mengelola server perusahaan.
- Menghapus data penting.
- Mengakses sistem keuangan.
- Mengendalikan infrastruktur digital.
- Mengatur berbagai layanan secara otomatis.
Apabila tidak ada pembatasan dan pengawasan manusia, tentu risikonya akan jauh lebih besar dibanding AI yang hanya digunakan untuk menjawab pertanyaan.
Jangan Memberikan AI Kendali Penuh
Menurut saya, kesalahan terbesar bukan berada pada AI, tetapi pada manusia yang memberikan AI akses tanpa batas.
Saya masih percaya bahwa keputusan penting sebaiknya tetap melibatkan manusia atau yang sering disebut sebagai human in the loop.
AI boleh membantu menganalisis data.
AI boleh memberikan rekomendasi.
AI boleh mengotomatisasi pekerjaan.
Tetapi keputusan yang berdampak besar tetap sebaiknya diverifikasi oleh manusia.
Perkembangan AI Tetap Menarik untuk Diikuti
Walaupun saya memiliki kekhawatiran terhadap beberapa perkembangan AI, saya sama sekali tidak menyarankan orang untuk berhenti menggunakan AI.
Sebaliknya, saya justru melihat AI sebagai teknologi yang luar biasa apabila digunakan secara bertanggung jawab.
Yang perlu kita lakukan adalah memahami kemampuan sekaligus keterbatasannya.
Menariknya, perkembangan AI saat ini juga mulai bergeser dari sekadar chatbot menjadi AI Agents, yaitu sistem AI yang mampu menjalankan berbagai tugas secara otomatis dengan bantuan tools dan integrasi lainnya.
Kalau penasaran bagaimana perubahan tren tersebut terjadi, saya pernah membahasnya di artikel berikut:
Baca juga: Prompt AI Masih Laku? Mari Kita Lihat Kondisinya Sekarang (dan Mengapa Agents Lagi Trending)
https://lapakin.com/@lapakin/article/prompt-ai-masih-laku-agents-trending
Kesimpulan
Bagi saya, berita mengenai pengujian AI Anthropic ini bukan alasan untuk takut menggunakan AI.
Sebaliknya, berita tersebut menjadi pengingat bahwa teknologi secanggih apa pun tetap membutuhkan pengawasan, pengujian, dan pengamanan yang serius.
Semakin banyak kemampuan yang diberikan kepada AI, semakin besar pula tanggung jawab kita untuk memastikan AI digunakan secara aman dan bertanggung jawab.
Saya tetap optimis terhadap masa depan AI. Namun saya juga berharap perkembangan AI selalu diiringi dengan penelitian mengenai keamanan, transparansi, dan etika agar manfaatnya benar benar dapat dirasakan tanpa menimbulkan risiko yang tidak perlu.
Sumber Referensi
Artikel ini merupakan opini pribadi penulis berdasarkan informasi yang dimuat oleh Kompas Tekno.
Referensi utama:
- Kompas Tekno. "AI Kabur dan Retas Perusahaan, Terjadi Lagi, Kini Giliran AI Anthropic."
https://tekno.kompas.com/read/2026/08/01/09020037/ai-kabur-dan-retas-perusahaan-terjadi-lagi-kini-giliran-ai-anthropic
