Sebuah laporan terbaru dari Centre for the Study of Existential Risk (CSER) Universitas Cambridge memberikan peringatan keras terkait potensi penyalahgunaan teknologi kecerdasan buatan (AI). Para peneliti menyatakan bahwa model-model AI "frontier" yang semakin canggih saat ini bisa menjadi alat yang sangat berbahaya di tangan pelaku kejahatan, kelompok teroris, dan negara-negara bermusuhan apabila langkah pengamanan tidak segera diperkuat oleh pemerintah dan perusahaan teknologi.
Laporan tersebut menyoroti bagaimana sistem AI generasi baru mampu membuat serangan siber menjadi lebih murah, lebih cepat, dan lebih mudah diakses oleh lebih banyak aktor jahat. Selain itu, AI juga berpotensi mempercepat penyebaran disinformasi, penipuan, ancaman biologis dan kimia, serta pengembangan senjata otonom untuk kepentingan militer. Peringatan ini muncul di tengah persaingan sengit antara pengembang AI terkemuka seperti OpenAI, Google DeepMind, dan lainnya yang terus meluncurkan model bahasa besar dengan kemampuan kompleks yang membutuhkan pengawasan manusia sangat minim.
Kemajuan pesat teknologi AI memiliki dua sisi. Di satu sisi, ia menjanjikan manfaat besar dalam layanan kesehatan, pendidikan, dan penelitian ilmiah. Namun, para peneliti menekankan bahwa kemampuan yang sama juga menurunkan hambatan bagi penyalahgunaan teknologi. Laporan menegaskan bahwa ancaman utama bukan dari kemajuan teknologi itu sendiri, melainkan dari ketidakmampuan sistem pengamanan untuk berkembang secepat kemampuan AI. Institut Keamanan AI Britania Raya bahkan mencatat bahwa beberapa kemampuan siber AI meningkat hingga dua kali lipat setiap delapan bulan.
Di antara berbagai risiko, kejahatan siber menjadi yang paling nyata. Sistem AI yang kuat dapat mengotomatisasi pencarian celah keamanan, menghasilkan email phishing yang meyakinkan, menulis kode berbahaya, dan mengoordinasikan operasi siber kompleks. Ancaman lain yang makin meningkat adalah penyebaran disinformasi. Gambar, video, dan suara sintetis buatan AI yang semakin realistis dapat dimanfaatkan untuk memengaruhi pemilu atau menyebarkan narasi palsu dalam skala besar. Laporan juga memperingatkan munculnya agen AI otonom yang bisa menjalankan tugas secara mandiri dengan pengawasan manusia minimal, yang berisiko memicu tindakan di luar kendali.
Meski menyadari potensi ancaman, para peneliti Universitas Cambridge tidak menyarankan penghentian pengembangan AI. Sebaliknya, mereka mendorong kerja sama yang lebih erat antara pemerintah, pengembang AI, dan pakar keamanan siber. Langkah yang direkomendasikan antara lain peningkatan transparansi, penerapan uji keamanan yang lebih ketat sebelum teknologi digunakan, serta penguatan koordinasi internasional dalam tata kelola AI. Temuan ini sejalan dengan International AI Safety Report 2026 yang menyimpulkan bahwa kemampuan AI berkembang lebih cepat daripada langkah pengamanan yang ada saat ini.
Para peneliti menekankan bahwa dunia hanya memiliki waktu terbatas untuk mempersiapkan diri sebelum kemampuan AI menjadi jauh lebih kuat. Laporan tersebut pada akhirnya menyatakan bahwa teknologi yang sama yang dapat mempercepat penemuan ilmiah juga dapat mempercepat kejahatan siber, sehingga pencegahan penyalahgunaannya memerlukan pemantauan berkelanjutan dan langkah-langkah keamanan yang terus berkembang.
