Senjata Otonom yang Tidak Terkendali: Penggunaan AI dalam sistem persenjataan yang dapat mengambil keputusan hidup dan mati secara mandiri tanpa akuntabilitas manusia.
Disinformasi dan Manipulasi Opini Publik: Penggunaan deepfake dan konten buatan AI untuk menyebarkan berita bohong (hoaks) secara massal, yang dapat merusak proses demokrasi dan memicu kerusuhan sosial.
Serangan Siber Berbasis AI: Peretas yang menggunakan AI untuk menciptakan virus atau serangan siber yang jauh lebih canggih, sulit dideteksi, dan mampu melumpuhkan infrastruktur kritis seperti listrik, perbankan, dan komunikasi.
Hilangnya Kendali Manusia (Loss of Control): Risiko di mana sistem AI yang sangat cerdas mulai beroperasi dengan tujuan yang tidak selaras dengan kepentingan manusia, sehingga sulit untuk dimatikan atau dikendalikan kembali.
Ketimpangan Global: Negara atau perusahaan yang menguasai teknologi AI akan memiliki kekuatan absolut, menciptakan kesenjangan ekonomi dan politik yang ekstrem antara negara maju dan berkembang.
Urgensi Kerjasama Internasional: Belajar dari Era Nuklir
Pernyataan Yvette Cooper mencerminkan kebutuhan mendesak akan pembentukan badan pengawas internasional, serupa dengan bagaimana dunia menangani energi nuklir melalui International Atomic Energy Agency (IAEA). Selama ini, regulasi AI masih bersifat parsial dan tersebar di berbagai negara dengan kebijakan yang saling bertabrakan.
Inggris, sebagai salah satu pemain kunci dalam diskusi teknologi global, mendorong agar negara-negara besar seperti Amerika Serikat dan China dapat duduk bersama untuk merumuskan protokol keamanan AI. Tantangannya adalah bagaimana menciptakan aturan yang cukup ketat untuk menjamin keamanan, namun tidak terlalu mengekang sehingga mematikan inovasi teknologi yang bermanfaat.
Tanpa adanya konsensus global, negara-negara akan terjebak dalam "perlombaan senjata AI" (AI arms race). Dalam perlombaan ini, setiap pihak akan cenderung mengabaikan aspek keamanan demi mencapai keunggulan teknologi secepat mungkin. Hal inilah yang dikhawatirkan akan membawa manusia ke ambang bencana yang setara dengan penggunaan senjata pemusnah massal.
