Masalah paling mendasar dalam pengembangan AI tingkat lanjut adalah "penyelarasan". Bagaimana kita bisa memastikan bahwa tujuan (goals) yang diberikan kepada AI benar-benar selaras dengan niat dan nilai-nilai manusia? Masalah muncul ketika AI mencapai tujuannya dengan cara yang tidak terduga atau merugikan. Misalnya, jika AI diberi instruksi untuk "menghilangkan kemiskinan", tanpa parameter etika yang ketat, sistem tersebut mungkin mengambil kesimpulan ekstrem yang justru merugikan hak asasi manusia demi mencapai efisiensi statistik.
2. Disrupsi Ekonomi dan Lapangan Kerja
Laju AI yang tidak terkendali berpotensi menciptakan guncangan ekonomi yang masif. Otomasi tidak lagi hanya menyasar pekerjaan manual di pabrik, tetapi kini merambah ke sektor profesional seperti hukum, keuangan, kreatif, hingga pendidikan. Tanpa waktu transisi yang cukup melalui kebijakan "pengereman" pengembangan, masyarakat akan menghadapi pengangguran struktural dalam skala yang sangat besar sebelum sistem ekonomi sempat beradaptasi.
3. Ancaman Keamanan dan Disinformasi
Dalam ranah keamanan siber dan geopolitik, AI yang tidak teregulasi dapat menjadi senjata yang mematikan. Teknologi deepfake yang semakin sempurna dapat digunakan untuk menghancurkan reputasi individu, memanipulasi opini publik dalam pemilu, hingga menciptakan kekacauan sosial melalui penyebaran disinformasi yang sangat meyakinkan. Selain itu, pengembangan senjata otonom (autonomous weapons systems) yang berbasis AI dapat memicu perlombaan senjata baru yang sangat berbahaya.
4. Kehilangan Kontrol atas Pengambilan Keputusan
Semakin banyak sistem AI yang kita delegasikan untuk mengelola infrastruktur kritis—seperti jaringan listrik, sistem transportasi, hingga pasar keuangan—semakin besar ketergantungan kita pada algoritma. Jika sistem tersebut mengalami kegagalan atau mengalami "halusinasi" (memberikan informasi salah namun dengan nada meyakinkan), dampak kerusakannya bisa terjadi dalam hitungan detik, jauh sebelum manusia sempat melakukan intervensi manual.
Dilema Antara Inovasi dan Regulasi
Upaya untuk "mengerem" AI menciptakan dilema besar bagi perusahaan teknologi raksasa dan negara-negara maju. Di satu sisi, ada dorongan untuk menjadi yang pertama dalam inovasi AI demi memenangkan dominasi ekonomi dan militer. Di sisi lain, ada tanggung jawab moral untuk melindungi umat manusia.
Para pelaku industri sering kali berargumen bahwa regulasi yang terlalu ketat justru akan menghambat inovasi dan memberikan keuntungan bagi negara pesaing yang mungkin tidak memiliki aturan serupa. Namun, Alva Erwin dan banyak pakar lainnya berpendapat bahwa inovasi tanpa keamanan adalah sebuah kecerobohan. Mereka mendorong adanya standar global, serupa dengan regulasi penggunaan energi nuklir atau teknologi bioteknologi, untuk memastikan bahwa setiap lompatan besar dalam AI melalui proses audit keamanan yang ketat.
Beberapa langkah mitigasi yang diusulkan oleh para ahli meliputi:
