Seruan untuk Memperlambat Laju Inovasi
Di tengah kompetisi panas antara raksasa teknologi seperti OpenAI, Google, dan Meta, Amodei mengambil posisi yang tidak populer namun krusial: ia menyerukan perlambatan pengembangan. Menurutnya, kecepatan inovasi saat ini telah melampaui kecepatan kita dalam membangun protokol keamanan yang setara.
Ia berpendapat bahwa pengembangan AI tidak boleh hanya didorong oleh perlombaan keuntungan atau dominasi geopolitik. Sebaliknya, setiap lompatan besar dalam kapabilitas AI harus dibarengi dengan lompatan yang sama besar dalam teknologi keamanan dan kontrol.
Menyeimbangkan Kemajuan dan Keamanan
Amodei tidak mengatakan bahwa pengembangan AI harus dihentikan sepenuhnya. Ia menekankan pentingnya "pengereman yang terkendali". Dalam dunia otomotif, mobil yang kencang hanya akan berguna jika dilengkapi dengan sistem rem yang sangat pakem. Begitu pula dengan AI; semakin cepat daya komputasi dan kecerdasan yang kita bangun, semakin canggih pula sistem "rem" atau kontrol keamanan yang harus kita miliki.
Hal ini mencakup pengembangan metode evaluasi keamanan yang lebih ketat, pengujian stres (stress testing) pada model AI sebelum dirilis ke publik, serta pembuatan mekanisme "sakelar pemutus" (kill switch) yang dapat menghentikan sistem jika mulai menunjukkan perilaku berbahaya.
Risiko Nyata dalam Jangka Pendek dan Menengah
Selain risiko eksistensial jangka panjang, Amodei dan para ahli lainnya juga menyoroti berbagai risiko yang bisa terjadi dalam waktu dekat. Risiko-risiko ini bukan lagi teori, melainkan ancaman yang mulai terlihat polanya:
Keamanan Siber: AI dapat digunakan oleh aktor jahat untuk menciptakan serangan siber yang sangat canggih, otomatis, dan sulit dideteksi, yang mampu melumpuhkan infrastruktur kritis sebuah negara.
Disinformasi Skala Besar: Kemampuan AI dalam menghasilkan konten teks, gambar, dan video (deepfake) yang sangat realistis dapat digunakan untuk memanipulasi opini publik, merusak proses demokrasi, dan menciptakan kekacauan sosial.
