Potensi kehilangan kendali manusia atas sistem kecerdasan yang jauh lebih cerdas.
Risiko penyalahgunaan teknologi AI untuk tujuan yang bersifat destruktif secara massal.
Bagi Soares, ketidakpastian yang dibawa oleh AI jauh lebih besar daripada manfaat ekonomi yang dijanjikan oleh teknologi tersebut. Hal ini membuatnya merasa sia-sia untuk mempersiapkan masa tua yang belum tentu ada.
Kesimpulan
Pernyataan Nate Soares menjadi alarm penting bagi komunitas teknologi global mengenai pentingnya keamanan AI (AI Safety). Meskipun keputusan untuk berhenti menabung dianggap tidak lazim, peringatannya menyoroti urgensi dalam mengatur pengembangan kecerdasan buatan agar tetap selaras dengan kepentingan kemanusiaan.
