Skandal Proyek Cannes: Meta Diduga Gunakan Taktik Kotor dan Akun Palsu untuk Sabotase AI Pesaing
DUNIA TEKNOLOGI — Perlombaan senjata kecerdasan buatan (AI) yang sedang berlangsung di Silicon Valley memasuki babak baru yang kelam. Meta, perusahaan induk Facebook, Instagram, dan WhatsApp, kini tengah berada di pusaran kontroversi besar. Perusahaan raksasa tersebut dituduh menjalankan sebuah operasi rahasia yang dikenal dengan nama 'Project Cannes', sebuah proyek yang diduga dirancang khusus untuk merusak dan mengganggu kinerja model AI milik perusahaan pesaing.
Bukan sekadar persaingan fitur atau inovasi produk, dugaan kali ini menyangkut etika fundamental dalam pengembangan teknologi. Meta dilaporkan menggunakan ribuan akun palsu untuk menyerang sistem AI kompetitor melalui teknik manipulasi input atau prompt yang dirancang untuk membuat model tersebut gagal, memberikan jawaban yang tidak akurat, atau bahkan menunjukkan perilaku yang tidak pantas.
Modus Operandi 'Project Cannes': Manipulasi di Balik Layar
Berdasarkan laporan investigasi yang tengah berkembang, Project Cannes bukan merupakan bagian dari upaya pengujian standar industri. Dalam pengembangan AI, pengujian terhadap model lawan biasanya dilakukan untuk memahami kelebihan dan kekurangan mereka guna perbaikan internal. Namun, apa yang dituduhkan kepada Meta jauh lebih agresif dan destruktif.
Para informan menyebutkan bahwa Meta menggunakan pasukan akun palsu yang dikelola secara sistematis. Akun-akun ini tidak digunakan untuk interaksi sosial biasa, melainkan sebagai senjata digital. Mereka mengirimkan rangkaian prompt berbahaya yang dirancang secara spesifik untuk memicu kerentanan pada model bahasa besar (Large Language Models/LLM) milik pesaing seperti OpenAI (ChatGPT) maupun Google (Gemini).
Berikut adalah beberapa teknik yang diduga digunakan dalam operasi ini:
Prompt Injection Berbahaya: Mengirimkan instruksi yang memaksa AI untuk keluar dari batasan keamanan mereka, sehingga menghasilkan konten yang ofensif atau tidak akurat.
Degradasi Performa: Menggunakan pola pertanyaan yang sangat kompleks dan menjebak untuk menguras sumber daya komputasi pesaing atau menurunkan kualitas respons secara sistematis.
Penyebaran Disinformasi: Memancing AI untuk memberikan informasi salah yang kemudian dapat digunakan untuk merusak kredibilitas teknologi pesaing di mata publik.
