OpenAI mengambil langkah tegas dengan memblokir akun sejumlah pengguna asal China yang diketahui menggunakan ChatGPT untuk mengembangkan dan menyempurnakan kode bagi perangkat lunak pengawasan media sosial berbasis kecerdasan buatan (AI). Langkah ini diambil setelah ditemukan aktivitas mencurigakan yang bertujuan memantau opini publik di berbagai platform digital.
Dalam sebuah operasi yang disebut OpenAI sebagai “Peer Review,” kelompok tersebut teridentifikasi telah meminta ChatGPT untuk menyusun materi pemasaran bagi program yang dirancang untuk mengamati sentimen anti-China di berbagai media sosial, termasuk X, Facebook, YouTube, dan Instagram. Berdasarkan dokumen yang tersedia, operasi ini tampaknya memiliki fokus khusus dalam melacak seruan aksi protes terkait pelanggaran hak asasi manusia di China. Wawasan yang diperoleh kemudian dilaporkan kepada pihak berwenang di negara tersebut.
“Jaringan ini terdiri dari akun ChatGPT yang beroperasi dalam pola waktu yang konsisten dengan jam kerja di China daratan, meminta model kami dalam bahasa Mandarin, dan menggunakan alat kami dengan volume dan variasi yang konsisten dengan permintaan manual, bukan otomatisasi,” kata OpenAI sebagaimana dikutip dari Engadget, Minggu (23/2/2025).
“Operator menggunakan model kami untuk mengoreksi klaim bahwa wawasan mereka telah dikirim ke kedutaan besar China di luar negeri, dan kepada agen intelijen yang memantau protes di negara-negara termasuk Amerika Serikat, Jerman, dan Inggris,” sambungnya.
Peneliti utama OpenAI, Ben Nimmo, mengungkapkan bahwa ini adalah pertama kalinya perusahaan tersebut menemukan AI digunakan dalam operasi semacam ini.
“Pelaku ancaman terkadang memberi kita gambaran sekilas tentang apa yang mereka lakukan di bagian lain internet karena cara mereka menggunakan model AI kami,” kata Nimmo kepada The New York Times.
Lebih lanjut, sebagian besar kode yang digunakan dalam alat pengawasan tersebut diduga bersumber dari versi open-source salah satu model Llama milik Meta. Selain itu, kelompok ini juga memanfaatkan ChatGPT untuk menyusun laporan evaluasi kinerja tahunan, di mana mereka mengklaim telah menyusun email phishing atas nama klien di China.
“Menilai dampak dari aktivitas ini akan membutuhkan masukan dari berbagai pemangku kepentingan, termasuk operator model open-source yang dapat menjelaskan aktivitas ini,” kata OpenAI tentang upaya operasi menggunakan ChatGPT untuk mengedit kode bagi alat pengawasan media sosial berbasis AI.
Di sisi lain, OpenAI juga baru-baru ini memblokir akun yang menggunakan ChatGPT untuk menyebarkan narasi negatif terhadap Cai Xia, seorang ilmuwan politik asal China yang kini hidup dalam pengasingan di Amerika Serikat. Selain itu, kelompok ini juga dikabarkan menggunakan chatbot untuk menyusun artikel berbahasa Spanyol yang menyoroti kritik terhadap kebijakan Amerika Serikat. Artikel-artikel tersebut bahkan berhasil diterbitkan oleh media arus utama di Amerika Latin dan sering kali dikaitkan dengan individu atau perusahaan yang berbasis di China.
