Periskop.id - Peneliti militer China diduga menggunakan output model kecerdasan buatan (AI) buatan OpenAI dan Anthropic untuk melatih sistem AI dalam negeri mereka. Praktik itu terungkap dari penelusuran Reuters terhadap lebih dari 80 makalah akademik dan paten China.
Reuters menggandeng Jamestown Foundation dalam menelusuri dokumen-dokumen tersebut. Hasilnya menunjukkan teknik model distillation dipakai secara luas oleh peneliti yang terhubung dengan Tentara Pembebasan Rakyat (PLA) dan lembaga militer China lainnya untuk mempersempit ketimpangan teknologi dengan Amerika Serikat.
"Mengajari model untuk memberikan jawaban yang benar adalah satu hal, tetapi mengajarinya alur penalaran di balik jawaban tersebut jauh lebih sulit," kata peneliti Jamestown Foundation Sunny Cheung dalam laporan investigasi Reuters, Senin (3/8).
Cheung, yang menganalisis lebih dari 60 makalah terkait, menerangkan para ilmuwan militer China secara sistematis mengambil alur penalaran dari model-model Barat. Alur penalaran itu disesuaikan untuk keperluan pengawasan, perang siber, hingga pengambilan keputusan taktis.
Salah satu contoh konkret ditemukan pada makalah yang diterbitkan Unit PLA 96941, unit intelijen militer dan perang siber di Beijing. Unit tersebut memanfaatkan GPT-3.5 milik OpenAI untuk memproses source code militer yang bersifat rahasia.
Para peneliti di unit itu menyatakan model pihak ketiga tak layak menangani informasi rahasia. Mereka kemudian memakai GPT-3.5 hanya untuk merangkum kode perangkat lunak, lalu melatih model domestik dari rangkuman tersebut agar dapat berjalan sepenuhnya di jaringan militer China.
Pola serupa ditemukan di North University of China, kampus yang memiliki hubungan erat dengan industri persenjataan negara itu. Para peneliti di sana memakai Claude 3 Haiku milik Anthropic untuk menghasilkan data pelatihan sintetis bagi model klasifikasi teks yang dipakai dalam pemantauan media sosial dan moderasi konten.
Anthropic menegaskan tidak menyediakan akses komersial atas Claude di China maupun kepada entitas yang dikendalikan Beijing. Perusahaan itu menambahkan, model hasil distilasi berpotensi kehilangan fitur perlindungan keselamatan asli, sehingga kemampuan sensitif bisa berpindah ke sistem di luar kendali mereka.
Makalah tahun 2024 dari National University of Defense Technology milik PLA turut mengungkap penggunaan distilasi untuk memperkecil ukuran model pemroses gambar agar bisa dipasang pada drone. Ukuran model yang lebih ringkas itu memungkinkan drone menganalisis video secara langsung serta mendukung navigasi dan penargetan secara real-time.
Peneliti di Academy of Military Sciences China juga memakai teknik yang sama untuk menjalankan model pengenalan target pada perangkat keras taktis. Teknik itu diuji selama simulasi operasi laut yang melibatkan drone, kapal, dan kapal selam nirawak, seperti tertuang dalam studi yang terbit awal tahun ini.
Temuan ini mencuat menjelang perundingan tata kelola dan keamanan AI antara Amerika Serikat dan China. Pejabat AS menuduh sejumlah entitas China memakai teknik distilasi untuk menyerap kemampuan model AI Amerika, langkah yang dinilai berpotensi merusak kontrol ekspor dan melanggar hak kekayaan intelektual.
China membantah tuduhan itu dan menyebut Washington menjalankan "hegemoni" AI, sembari berargumen perusahaan-perusahaan AS pun melakukan praktik serupa. Startup AI Moonshot bahkan sempat membantah tudingan pemerintahan Donald Trump yang menyebut model Kimi K3 mereka dibangun lewat distilasi, dan menegaskan model tersebut hasil inovasi mandiri.
"Makalah-makalah ini menunjukkan para peneliti yang terhubung dengan militer China berusaha memindahkan alur penalaran yang mahal dan bersifat hak milik dari model-model Barat ke dalam sistem yang lebih kecil, yang dapat mereka kendalikan dan jalankan secara lokal," tambah Cheung.
as a preferred 
Tinggalkan Komentar
Komentar