Jebakan Label 'AI Buatan Sendiri' — Era Komunitas Open Source Memverifikasi AI Lembaga Publik
Hanya 48 jam setelah Kota Rio de Janeiro mengumumkan 'LLM yang dikembangkan sendiri', komunitas developer di GitHub sudah mulai mempertanyakannya. Di tengah maraknya klaim AI buatan lokal oleh lembaga publik, artikel ini membahas dari sudut pandang praktis: bagaimana membedakan dan mengevaluasi kemandirian teknologi dari sekadar klaim PR.
Jebakan Label 'AI Buatan Sendiri' — Era Komunitas Open Source Memverifikasi AI Lembaga Publik
TL;DR Ketika lembaga publik mengumumkan 'AI yang dikembangkan sendiri' tanpa verifikasi AI lokal yang jelas, anggaran tetap cair — pola ini berulang di Brasil maupun Indonesia. Komunitas open source kini berfungsi sebagai infrastruktur pengawas tidak resmi yang mampu memverifikasi substansi model AI dalam 48 jam. Untuk memastikan transparansi AI publik, mendefinisikan kemandirian teknologi dan melembagakan standar verifikasinya adalah hal yang mendesak.
Sebuah lembaga publik mengumumkan 'AI yang dikembangkan sendiri'. Tanpa verifikasi AI lokal, media meliputnya apa adanya dan anggaran pun dicairkan. Namun 48 jam setelah pengumuman, para developer mulai berkerumun di thread GitHub Issues. "Ini bukan sekadar model open source yang digabung-gabungkan saja, kan?" Satu pertanyaan sederhana itulah yang menjadi awal dari cerita kita hari ini.
Pengumumannya Meriah — Lalu Muncul GitHub Issue
Pada 2025, Nex-AGI — lembaga di bawah Kota Rio de Janeiro, Brasil — secara resmi meluncurkan LLM bernama Nex-N2. Siaran pers resminya menyematkan label "model AI pertama yang dikembangkan sendiri oleh pemerintah daerah di Brasil", dan media lokal meliputnya secara besar-besaran. Bahkan frasa 'kedaulatan AI' pun ikut muncul.
Namun segera setelah peluncuran, reaksi datang dari tempat yang tak terduga. Para developer mulai membongkar bobot model dan metadata-nya langsung di thread GitHub Issues. Muncullah serangkaian pertanyaan kritis: "tidak ada log pelatihan", "informasi base model tidak ada di model card", "pola bobot ini mirip dengan penggabungan (merge) model open source yang sudah ada". Pihak Nex-AGI maupun Kota Rio de Janeiro tidak memberikan tanggapan resmi di thread tersebut. Diam pun menjadi jawaban.
Yang perlu digarisbawahi dari episode ini bukan soal fakta mana yang benar, melainkan perubahan strukturalnya. Kita sudah memasuki era di mana verifikasi teknis oleh komunitas developer berlangsung lebih cepat dan lebih presisi dibanding liputan pers resmi. Dan cerita ini mungkin bukan hanya masalah Brasil.
Apa Itu Model Merging pada LLM Open Source — Tekniknya Sendiri Tidak Salah
Menggabungkan LLM Open Source Bukan Hal yang Aneh
Model merging adalah teknik menggabungkan bobot beberapa LLM open source menggunakan alat seperti Mergekit. Di platform Hugging Face saja, ada ratusan model yang dibuat dengan metode ini dan tersedia untuk publik. Ini adalah metodologi yang secara teknis valid dan aktif digunakan dalam komunitas.
Lalu apa masalahnya? Inti persoalannya bukan pada 'apakah merging dilakukan atau tidak'. Masalahnya adalah ketika pengumuman resmi menyatakan "kami mengembangkannya sendiri", tidak ada satu pun keterangan tentang asal-usul base model. Semua lisensi open source — baik Apache 2.0, MIT, maupun Llama Community License dari Meta — mewajibkan atribusi. Artinya, jika Anda menggunakan kodenya, Anda harus menyebutkan sumbernya. Itu adalah kontrak kepercayaan.
Ini bukan soal kemampuan teknis AI. Ini adalah masalah kejujuran dalam komunikasi publik. Ekosistem open source berdiri di atas kepercayaan bersama untuk berbagi kontribusi dan mengakui atribusi. Jika lembaga publik memanfaatkan hasil ekosistem itu sambil menghapus kontribusinya, itu mendekati parasitisme.
Pengawal Baru Transparansi AI Publik — Komunitas Open Source
Bagaimana Verifikasi AI Lokal Bisa Terjadi dalam 48 Jam?
Metode verifikasi yang digunakan para developer dalam kasus Nex-N2 sebenarnya tidak rumit. Membaca model card AI, membandingkan nilai hash file bobot, dan memeriksa apakah log pelatihan dipublikasikan — hanya dengan informasi yang tersedia secara publik, puluhan kontributor sukarela berhasil merangkum kejanggalan-kejanggalan itu dalam waktu kurang dari 48 jam.
Verifikasi teknis yang lebih cepat dari liputan media. Inilah paradoks transparansi open source. Justru karena dipublikasikan, verifikasi bisa dilakukan. Dan justru karena bisa diverifikasi, klaim yang berlebihan pun terungkap. Jika model ini hanya dioperasikan secara tertutup, tak ada yang akan tahu. Ekosistem open source itu sendiri kini berfungsi sebagai infrastruktur pengawas teknis yang nyata.
Namun ada juga masalah insentif struktural di sini. Dari sudut pandang lembaga publik, klaim "AI yang dikembangkan sendiri" terdengar jauh lebih menguntungkan untuk perolehan anggaran dan pencapaian politis dibanding "kami melakukan fine-tuning berbasis model open source". Selama struktur insentif ini tidak berubah, pola serupa kemungkinan besar akan terus berulang.
Verifikasi AI Publik di Pengadaan Pemerintah — Pola Ini Tidak Asing di Asia
Cerita Brasil ini tidak terasa jauh dari kita. Di berbagai negara Asia, termasuk Korea Selatan, antara tahun 2024 hingga 2025, serangkaian proyek bertajuk 'AI lokal' dan 'pembangunan LLM publik mandiri' bermunculan dari berbagai kementerian dan lembaga pemerintah. Model dan layanan berlabel 'AI buatan dalam negeri' pun ikut bermunculan.
Namun, belum ada standar kelembagaan yang jelas tentang bagaimana 'kemandirian teknologi' didefinisikan dan diverifikasi. Ada celah di mana standar independen untuk memverifikasi model open source mana yang digunakan, di bawah ketentuan lisensi apa, dan seberapa besar pelatihan mandiri yang dilakukan pada proyek AI yang didanai publik, belum dilembagakan.
Model Card AI dan Transparansi Teknis — Pertanyaan Apa yang Harus Diajukan Praktisi?
Dari sudut pandang praktisi yang sedang mempertimbangkan adopsi solusi AI, berikut lima poin yang bisa dijadikan tolok ukur:
- Apakah model card AI dipublikasikan? — Periksa apakah tujuan, keterbatasan, dan metode evaluasi model terdokumentasi.
- Apakah sumber data pelatihan dan base model disebutkan secara eksplisit? — Anda berhak bertanya model apa yang ada di balik klaim "dikembangkan sendiri".
- Apakah atribusi lisensi open source dicantumkan? — Jika open source digunakan, pastikan fakta itu diungkapkan secara transparan.
- Apakah hasil audit teknis pihak ketiga dipublikasikan? — Tanyakan apakah ada verifikasi eksternal, bukan hanya klaim internal.
- Apakah benchmark performa disajikan secara terstandarisasi dan komparatif? — Anda berhak menuntut angka yang bisa dibandingkan, bukan sekadar klaim "model kami terbaik".
Checklist ini tidak hanya berlaku untuk evaluasi proyek AI publik, tapi juga bisa langsung diterapkan saat meninjau solusi AI atau mitra teknologi apapun.
Lebih Sulit dari Teknologi — Itulah Kejujuran, dan Itulah Mengapa Ia Lebih Penting
Tim kami pun membangun produk di atas ekosistem open source. Itulah mengapa isu ini tidak terasa seperti urusan orang lain. Memanfaatkan open source bisa menjadi pilihan strategis yang cerdas. Masalahnya ada pada cara menyembunyikan atau membesar-besarkan fakta tersebut.
Kami percaya bahwa lembaga dan perusahaan yang mampu menjelaskan dengan jelas "teknologi apa yang digunakan, untuk tujuan apa, dan bagaimana caranya" — alih-alih hanya mengandalkan label 'AI buatan sendiri' — pada akhirnya akan membangun kepercayaan yang jauh lebih kuat. Kepercayaan itu tidak datang dari materi PR, melainkan dari komunikasi yang transparan. Di era di mana komunitas open source mengambil peran sebagai pengawas, kejujuran kini bukan lagi pilihan — melainkan syarat kelangsungan.
Ini yang kami temukan: inti dari kepercayaan B2B bukan terletak pada "teknologi apa yang digunakan", melainkan pada "seberapa jujur fakta itu dijelaskan". Dan ini bukan hanya berlaku untuk lembaga publik, melainkan untuk semua organisasi yang mengadopsi solusi AI dan memilih mitra teknologi.
Penulis · Tim Riset Ekspor RINDA (Editor Riset Otomasi Ekspor & Pencarian Buyer Internasional)
Berdasarkan data pipeline pencarian buyer internasional dari 200+ eksportir dan observasi internal platform RINDA, tim ini menyusun strategi dan checklist yang langsung bisa diterapkan dalam praktik ekspor.
Jika Anda sedang mempertimbangkan adopsi solusi AI atau memilih mitra teknologi dan bertanya-tanya "apakah teknologi yang mereka gunakan benar-benar milik mereka?", standar yang disusun oleh tim grinda.ai bisa menjadi referensi yang berguna. Solusi otomasi pencarian buyer internasional RINDA pun dibangun di atas prinsip yang sama. Jika Anda ingin berdiskusi dengan tim tentang standar evaluasi kemandirian dan kredibilitas teknologi, Anda bisa memulai dengan konsultasi gratis tanpa beban.
T: Apakah penggunaan LLM open source oleh lembaga publik itu salah? J: Tidak. Pemanfaatan LLM open source dilakukan secara aktif oleh pemerintah dan lembaga publik di seluruh dunia. Masalahnya bukan pada penggunaannya, melainkan pada apakah fakta itu diungkapkan secara transparan dan apakah ketentuan lisensi (seperti kewajiban atribusi) dipatuhi. Untuk menggunakan frasa "dikembangkan sendiri", mendokumentasikan dan mempublikasikan sejauh mana pelatihan dan kustomisasi mandiri dilakukan adalah syarat dasar kepercayaan.
T: Apakah AI yang dibuat dengan metode model merging benar-benar layak digunakan? J: Secara teknis, sangat bisa. Di papan peringkat open source Hugging Face, ada banyak model yang berada di posisi teratas dan dibuat dengan metode merging. Yang terpenting adalah apakah performanya memadai dan apakah komposisinya dipublikasikan secara transparan. Kesesuaian dengan tujuan penggunaan dan kepatuhan terhadap lisensi adalah kriteria penilaian yang lebih substansial.
T: Apakah ada standar resmi untuk memverifikasi kemandirian teknologi AI dalam pengadaan pemerintah? J: Per saat ini, sulit untuk mengonfirmasi adanya standar kelembagaan yang terstandarisasi dan resmi untuk memverifikasi kemandirian teknologi proyek AI yang didanai publik secara independen. Berbagai kementerian terus memperbarui panduan kualitas dan keandalan AI, namun definisi standar 'dikembangkan sendiri' dan prosedur verifikasinya masih diterapkan berbeda-beda antar lembaga. Bagi praktisi, menggunakan checklist dalam artikel ini sebagai pertanyaan langsung adalah cara yang paling realistis saat ini.
T: Kebijakan apa yang diperlukan untuk meningkatkan transparansi AI publik? J: Ada tiga hal utama. Pertama, mewajibkan publikasi model card AI sebagai persyaratan pengadaan publik. Kedua, mendefinisikan 'AI buatan dalam negeri' atau 'dikembangkan sendiri' secara tertulis menggunakan indikator kuantitatif seperti proporsi kontribusi teknis. Ketiga, melembagakan kewajiban publikasi hasil audit independen pihak ketiga bersama laporan pelaksanaan anggaran. Kondisi saat ini — yang hanya mengandalkan verifikasi tidak resmi dari komunitas open source — dapat dianggap belum memiliki fondasi kelembagaan minimum untuk menjamin transparansi AI publik.