Penilaian bebas terhadap ketepatan KnowledgeCore pada korpus pematuhan PDPA dan keselamatan siber Malaysia. Keputusan boleh dihasilkan semula — metodologi, soalan ujian dan rangka kerja pemarkahan diterbitkan sepenuhnya di bawah.
RAGAS (Retrieval-Augmented Generation Assessment) ialah rangka kerja sumber terbuka untuk menilai sistem RAG. Setiap metrik dikira oleh LLM penilai. Dalam larian di halaman ini, model penilai (qwen3:30b-a3b) ialah model yang sama yang menjana jawapan, jadi skornya bukan penilaian bebas; set soalan dan kaedahnya diterbitkan supaya sesiapa boleh menjalankannya semula dengan penilai lain. Keempat-empat ambang mesti lulus sebelum keputusan penanda aras diterima.
Penanda aras ini boleh dihasilkan semula. Mana-mana organisasi boleh menjalankan penilaian yang setara pada korpus dokumen mereka sendiri menggunakan rangka kerja yang sama.
| Kategori | Soalan | Topik yang diliputi |
|---|---|---|
| PDPA 2010 / Pindaan 2024 | 15 | Pemberitahuan pelanggaran, standard persetujuan, hak subjek data, kemudahalihan, penyimpanan, kewajipan DPO, pemindahan rentas sempadan, penarikan diri daripada pemasaran |
| Penalti dan penguatkuasaan PDPA | 5 | Penalti seksyen 50, penalti pemberitahuan pelanggaran s.12B, liabiliti pegawai, kuasa penguatkuasaan Pesuruhjaya, akibat ketidakpatuhan |
| Akta Keselamatan Siber 2024 (Akta 854) | 15 | Takrif dan sektor NCII, kewajipan pelaporan insiden, pelesenan CSSP, audit risiko, kewajipan pihak ketiga, pengecualian, status NCII Prisma Data |
| Akta Jenayah Komputer 1997 | 3 | Akses tanpa kebenaran (s.3), akses dengan niat jenayah lanjut (s.4), pengubahsuaian kandungan komputer (s.5) |
| Akta Keterangan 1950 | 2 | Kebolehterimaan rekod elektronik, keperluan salinan diperakui |
| Senario merentas rangka kerja | 7 | Kewajipan bertindih PDPA + Akta 854, tempoh pengawal selia selepas pelanggaran, tafsiran nasihat PDPC, tadbir urus AI (NAIO), insentif cukai Belanjawan 2026, kewajipan insiden serentak |
Berikut ialah soalan sebenar yang dihantar kepada KnowledgeCore semasa penilaian penanda aras. Jawapan asal dijana dalam bahasa Inggeris tanpa suntingan; terjemahan Bahasa Malaysia di bawah disediakan untuk rujukan. Petikan sumber ialah petikan yang dikembalikan oleh saluran dapatan semula.
Nota: kewajipan pemberitahuan pelanggaran data ialah seksyen 12B PDPA, yang disisipkan oleh Akta Pindaan 2024. Model ini memetiknya sebagai seksyen 12A. Penalti maksimum di bawah s.12B(3) ialah denda RM 250,000, penjara dua tahun, atau kedua-duanya, bukan RM 500,000 atau tiga tahun seperti yang dinyatakan.
Ciri penting sistem bertaraf pengeluaran ialah mengetahui bila untuk tidak menjawab. KnowledgeCore menolak soalan yang tidak dapat disandarkan pada korpus yang dimuat naik — sistem ini tidak berhalusinasi dengan jawapan yang kedengaran munasabah.
Sistem mengenal pasti bahawa soalan itu di luar skop, menyatakan apa yang termasuk dalam skop, dan tidak cuba menjawab berdasarkan pengetahuan umum. Kesetiaan 1.000 hanya boleh dicapai apabila sistem secara konsisten menolak soalan di luar skop dan tidak berhalusinasi.
Keputusan bagi semua larian penanda aras yang diterbitkan pada korpus public (pematuhan PDPA). Setiap larian mencerminkan perubahan sebenar pada sistem — bukan larian semula yang dipilih-pilih.
| Larian | Tarikh | Soalan | Kadar Lulus | Kesetiaan | Ketepatan | Perubahan |
|---|---|---|---|---|---|---|
| public-Run-1 | 26 Apr 2026 | 15 | 100% | 1.000 | 0.950 | Garis dasar |
| BGE-M3-public-Run-1 | 25 Mei 2026 | 15 | 100% | 1.000 | 0.884 | Naik taraf pembenaman BGE-M3 |
| qwen3-public-Run-1 | 27 Mei 2026 | 15 | 100% | 1.000 | 0.721 | LLM ditukar kepada qwen3:30b-a3b |
| public-quality-Run-1 | 27 Mei 2026 | 15 | 100% | 1.000 | 0.939 | Penentukuran kebenaran asas + 3 halaman sintesis |
| public-expanded-Run-1 | 30 Mei 2026 | 47 | 100% | 1.000 | 0.960 | Set data 15→47 · Kelima-lima get lulus · Garis dasar semasa |
Kesetiaan 1.000 dikekalkan dalam setiap larian pada korpus ini — sifar halusinasi dalam kesemua lima larian penanda aras. Variasi Ketepatan mencerminkan perbezaan gaya penjanaan LLM dan perubahan penentukuran kebenaran asas, bukan kemerosotan ketepatan.
| Bahasa | Status | Catatan |
|---|---|---|
| Bahasa Inggeris | Telah diuji | 100% pada penilaian pematuhan PDPA 47 soalan (public-expanded-Run-1, 30 Mei 2026). Kesetiaan 1.000. Ketepatan 0.960. Disahkan untuk pengeluaran. |
| Bahasa Malaysia | Penilaian awal | 100% pada penilaian BM 20 soalan dengan pemarkahan LLM sebagai penilai (BM-Run-9, 23 Jun 2026). Kesetiaan 1.000 — sifar halusinasi dalam mod BM. Ketepatan 0.585 oleh penilai LLM semantik (Ollama qwen3:14b). Sistem menjawab dalam Bahasa Malaysia apabila ditanya dalam BM; kesemua 20 soalan lulus. Model pembenaman (bge-m3) bersifat pelbagai bahasa secara asli. Korpus dwibahasa: 380 cebisan perundangan BM (PDPA, Akta 854) bersama korpus bahasa Inggeris. Kerelevanan dikecualikan (artifak pertindihan kata kunci merentas bahasa). Penanda aras penuh bagi korpus BM sedang disediakan. |
| Campuran BM/Inggeris | Dalam penilaian | Penukaran kod (BM/Inggeris) lazim dalam dokumen kerajaan Malaysia. Penanda aras rasmi bagi campuran bahasa akan menyusul. |
Jika dokumen organisasi anda kebanyakannya dalam Bahasa Malaysia, hubungi kami untuk membincangkan korpus anda. Kami menjalankan penanda aras yang sama pada dokumen anda sebelum penyerahan Enterprise.
| Batasan | Butiran |
|---|---|
| Korpus ini sahaja | Keputusan terpakai pada korpus pematuhan PDPA Prisma Data. Korpus organisasi anda mungkin berbeza dari segi kerumitan, kualiti dokumen atau campuran bahasa. Kami menjalankan penanda aras yang sama pada korpus anda sebelum penyerahan Enterprise. |
| Korpus bahasa Inggeris | Korpus Prisma Data mengandungi 47 soalan bahasa Inggeris dan korpus perundangan dwibahasa (PDPA dan Akta Keselamatan Siber 854 dalam bahasa Inggeris dan Bahasa Malaysia). Penilaian BM (20 soalan, BM-Run-9) menguji pengendalian pertanyaan BM pada korpus dwibahasa ini — kadar lulus 100%, Ketepatan 0.585. Ketepatan yang lebih rendah berbanding bahasa Inggeris (0.960) mencerminkan julat pemarkahan merentas bahasa: penilai LLM menilai jawapan BM berbanding kebenaran asas BM menggunakan persamaan semantik, yang sememangnya lebih ketat daripada pertindihan kata kunci dalam bahasa yang sama. Kesetiaan 1.000 mengesahkan ketepatan jawapan. |
| PDF berasaskan teks sahaja | Dokumen korpus ialah PDF berasaskan teks dan DOCX. PDF imej imbasan dan dokumen yang banyak jadual dengan susun atur visual yang kompleks mungkin menghasilkan ketepatan yang lebih rendah. Rujuk Panduan Pelaksanaan untuk panduan OCR dan dokumen imbasan. |
| Bukan pendapat undang-undang | Jawapan KnowledgeCore disandarkan pada dokumen anda dan dipetik daripada sumbernya. Jawapan ini bukan pengganti nasihat undang-undang atau pematuhan yang bertauliah. |