Tadbir Urus AI Malaysia: Governance AI untuk Negara Bertanggungjawab

⚠️ Pendedahan Afiliasi: Artikel ini mungkin mengandungi pautan afiliasi. Kami mungkin mendapat komisyen kecil jika anda membeli melalui pautan kami, tanpa kos tambahan kepada anda. Ini membantu kami terus menyediakan kandungan percuma berkualiti.

Tadbir urus AI — atau AI governance — merujuk kepada kerangka dasar, peraturan, proses, dan struktur organisasi yang memastikan sistem kecerdasan buatan dibangunkan, digunakan, dan diawasi secara bertanggungjawab. Di Malaysia, keperluan untuk tadbir urus AI yang kukuh semakin mendesak seiring dengan pertumbuhan pesat penggunaan AI dalam sektor awam dan swasta.

n
Pendedahan: Artikel ini mengandungi pautan affiliate. Jika anda mendaftar melalui pautan kami, kami mungkin menerima komisyen kecil — tanpa sebarang kos tambahan kepada anda. Ini membantu kami terus menghasilkan panduan percuma dalam Bahasa Melayu.
n

nnn

Tanpa tadbir urus yang betul, sistem AI boleh membawa kemudaratan yang besar — daripada keputusan kredit yang mendiskriminasi golongan miskin hingga kepada sistem pengenalan wajah yang memperkuat bias kaum. Sebaliknya, dengan tadbir urus yang baik, AI boleh menjadi kuasa transformatif yang meningkatkan kecekapan, ketelusan, dan keadilan dalam masyarakat Malaysia.

Artikel ini meneliti komponen utama tadbir urus AI Malaysia, daripada kerangka kerja MDEC hingga kepada piawaian antarabangsa ISO/IEC 42001, dan menerangkan apa yang perlu dilakukan oleh organisasi Malaysia untuk memastikan AI mereka digunakan secara amanah dan efektif.

nnnn

Isi Kandungan

MDEC AI Governance Framework: Asas Tadbir Urus AI Malaysia

Malaysia Digital Economy Corporation (MDEC) telah memainkan peranan penting dalam meletakkan asas tadbir urus AI negara. MDEC AI Governance Framework yang dibangunkan bersama industri dan akademia menyediakan panduan praktikal kepada organisasi Malaysia tentang cara melaksanakan AI secara bertanggungjawab.

Kerangka kerja ini dibina di atas lima teras utama:

Ketelusan: Organisasi mesti dapat menjelaskan bagaimana sistem AI mereka membuat keputusan kepada pengguna dan pihak berkuasa

Keadilan: Sistem AI tidak boleh mendiskriminasi kumpulan tertentu berdasarkan kaum, jantina, agama, atau status sosioekonomi

Keselamatan dan Kesahihan: AI mesti berfungsi sebagaimana yang direka dan tahan terhadap manipulasi atau serangan siber

Privasi: Pengumpulan dan pemprosesan data mesti mematuhi undang-undang perlindungan data yang berkaitan

Akauntabiliti: Sentiasa ada manusia yang bertanggungjawab ke atas keputusan yang dibuat oleh sistem AI

MDEC AI Governance Framework disokong oleh sumber panduan tambahan termasuk kajian kes industri, alat penilaian kendiri, dan program latihan untuk pengurus dan jurutera AI. Walau bagaimanapun, kerangka ini masih bersifat sukarela — pematuhan bergantung sepenuhnya kepada komitmen dan kesedaran organisasi, bukan dikuatkuasakan oleh undang-undang.

nnnn

Kepentingan Jejak Audit AI dalam Tadbir Urus

Salah satu elemen paling kritikal dalam tadbir urus AI ialah jejak audit AI (AI audit trail). Jejak audit adalah rekod lengkap tentang bagaimana sistem AI membuat keputusan — termasuk data yang digunakan, model yang diaplikasikan, parameter yang diset, dan hasil yang dihasilkan.

Kepentingan jejak audit AI dalam konteks Malaysia ialah:

Akauntabiliti undang-undang: Apabila keputusan AI memberi kesan negatif kepada seseorang individu, jejak audit membolehkan siasatan dilakukan untuk menentukan punca masalah

Penambahbaikan berterusan: Data audit membolehkan pasukan teknikal mengenal pasti kelemahan dalam model dan melakukan pengoptimuman

Pematuhan regulasi: BNM dan SC mensyaratkan institusi kewangan mengekalkan rekod lengkap bagi keputusan AI yang kritikal

Kepercayaan awam: Ketelusan melalui audit meningkatkan keyakinan orang awam terhadap sistem AI kerajaan dan swasta

Sebagai contoh praktikal, apabila bank menolak permohonan pinjaman seseorang berdasarkan skor kredit yang dikira oleh AI, individu tersebut berhak mengetahui faktor-faktor yang menyebabkan keputusan itu. Tanpa jejak audit yang baik, hak ini tidak dapat dilaksanakan. Ini berkait rapat dengan isu bias AI dalam penilaian kredit yang semakin dibincangkan di Malaysia.

Penilaian Impak AI oleh Kerajaan Malaysia

Penilaian impak AI (AI Impact Assessment) adalah proses sistematik untuk menilai potensi kesan positif dan negatif sebuah sistem AI sebelum ia digunakan secara meluas. Di Malaysia, kerajaan persekutuan dan beberapa kerajaan negeri sedang dalam proses membangunkan metodologi penilaian impak AI untuk projek sektor awam.

Penilaian impak AI yang komprehensif merangkumi:

nnnn

Analisis risiko teknikal: Kemungkinan kegagalan sistem, ketepatan model, dan kelemahan keselamatan siber

Penilaian impak sosial: Kesan kepada pekerjaan, akses perkhidmatan, dan ketidaksamaan sosial

Analisis impak privasi: Bagaimana data peribadi dikumpul, diproses, dan dilindungi

Penilaian impak undang-undang: Pematuhan dengan undang-undang sedia ada dan potensi konflik perundangan

Konsultasi awam: Mendapatkan maklum balas daripada komuniti yang terjejas oleh sistem AI

Pendekatan penilaian impak AI ini sangat penting untuk projek kerajaan berskala besar yang menggunakan AI, macam sistem CCTV pintar, alat analisis cukai, atau platform perkhidmatan awam digital. Kegagalan melaksanakan penilaian impak yang teliti boleh mengakibatkan kerosakan yang sukar dipulihkan kepada kepercayaan awam terhadap kerajaan digital.

ISO/IEC 42001: Piawaian Pengurusan Sistem AI Antarabangsa

Pada 2023, Pertubuhan Piawaian Antarabangsa (ISO) melancarkan ISO/IEC 42001 — Sistem Pengurusan Kecerdasan Buatan (AIMS). Ini merupakan piawaian antarabangsa pertama yang menyediakan kerangka kerja komprehensif untuk pengurusan sistem AI dalam organisasi.

ISO/IEC 42001 memerlukan organisasi untuk:

Mewujudkan dasar AI yang jelas dan selaras dengan nilai organisasi

Mengenal pasti dan menangani risiko berkaitan dengan pembangunan dan penggunaan AI

Menetapkan peranan dan tanggungjawab yang jelas untuk pengurusan AI

Melaksanakan kawalan teknikal dan organisasi yang sesuai

Menjalankan audit dalaman dan semakan pengurusan secara berkala

Melaksanakan penambahbaikan berterusan melalui kitaran PDCA (Plan-Do-Check-Act)

Bagi syarikat Malaysia yang bercita-cita memasuki pasaran antarabangsa, pensijilan ISO/IEC 42001 boleh menjadi kelebihan daya saing yang signifikan. Ia membuktikan kepada pelanggan global bahawa organisasi tersebut mengurus AI secara sistematik dan bertanggungjawab. Jabatan Standard Malaysia (JSM) telah mengesahkan ISO/IEC 42001 sebagai piawaian nasional Malaysia, menjadikan pensijilan ini lebih mudah diakses oleh syarikat tempatan.

Tadbir Urus AI Korporat di Malaysia

Di peringkat korporat, organisasi Malaysia perlu membangunkan struktur tadbir urus AI yang jelas. Ini bukan lagi pilihan — dengan peningkatan penggunaan AI dalam membuat keputusan perniagaan, ia menjadi keperluan strategik dan undang-undang.

Elemen penting tadbir urus AI korporat yang berkesan meliputi:

Jawatankuasa AI Lembaga Pengarah: Penubuhan jawatankuasa khas AI di peringkat lembaga untuk mengawasi strategi dan risiko AI organisasi

Ketua Pegawai AI (Chief AI Officer): Melantik eksekutif kanan yang bertanggungjawab penuh terhadap strategi dan tadbir urus AI

Dasar Penggunaan AI Dalaman: Garis panduan jelas tentang bagaimana pekerja boleh dan tidak boleh menggunakan alat AI dalam kerja harian

Proses Pemerolehan AI: Prosedur due diligence untuk menilai vendor dan produk AI pihak ketiga sebelum penggunaan

Syarikat Malaysia macam Maybank, Telekom Malaysia, dan Petronas telah mula membangunkan rangka kerja tadbir urus AI dalaman mereka sendiri. Pengalaman dan amalan terbaik mereka boleh menjadi panduan berharga bagi syarikat Malaysia yang lain dalam perjalanan tadbir urus AI mereka. Pengurusan yang kukuh dalam tadbir urus AI berkait rapat dengan keperluan regulasi AI Malaysia yang semakin berkembang.

Literasi AI di Peringkat Lembaga Pengarah

Salah satu cabaran terbesar dalam tadbir urus AI korporat Malaysia ialah jurang literasi AI di peringkat kepimpinan. Kajian mendapati bahawa majoriti ahli lembaga pengarah syarikat Malaysia tidak mempunyai pemahaman yang mencukupi tentang AI untuk mengawasi penggunaannya secara berkesan.

Untuk menangani masalah ini, beberapa langkah telah dan perlu diambil:

Institut Lembaga Pengarah Malaysia (ICDM) menawarkan program literasi AI khusus untuk pengarah

Bursa Malaysia menggalakkan syarikat tersenarai untuk mendedahkan penggunaan AI yang material dalam laporan tahunan mereka

SC Malaysia sedang mempertimbangkan untuk mewajibkan pendedahan risiko AI dalam laporan korporat syarikat awam tersenarai

Universiti awam macam UM, UPM, dan UTM menawarkan program eksekutif AI untuk pemimpin perniagaan

Literasi AI di peringkat lembaga bukan bermakna pengarah perlu menjadi pakar teknikal — sebaliknya, mereka perlu memahami soalan strategik yang betul untuk ditanya, risiko utama yang perlu dipantau, dan petunjuk prestasi yang mencerminkan penggunaan AI yang sihat dalam organisasi.

NACSA dan Keselamatan Siber dalam Tadbir Urus AI

Agensi Keselamatan Siber Negara (NACSA) memainkan peranan penting dalam memastikan sistem AI di Malaysia selamat daripada ancaman siber. Dalam konteks tadbir urus AI, NACSA menekankan beberapa prinsip keselamatan siber yang khusus untuk sistem AI:

Perlindungan terhadap serangan adversarial: Sistem AI perlu tahan terhadap input yang direka khas untuk memperdaya model — contohnya, gambar yang diubah suai untuk mengelirukan sistem pengenalan wajah

Keselamatan rantaian bekalan AI: Memastikan komponen AI pihak ketiga, termasuk model sumber terbuka dan API, bebas daripada kelemahan atau pintu belakang

Perlindungan data latihan: Data yang digunakan untuk melatih model AI adalah aset bernilai tinggi yang perlu dilindungi daripada pencurian atau manipulasi

Pemantauan masa nyata: Sistem pengesanan anomali untuk mengenal pasti tingkah laku luar biasa dalam model AI yang mungkin menunjukkan kompromi

NACSA juga bekerjasama rapat dengan MDEC dan Kementerian Sains, Teknologi, dan Inovasi (MOSTI) untuk membangunkan rangka kerja keselamatan AI nasional yang komprehensif. Kerjasama antara agensi ini penting untuk memastikan pendekatan bersepadu dalam menangani ancaman siber yang berkaitan dengan AI.

Masa Depan Tadbir Urus AI Malaysia

Malaysia berada pada titik persilangan penting dalam perjalanan tadbir urus AI-nya. Negara ini mempunyai asas yang kukuh melalui AI-RMAP, MDEC AI Governance Framework, dan garis panduan sektoral daripada BNM dan SC. Namun, untuk benar-benar menjadi pemimpin tadbir urus AI ASEAN, Malaysia perlu mengambil langkah berani berikutnya:

Meluluskan undang-undang AI yang komprehensif yang mengikat semua sektor

Mewujudkan badan pengawasan AI nasional yang bebas dan berkuasa

Melabur dalam kapasiti teknikal pengawal selia untuk mengaudit sistem AI yang kompleks

Memastikan suara komuniti terpinggir didengar dalam pembentukan dasar AI

Tadbir urus AI yang baik bukan hanya tentang mencegah risiko — ia tentang memastikan faedah AI dikongsi secara saksama oleh semua rakyat Malaysia, tanpa mengira latar belakang atau status sosioekonomi. Dengan pendekatan yang betul, Malaysia boleh menjadi model tadbir urus AI yang boleh dicontohi oleh negara-negara ASEAN yang lain.

Amalan Terbaik Tadbir Urus AI untuk Organisasi Malaysia

Memahami kerangka tadbir urus AI secara teori adalah permulaan, tetapi pelaksanaan praktikal adalah cabaran sebenar yang dihadapi oleh kebanyakan organisasi Malaysia. Berikut adalah panduan langkah demi langkah yang boleh diadaptasi oleh mana-mana organisasi, daripada syarikat permulaan hingga konglomerat besar.

Langkah 1: Lakukan AI Inventory
Sebelum apa-apa pun, organisasi perlu mengenal pasti semua sistem AI yang sedang digunakan dalam operasi harian. Ini termasuk alat AI pihak ketiga yang dilanggani (macam perisian HR berasaskan AI), model AI dalaman yang dibangunkan sendiri, serta integrasi API AI dalam produk atau perkhidmatan yang ditawarkan. Tanpa inventori yang lengkap, tadbir urus yang efektif adalah mustahil.

Langkah 2: Bina AI Ethics Committee Dalaman
Tubuhkan jawatankuasa etika AI yang merangkumi wakil pelbagai jabatan — bukan hanya IT atau data science, tetapi juga undang-undang, HR, pemasaran, dan pengurusan senior. Perspektif pelbagai ini memastikan keputusan berkaitan AI dinilai dari sudut teknikal, undang-undang, dan sosial secara serentak.

Langkah 3: Pakai ISO/IEC 42001 sebagai Panduan
ISO/IEC 42001 adalah piawaian pengurusan sistem AI yang boleh diaudit secara bebas. Standard ini memberikan rangka kerja terstruktur untuk mendokumentasikan dasar, prosedur, dan kawalan AI organisasi. Bagi syarikat yang berurusan dengan pelanggan korporat atau kerajaan, pensijilan ISO 42001 semakin menjadi keperluan kontrak.

Langkah 4: Latih Pasukan — AI Literacy Wajib
Tadbir urus AI bukan tanggungjawab satu jabatan sahaja. Latihan AI literacy perlu diwajibkan untuk semua peringkat pengurusan, bukan sekadar pasukan teknikal. Pemimpin perlu memahami asas bagaimana AI membuat keputusan, apakah risiko bias, dan bagaimana untuk bertanya soalan kritikal kepada pasukan data mereka.

Langkah 5: Pantau Berterusan — AI Audit Tahunan Minimum
Sistem AI berubah seiring masa — model drift, perubahan data input, dan konteks penggunaan baharu boleh mengubah prestasi dan risiko sistem. Audit AI tahunan adalah minimum yang diperlukan, dengan pemantauan berterusan untuk sistem AI berisiko tinggi.

Sumber percuma: MDEC AI Governance Toolkit tersedia untuk dimuat turun di laman web MDEC — ia mengandungi templat penilaian risiko, senarai semak pematuhan, dan panduan pelaksanaan yang disesuaikan untuk konteks Malaysia.

ISO 42001 Guide: ISO menyediakan panduan ringkas percuma (ISO 42001 Overview) yang boleh digunakan sebagai titik permulaan sebelum melanggan dokumen standard penuh.

Organisasi yang melaksanakan amalan tadbir urus AI yang kukuh bukan sahaja mengurangkan risiko undang-undang dan reputasi, tetapi juga membina kepercayaan pelanggan dan rakan kongsi perniagaan — aset yang semakin bernilai dalam ekonomi digital Malaysia.

🔤 Rekomendasi: Grammarly

Sebelum hantar apa-apa tulisan dalam Bahasa Inggeris — semak dulu dengan Grammarly. Pelan percuma dah cukup untuk kegunaan harian. Premium (RM35/bulan) tambah cadangan gaya penulisan + penjana ayat AI.

→ Cuba Grammarly Percuma