Keselamatan AI Malaysia: Lindungi Diri dari Ancaman AI Berbahaya

by
⚠️ Pendedahan Afiliasi: Artikel ini mungkin mengandungi pautan afiliasi. Kami mungkin mendapat komisyen kecil jika anda membeli melalui pautan kami, tanpa kos tambahan kepada anda. Ini membantu kami terus menyediakan kandungan percuma berkualiti.

Pengenalan: Mengapa Keselamatan AI Penting?

n

Kecerdasan buatan (AI) semakin mengintegrasikan dirinya ke dalam setiap aspek kehidupan moden — daripada sistem perbankan, penjagaan kesihatan, pengangkutan, hinggalah kepada infrastruktur kritikal negara. Di Malaysia, penggunaan AI dalam sektor awam dan swasta berkembang dengan pantas. Namun, bersama-sama dengan faedah yang dibawa, AI juga membuka dimensi baharu ancaman siber yang perlu difahami oleh setiap individu, organisasi, dan kerajaan.

n

n

Pendedahan: Artikel ini mengandungi pautan affiliate. Jika anda mendaftar melalui pautan kami, kami mungkin menerima komisyen kecil — tanpa sebarang kos tambahan kepada anda. Ini membantu kami terus menghasilkan panduan percuma dalam Bahasa Melayu.

📖 Baca juga: AI untuk Polis dan Keselamatan Awam Malaysia: PDRM, CCTV Pintar dan Crime Prediction

n

nn

Keselamatan AI Malaysia bukan sekadar isu teknikal untuk pakar IT — ia adalah isu nasional yang memberi impak langsung kepada keselamatan peribadi, kewangan, dan maruah rakyat. Artikel ini membincangkan ancaman-ancaman AI yang paling kritikal dan langkah-langkah perlindungan yang boleh diambil.

nnnn

AI Adversarial Attacks: Menipu Kecerdasan Buatan

n

Serangan adversarial (adversarial attacks) merupakan salah satu ancaman paling canggih dalam landskap keselamatan AI. Serangan ini melibatkan manipulasi halus terhadap data input yang diberikan kepada sistem AI — perubahan yang tidak kelihatan kepada mata manusia tetapi boleh menyebabkan sistem AI membuat keputusan yang salah sepenuhnya.

n

Bayangkan sebuah sistem AI pengecaman wajah yang digunakan di lapangan terbang Malaysia. Dengan serangan adversarial, seorang penjenayah boleh memakai cermin mata atau meletakkan pelekat khas pada wajahnya yang menyebabkan sistem AI salah mengenali identiti — walaupun kamera CCTV merakam wajah sebenar dengan jelas. Atau pertimbangkan sistem AI yang digunakan bank Malaysia untuk mengesan penipuan: serangan adversarial boleh memanipulasi transaksi penipuan agar kelihatan sah kepada sistem AI.

n

Di sektor autonomi kenderaan yang sedang berkembang di Malaysia, serangan adversarial terhadap sistem penglihatan komputer boleh menyebabkan kereta autonomi salah membaca tanda jalan atau tidak mengesan pejalan kaki — berpotensi menyebabkan kemalangan maut. Inilah sebabnya mengapa ujian ketahanan adversarial mesti menjadi sebahagian daripada proses pensijilan setiap sistem AI kritikal.

nn

AI Prompt Injection: Serangan Baharu Era Generatif AI

n

Dengan ledakan penggunaan Large Language Models (LLM) macam ChatGPT, Gemini, dan model-model AI generatif tempatan, muncul ancaman baharu yang dikenali sebagai prompt injection. Serangan ini berlaku apabila pengguna jahat menyuntikkan arahan berbahaya ke dalam input sistem AI untuk mengawal kelakuannya di luar niat asal pembangun.

n

Dalam konteks perniagaan Malaysia, bayangkan sebuah syarikat yang menggunakan chatbot AI untuk melayan pertanyaan pelanggan. Melalui prompt injection yang teliti, penyerang boleh memanipulasi chatbot tersebut untuk mendedahkan maklumat sulit syarikat, menghasilkan kandungan berbahaya, atau mengarahkan pelanggan ke laman web penipuan.

n

Serangan prompt injection yang lebih canggih, dikenali sebagai indirect prompt injection, berlaku apabila arahan berbahaya disembunyikan dalam kandungan yang dibaca oleh AI — contohnya dalam dokumen, laman web, atau e-mel yang dianalisis oleh sistem AI. Penyerang boleh meletakkan arahan tersembunyi dalam sebuah dokumen PDF yang kelihatan biasa, dan apabila AI pembantu membacanya, ia akan mengikuti arahan tersembunyi tersebut tanpa pengetahuan pengguna yang sah.

nnnn

AI Model Poisoning: Meracun Kecerdasan Buatan

n

Model poisoning atau keracunan model merupakan ancaman yang berlaku semasa proses latihan sistem AI. Penyerang yang berjaya menyusup ke dalam proses latihan AI boleh memasukkan data yang telah dimanipulasi, menyebabkan model AI yang terhasil berkelakuan secara berbahaya dalam situasi tertentu yang telah dirancang.

n

Di Malaysia, ancaman ini sangat relevan dalam konteks penggunaan AI dalam sistem permarkahan kredit, keputusan pinjaman bank, dan sistem penilaian pekerjaan. Sekiranya model AI yang digunakan oleh institusi kewangan Malaysia telah dicemari melalui data poisoning, ia boleh secara sistematis mendiskriminasikan kumpulan etnik, kawasan geografi, atau kategori sosial tertentu — tanpa disedari oleh pengguna mahupun pengawal selia.

n

Serangan supply chain pada model AI pra-latihan (pre-trained models) juga semakin membimbangkan. Ramai pembangun AI Malaysia menggunakan model sumber terbuka daripada repositori awam. Sekiranya model-model ini telah dikompromi oleh penyerang, kerentanan tersebut akan ikut terbawa ke dalam sistem AI yang dibangunkan menggunakannya. Langkah-langkah ini berkait rapat dengan amalan keselamatan siber Malaysia yang menyeluruh.

nn

Keselamatan AI dalam Infrastruktur Kritikal Malaysia

n

Sektor infrastruktur kritikal Malaysia — termasuk bekalan air, grid elektrik, sistem perbankan, kawalan trafik udara, dan sistem telekomunikasi — semakin bergantung kepada sistem AI untuk pengoptimuman dan automasi. Kebergantungan ini membuka vektor serangan baharu yang berpotensi memberi impak bencana kepada keselamatan nasional.

n

Tenaga Nasional Berhad (TNB) telah melabur dalam sistem AI untuk pengurusan grid pintar. Sementara itu, PETRONAS menggunakan AI untuk operasi kilang dan pengesan kebocoran. Bank-bank utama Malaysia menggunakan AI untuk pengesanan penipuan masa nyata. Setiap sistem ini, sekiranya diserang atau dimanipulasi melalui kaedah AI adversarial, boleh menyebabkan gangguan operasi yang serius.

n

Suruhanjaya Keselamatan Malaysia (SC) dan Bank Negara Malaysia (BNM) telah mengeluarkan garis panduan berkaitan risiko AI dalam sektor kewangan. Namun, keperluan untuk rangka kerja keselamatan AI yang menyeluruh merentasi semua sektor infrastruktur kritikal masih mendesak dan perlu dipercepatkan.

nn

CyberSecurity Malaysia dan Pertahanan AI Nasional

n

CyberSecurity Malaysia (CSM) merupakan badan pakar teknikal keselamatan siber nasional yang berperanan penting dalam melindungi ekosistem digital Malaysia termasuk daripada ancaman berkaitan AI. CSM menyediakan beberapa perkhidmatan kritikal termasuk tindak balas insiden, forensik digital, dan penilaian kerentanan sistem.

n

Dalam konteks AI, CSM telah memulakan usaha untuk membangunkan kepakaran dalam keselamatan model AI, termasuk kaedah untuk mengesan serangan adversarial, menilai ketahanan model AI, dan menyiasat insiden keselamatan yang melibatkan sistem AI. Pusat Operasi Keselamatan Siber Nasional (NACSA) pula berperanan dalam koordinasi respons kepada ancaman siber peringkat nasional yang melibatkan sistem AI kritikal.

n

Rakyat dan organisasi Malaysia yang menghadapi insiden keselamatan berkaitan AI boleh menghubungi CSM melalui saluran rasmi untuk mendapatkan bantuan. Laporan awalan tentang insiden boleh dibuat kepada MyCERT (Malaysia Computer Emergency Response Team) yang dikendalikan oleh CSM.

nnnn

AI Red Teaming: Menguji Sistem AI dari Sudut Penyerang

n

Red teaming merupakan pendekatan proaktif dalam keselamatan AI di mana pasukan pakar cuba menyerang dan mengeksploitasi sistem AI mereka sendiri sebelum penyerang sebenar berbuat demikian. Konsep ini dipinjam daripada keselamatan siber tradisional dan kini diadaptasi khusus untuk cabaran unik sistem AI.

n

Dalam sesi AI red teaming, pakar keselamatan akan cuba menguji tahap ketahanan model AI terhadap pelbagai serangan termasuk prompt injection, jailbreaking (mengatasi had keselamatan model), data extraction (mengekstrak maklumat latihan yang sensitif), dan manipulasi output. Syarikat-syarikat teknologi besar macam Microsoft, Google, dan OpenAI secara rutin menjalankan AI red teaming sebelum melancarkan produk baharu.

n

Di Malaysia, amalan AI red teaming masih dalam peringkat awal tetapi semakin mendapat perhatian terutamanya dalam sektor kewangan dan kerajaan. Syarikat yang membangunkan atau menggunakan sistem AI kritikal perlu melabur dalam kemampuan AI red teaming sebagai sebahagian daripada kitaran pembangunan yang bertanggungjawab. Amalan ini perlu disokong oleh pemahaman mendalam tentang etika AI di Malaysia.

nn

Perlindungan Model AI Proprietari

n

Bagi syarikat Malaysia yang membangunkan atau menggunakan model AI proprietari (milik sendiri), perlindungan harta intelek dan kerahsiaan model tersebut merupakan keutamaan perniagaan yang kritikal. Pencurian model AI (model stealing attacks) berlaku apabila penyerang menghantar banyak pertanyaan kepada sistem AI dan menggunakan respons yang diterima untuk membina semula model yang serupa.

n

Perlindungan model AI proprietari merangkumi beberapa lapisan: perlindungan akses API (menggunakan pengesahan yang kukuh dan had kadar), pemantauan corak pertanyaan yang mencurigakan, teknik watermarking model (menanda tangan model untuk membuktikan pemilikan), dan perlindungan undang-undang melalui hak cipta dan rahsia perdagangan.

n

Akta Hak Cipta 1987 Malaysia dan Akta Rahsia Perdagangan 2000 memberikan asas undang-undang untuk melindungi model AI proprietari, namun perkembangan undang-undang yang khusus untuk AI sedang dijangkakan memandangkan nilai ekonomi yang semakin besar dalam aset AI.

nn

Panduan Praktikal: Melindungi Diri daripada Ancaman AI

n

Untuk individu dan perniagaan kecil di Malaysia, berikut adalah langkah-langkah praktikal untuk meningkatkan keselamatan terhadap ancaman berkaitan AI:

n

    n

  • Sentiasa sahkan identiti sebelum berkongsi maklumat sensitif, walaupun dengan sistem AI yang kelihatan dipercayai

    • n

  • Elakkan berkongsi data latihan sensitif dengan platform AI pihak ketiga tanpa perjanjian kerahsiaan yang jelas

    • n

  • Pantau output sistem AI yang anda gunakan untuk sebarang anomali atau tingkah laku yang tidak dijangka

    • n

  • Kemaskini sistem AI dan perpustakaan yang digunakan secara kerap untuk memastikan tampalan keselamatan terkini dipasang

    • n

  • Latih pekerja tentang risiko prompt injection dan serangan social engineering yang menggunakan AI

    • n

  • Laporkan sebarang insiden keselamatan AI kepada MyCERT untuk membantu usaha pertahanan siber nasional

    • n

nn

n

🔤 Rekomendasi: Grammarly

n

Sebelum hantar apa-apa tulisan dalam Bahasa Inggeris — semak dulu dengan Grammarly. Pelan percuma dah cukup untuk kegunaan harian. Premium (RM35/bulan) tambah cadangan gaya penulisan + penjana ayat AI.

n

→ Cuba Grammarly Percuma

n

n

n

Artikel Berkaitan

n

n

Rujukan

n

n

Artikel Berkaitan

n

nn

Cara Melindungi Diri dari Ancaman AI Berbahaya di Malaysia

n

Seiring dengan perkembangan teknologi AI yang pesat, ancaman keselamatan siber yang menggunakan AI turut semakin canggih dan sukar dikesan. Penipu dan penjenayah siber kini menggunakan AI untuk melancarkan serangan phishing yang lebih meyakinkan, mencipta kandungan palsu yang hampir tidak dapat dibezakan dari yang asli, dan mengautomasikan serangan ke atas sistem komputer dalam skala yang besar. Di Malaysia, laporan penipuan dalam talian dan jenayah siber terus meningkat dari tahun ke tahun, menjadikan kesedaran tentang keselamatan AI sebagai keperluan yang mendesak untuk semua rakyat Malaysia.

nn

Salah satu ancaman AI yang paling ketara ialah penggunaan deepfake dan teknik manipulasi video/audio berpacu AI dalam penipuan dan penyebaran maklumat palsu. Penipu menggunakan deepfake untuk mewujudkan video yang kelihatan macam orang yang dikenali memohon bantuan kewangan, atau mencipta rakaman suara palsu untuk menipu sistem pengesahan suara. Untuk melindungi diri, rakyat Malaysia perlu sentiasa mengesahkan identiti seseorang melalui saluran komunikasi yang berbeza sebelum menghantar wang atau berkongsi maklumat sensitif, dan tidak bergantung semata-mata pada apa yang kelihatan atau kedengaran di media digital.

nn

Perlindungan data peribadi adalah garis pertahanan pertama terhadap ancaman AI. Rakyat Malaysia perlu mengamalkan kebersihan digital yang baik, termasuk menggunakan kata laluan yang kuat dan unik untuk setiap akaun, mengaktifkan pengesahan dua faktor di mana ia tersedia, dan berhati-hati dalam berkongsi data peribadi di platform dalam talian. Pihak berkuasa macam CyberSecurity Malaysia menyediakan sumber pendidikan dan bantuan kepada mangsa jenayah siber. Syarikat dan organisasi turut perlu berinvestasi dalam penyelesaian keselamatan siber berasaskan AI yang dapat mengesan dan bertindak balas terhadap ancaman secara automatik, kerana kelajuan dan kecanggihan ancaman AI moden melampaui kemampuan sistem keselamatan manual untuk menanganinya secara berkesan.

Facebook X / Twitter