Sedang mengikuti modul ini?0 daripada 19 selesai
Modul 12 · Halaman 13 daripada 20 · 10 bahagian

Keselamatan, Privasi dan AI Bertanggungjawab

Risiko khusus sistem AI, cara melindungi data dan prompt, pagar pelindung untuk aplikasi LLM, serta prinsip dan peraturan yang membingkainya.

10Penelitian Komponen Sistem11Kebolehpercayaan, Toleransi Kesalahan dan Ketersediaan Tinggi14Penilaian dan Pengujian
12.1

1. Pengenalan

  • Apabila sistem AI menjadi lebih berkuasa dan digunakan secara meluas, amalan keselamatan, privasi dan AI bertanggungjawab penting untuk memastikan sistem yang selamat, adil dan boleh dipercayai.
  • Sistem AI mengendalikan data sensitif, membuat keputusan yang memberi kesan kepada manusia dan boleh disalahgunakan jika tidak direka dan dikawal dengan betul.
  • Topik ini merangkumi risiko utama, amalan terbaik dan rangka kerja untuk membina aplikasi AI yang selamat, peribadi dan bertanggungjawab.
12.2

2. Istilah Utama

1
Keselamatan Data
Melindungi data daripada akses dan serangan tanpa kebenaran.
2
Privasi
Memastikan data pengguna dikendalikan dengan bertanggungjawab.
3
PII
Maklumat Pengenalan Peribadi: maklumat yang boleh mengenal pasti seseorang (nama, e-mel, telefon, dll.).
4
AI Bertanggungjawab
Membina sistem AI yang adil, telus dan bertanggungjawab.
5
Bias
Tingkah laku tidak adil atau diskriminasi dalam model AI.
6
Kebolehjelasan
Keupayaan untuk memahami dan menjelaskan keputusan model.
7
Tadbir Urus
Polisi dan proses untuk mengurus risiko AI.
8
Pematuhan
Mematuhi keperluan undang-undang dan peraturan.
12.3

3. Risiko Keselamatan dalam Sistem AI

1
Kebocoran data
Data sensitif terdedah dalam prompt atau log.
2
Suntikan prompt
Input berniat jahat untuk memanipulasi LLM.
3
Kecurian model
Mencuri model atau pemberat proprietari.
4
Serangan adversari
Memanipulasi input untuk mendapatkan output yang salah.
5
Pemalam / alat tidak selamat
Mengeksploitasi alat atau API luaran.
6
Risiko rantaian bekalan
Kelemahan dalam model atau pustaka sumber terbuka.
7
Capaian data tidak terkawal
Membawa kepada pendedahan data sensitif.
8
Penggunaan tidak selamat
Awan, API atau rangkaian yang salah konfigurasi.
12.4

4. Risiko dan Cabaran Privasi

  1. 1Pendedahan PII dalam data latihan atau inferens.
  2. 2Menyimpan perbualan pengguna tanpa kebenaran.
  3. 3Berkongsi data dengan API pihak ketiga (cth. pembekal LLM).
  4. 4Risiko pengenalan semula daripada data tanpa nama.
  5. 5Polisi pengekalan dan pemadaman data.
  6. 6Pemindahan data merentas sempadan dan pematuhan.
  7. 7Penggunaan data pengguna untuk latihan model tanpa kebenaran.
  8. 8Kekurangan ketelusan dalam penggunaan data.
12.5

5. Seni Bina Keselamatan Hujung ke Hujung

PenggunaDisahkan
Get Laluan APIPengesahan, had kadar, pengesahan input, penyulitan (HTTPS)
Pelayan AplikasiKawalan akses, penapisan prompt, log audit, akses alat selamat
Perkhidmatan LLM / AIPenapisan kandungan, pagar pelindung keselamatan, pemantauan, tiada storan data sensitif
Pangkalan data selamat (penyulitan semasa rehat) · Audit & pemantauan (log, amaran) · Pengurusan rahsia (kunci API, token)
12.6

6. Teknik Privasi Data

1
Penyahnamaan Data
Buang atau sembunyikan PII.
2
Pseudonimisasi
Gantikan pengecam dengan alias.
3
Privasi Pembezaan
Tambah hingar untuk melindungi identiti.
4
Pengurangan Data
Kumpul hanya data yang perlu.
5
Penyulitan
Semasa penghantaran (TLS) dan semasa rehat.
6
Kawalan Akses
Akses berasaskan peranan (RBAC).
7
Polisi Pengekalan Data
Simpan data hanya seperti yang diperlukan.
8
Persetujuan Pengguna
Maklumkan dengan jelas dan dapatkan kebenaran.
12.7

7. Prinsip AI Bertanggungjawab

1
Keadilan
Elakkan bias dan diskriminasi.
2
Ketelusan
Jelaskan cara model berfungsi.
3
Akauntabiliti
Bertanggungjawab ke atas hasil model.
4
Privasi
Lindungi data pengguna dan hormati persetujuan.
5
Keselamatan
Cegah output yang berbahaya atau mengelirukan.
6
Manusia dalam gelung
Kekalkan manusia dalam keputusan kritikal.
7
Keterangkuman
Pastikan kebolehcapaian untuk semua pengguna.
8
Kemampanan
Minimumkan kesan terhadap alam sekitar.
12.8

8. Pagar Pelindung untuk Aplikasi LLM

1
Penapisan input
Kesan dan sekat kandungan berbahaya.
2
Penapisan output
Cegah respons yang tidak selamat, berat sebelah atau toksik.
3
Pengesanan PII
Buang maklumat sensitif daripada prompt dan respons.
4
Pembersihan prompt
Cegah serangan suntikan prompt.
5
Penyederhanaan kandungan
Guna penapis keselamatan (OpenAI, Llama Guard, dll.).
6
Kawalan akses alat
Hadkan penggunaan API dan alat luaran.
7
Had kadar
Cegah penyalahgunaan dan serangan DoS.
8
Pemantauan dan amaran
Jejak aktiviti mencurigakan.
Berkaitan06Reka Bentuk Sistem LLM
12.9

9. Pematuhan dan Peraturan

1
GDPR (EU)
Perlindungan data dan hak privasi.
2
CCPA (California)
Privasi dan kawalan data pengguna.
3
HIPAA (Healthcare)
Perlindungan data perubatan.
4
DPDP Act (India)
Undang-undang perlindungan data peribadi.
5
AI Act (EU)
Peraturan untuk AI yang selamat dan boleh dipercayai.
6
Pematuhan khusus industri
Kewangan, penjagaan kesihatan, dll.
12.10

10. Amalan Terbaik

  1. 1Jangan sekali-kali dedahkan data sensitif dalam prompt.
  2. 2Guna penyulitan dan kawalan akses.
  3. 3Laksanakan penapisan input dan output.
  4. 4Ikuti polisi pengurangan dan pengekalan data.
  5. 5Pantau dan audit tingkah laku sistem secara berkala.
  6. 6Uji bias, keadilan dan isu keselamatan.
  7. 7Pastikan model dan kebergantungan sentiasa dikemas kini.
  8. 8Sediakan komunikasi dan persetujuan pengguna yang jelas.