Etika AI membantu memastikan kecerdasan buatan digunakan secara adil, selamat dan bertanggungjawab, bukan sekadar pantas atau cekap. Tumpuannya ialah melindungi data peribadi, mengurangkan bias, menjelaskan peranan sistem dan menentukan siapa yang perlu menyemak keputusan.
Hal ini penting apabila AI digunakan untuk memberi cadangan atau membuat keputusan yang memberi kesan kepada seseorang. Keupayaan AI banyak bergantung pada data dan cara sistem itu dibangunkan serta digunakan.
Oleh itu, organisasi perlu melihat etika sebagai sebahagian daripada proses kerja, bukan langkah tambahan selepas sistem siap.
Mengapa etika perlu menjadi asas penggunaan AI
AI boleh membantu memproses maklumat dan menghasilkan cadangan dengan cepat. Namun, keputusan sistem boleh dipengaruhi oleh corak yang terdapat dalam data latihan. Etika memberi kerangka untuk menilai sama ada penggunaan tersebut wajar, siapa yang mungkin terkesan dan apakah semakan yang perlu dibuat sebelum hasil AI digunakan.
Kesan keputusan automatik terhadap individu dan masyarakat
Keputusan automatik boleh mempengaruhi cara seseorang dinilai, dilayan atau diberi keutamaan. Jika pengguna tidak tahu AI terlibat, mereka mungkin tidak memahami asas sesuatu cadangan atau keputusan. Kesan ini juga boleh meluas apabila sistem digunakan pada skala besar. Sebab itu, tahap pengawasan perlu disesuaikan dengan kesan keputusan terhadap individu.
Risiko apabila teknologi digunakan tanpa kawalan
Penggunaan tanpa kawalan boleh membawa kepada data digunakan di luar tujuan asal, keputusan yang sukar disemak, atau kebergantungan berlebihan pada output sistem. AI tidak sepatutnya dianggap tepat dalam semua keadaan tanpa penilaian konteks penggunaan. Bagi keputusan yang memberi kesan besar, manusia perlu mempunyai ruang untuk menyemak, mencabar dan membetulkan hasil sistem.
Privasi dan pengurusan data peribadi
Data peribadi memerlukan pengurusan teliti bagi mengurangkan risiko akses, penggunaan atau pendedahan tanpa kebenaran. Sebelum data dimasukkan ke dalam sistem AI, organisasi perlu jelas tentang tujuan penggunaan dan jenis maklumat yang benar-benar diperlukan. Mengumpul lebih banyak data daripada yang relevan hanya menambah risiko pengurusan.
Menghadkan data kepada tujuan yang jelas
Tujuan penggunaan perlu ditentukan dari awal, contohnya untuk menyusun pertanyaan pelanggan atau membantu semakan dalaman. Data yang digunakan hendaklah berkaitan dengan tujuan tersebut. Jika tujuan berubah, kesesuaian penggunaan data perlu dinilai semula. Keperluan pematuhan khusus bagi organisasi atau sektor di Malaysia boleh berbeza dan perlu disahkan mengikut keadaan.
Kawalan akses, penyimpanan dan perkongsian data
Akses kepada data tidak seharusnya dibuka kepada semua pihak secara automatik. Organisasi boleh menetapkan siapa yang memerlukan akses, bagaimana data disimpan dan bila perkongsian dibenarkan. Apabila alat atau penyedia luar digunakan, cara data dikendalikan juga perlu diperiksa. Langkah ini penting kerana risiko tidak terhad kepada waktu sistem dibangunkan sahaja.
Bias algoritma dan prinsip keadilan
Bias algoritma merujuk kepada risiko hasil AI memberi layanan yang tidak seimbang kepada individu atau kumpulan tertentu. Ia boleh berlaku apabila data latihan memaparkan corak yang tidak mewakili keadaan sebenar, tidak lengkap atau sudah mempunyai kecenderungan tertentu. Tahap bias bagi setiap model dan set data tidak boleh diandaikan tanpa semakan.
Bagaimana data boleh menghasilkan layanan tidak seimbang
AI belajar daripada corak data. Jika corak itu tidak seimbang, sistem mungkin mengulang atau menguatkan ketidakseimbangan tersebut dalam cadangannya. Masalahnya bukan hanya pada model; pilihan data, cara hasil ditafsirkan dan konteks penggunaan turut mempengaruhi keadilan. Oleh itu, output AI perlu dinilai bersama pertimbangan manusia, terutama apabila melibatkan individu.
Semakan data dan keputusan untuk mengesan risiko bias
Semakan boleh dibuat pada data yang digunakan, tujuan sistem dan hasil yang dihasilkan dalam penggunaan sebenar. Jika terdapat corak keputusan yang menimbulkan kebimbangan, organisasi perlu menyiasat sama ada puncanya datang daripada data, tetapan sistem atau cara penggunaannya. Semakan berkala lebih berguna daripada menganggap penilaian awal sahaja sudah mencukupi.
| Aspek | Soalan semakan | Fokus tindakan |
|---|---|---|
| Privasi | Adakah data ini diperlukan untuk tujuan yang jelas? | Hadkan pengumpulan dan kawal akses. |
| Keadilan | Adakah hasil berisiko memberi layanan tidak seimbang? | Semak data dan keputusan sistem. |
| Ketelusan | Adakah pengguna tahu AI terlibat? | Terangkan peranan AI dengan jelas. |
| Akauntabiliti | Siapa menyemak dan membetulkan keputusan? | Tetapkan pemilik serta saluran semakan. |
Ketelusan, kebolehjelasan dan akauntabiliti
Ketelusan membantu pengguna memahami peranan AI dalam sesuatu keputusan atau cadangan. Ia tidak semestinya bermaksud semua butiran teknikal perlu didedahkan, tetapi pengguna patut menerima maklumat yang cukup untuk mengetahui bila AI digunakan dan bagaimana hasilnya mempengaruhi proses. Ini juga memudahkan pertanyaan atau semakan dibuat apabila diperlukan.
Memaklumkan pengguna apabila AI terlibat
Makluman perlu menggunakan bahasa yang jelas dan sesuai dengan konteks. Contohnya, pengguna boleh diberitahu bahawa AI digunakan untuk menghasilkan cadangan awal, manakala keputusan akhir masih disemak oleh manusia jika itu memang prosesnya. Jangan memberi gambaran bahawa sistem mempunyai kepastian mutlak jika ketepatan dan kesesuaiannya belum dinilai dalam konteks tersebut.
Menetapkan pemilik keputusan dan saluran semakan
Setiap penggunaan AI perlu mempunyai pihak yang bertanggungjawab menyemak operasi dan menangani isu. Saluran untuk membetulkan maklumat, menilai keputusan atau menerima aduan juga perlu jelas. Pihak yang memikul liabiliti undang-undang bagi kesilapan AI berbeza mengikut situasi dan memerlukan pengesahan yang sesuai.
Amalan tadbir urus untuk organisasi
Tadbir urus AI menghubungkan tujuan perniagaan dengan perlindungan terhadap pengguna dan pengurusan risiko. Ia meliputi peranan manusia, kawalan data, semakan keputusan serta tindakan apabila sistem menunjukkan masalah. Pendekatan ini membantu organisasi menggunakan AI secara lebih teratur tanpa menganggap teknologi itu boleh berjalan sendiri.
Penilaian risiko sebelum pelaksanaan
Sebelum melaksanakan AI, organisasi boleh menilai jenis data yang akan digunakan, individu yang mungkin terkesan dan akibat jika output tersalah atau tidak sesuai. Sistem yang digunakan untuk tugas berimpak tinggi wajar menerima penilaian yang lebih teliti. Ketepatan, keselamatan dan kesesuaian alat AI tetap perlu dinilai berdasarkan konteks penggunaan sebenar.
Pemantauan, audit dan pengawasan manusia
Keselamatan sistem perlu dinilai sepanjang kitaran hayat AI, bukan hanya ketika pembangunan. Pemantauan membantu mengesan perubahan pada prestasi, isu akses data atau hasil yang tidak dijangka. Audit dan pengawasan manusia pula memberi peluang untuk menyemak sama ada kawalan masih berfungsi. Jika risiko meningkat, penggunaan sistem mungkin perlu diselaraskan atau dihentikan sementara untuk semakan.
Penutup
Etika AI bukan penghalang kepada penggunaan teknologi, sebaliknya panduan untuk menggunakannya dengan lebih berhati-hati. Privasi, keadilan, ketelusan dan akauntabiliti perlu dipertimbangkan bersama dari awal hingga sistem digunakan. Pengawasan manusia kekal penting apabila keputusan AI boleh memberi kesan besar kepada seseorang. Dengan proses semakan yang jelas, organisasi lebih bersedia mengurus manfaat dan risiko AI.
Maklumat yang Berguna untuk Diketahui
1. AI boleh dipengaruhi oleh corak dalam data latihan. 2. Data peribadi perlu dikumpul dan digunakan bagi tujuan yang jelas. 3. Pengguna patut memahami apabila AI terlibat dalam cadangan atau keputusan. 4. Semakan berkala diperlukan kerana risiko boleh berubah sepanjang penggunaan sistem. 5. Keperluan khusus di Malaysia bergantung pada organisasi dan sektor, maka pengesahan lanjut diperlukan.
Ringkasan Perkara Penting
Penggunaan AI yang bertanggungjawab memerlukan kawalan data, semakan bias, penerangan yang munasabah tentang peranan sistem dan pihak yang jelas untuk menilai keputusan. Jangan bergantung pada output AI tanpa menilai konteks, khususnya apabila kesannya besar kepada individu.
Soalan Lazim
Q1. Apakah maksud etika dalam teknologi AI?
A1. Etika dalam teknologi AI ialah prinsip untuk memastikan AI digunakan secara adil, selamat dan bertanggungjawab. Ia termasuk perlindungan data peribadi, usaha mengurangkan bias, ketelusan tentang penggunaan AI dan penetapan tanggungjawab apabila berlaku masalah.
Q2. Mengapa bias algoritma boleh menjejaskan pengguna?
A2. Bias boleh menyebabkan hasil AI memberi layanan atau cadangan yang tidak seimbang. Oleh sebab sistem AI boleh dipengaruhi oleh corak dalam data latihan, data dan keputusan perlu disemak untuk mengesan risiko tersebut. Tahap bias bagi sesuatu model hanya boleh diketahui melalui penilaian yang sesuai.
Q3. Bagaimanakah organisasi boleh melindungi data peribadi ketika menggunakan AI?
A3. Organisasi boleh mengehadkan data kepada tujuan yang jelas, mengawal siapa yang boleh mengaksesnya, mengurus penyimpanan dengan teliti dan menyemak perkongsian data dengan pihak lain. Keperluan pematuhan yang khusus pula bergantung pada konteks organisasi dan sektor, jadi ia perlu disahkan sebelum pelaksanaan.
