Disusun dengan bantuan AI. Angka dan kutipan dari pihak lain ditautkan ke sumber yang dibuka saat menulis.
Tim sering memakai AI lebih cepat daripada organisasi menyusun aturannya. Seseorang menyalin dokumen ke chatbot, orang lain memakai AI untuk memilih kandidat, dan tim ketiga mengirim jawaban yang belum diperiksa. Etika penggunaan AI bukan larangan untuk bereksperimen. Ia adalah cara membuat batas, tanggung jawab, dan proses review terlihat sehingga manfaat AI tidak dibayar dengan kebocoran data, keputusan yang tidak adil, atau klaim yang tidak dapat dipertanggungjawabkan. Ilustrasi: Nalurika
Tim sering memakai AI lebih cepat daripada organisasi menyusun aturannya. Seseorang menyalin dokumen ke chatbot, orang lain memakai AI untuk memilih kandidat, dan tim ketiga mengirim jawaban yang belum diperiksa. Etika penggunaan AI bukan larangan untuk bereksperimen. Ia adalah cara membuat batas, tanggung jawab, dan proses review terlihat sehingga manfaat AI tidak dibayar dengan kebocoran data, keputusan yang tidak adil, atau klaim yang tidak dapat dipertanggungjawabkan.
Untuk menghubungkan pembahasan dengan langkah bisnis berikutnya, lihat halaman kursus AI dan bandingkan kebutuhan tim Anda dengan proses yang sudah dijelaskan di atas.
Apa yang dimaksud etika penggunaan AI?
Jawaban singkat: Etika penggunaan AI adalah prinsip dan aturan untuk memastikan AI dipakai secara bertanggung jawab, dapat dijelaskan, aman, dan sesuai tujuan.
Etika muncul pada keputusan yang dibuat sebelum, selama, dan setelah sistem digunakan. Tim perlu bertanya apakah data boleh diproses, apakah hasilnya akurat untuk konteks, siapa yang terkena dampak, dan siapa yang bertanggung jawab jika terjadi kesalahan. Prinsip umum harus diterjemahkan menjadi perilaku kerja, misalnya larangan memasukkan rahasia pelanggan ke alat yang tidak disetujui dan kewajiban memeriksa teks sebelum dikirim.
Di Indonesia, rujukan resminya adalah Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial, yang ditetapkan pada 19 Desember 2023. Surat edaran ini mendefinisikan etika kecerdasan artifisial sebagai landasan yang mengatur prinsip dan norma etis dalam penyelenggaraan pemrograman berbasis AI, yang didasari nilai inklusivitas, transparansi, kemanusiaan, dan keamanan. Sasarannya adalah pelaku usaha aktivitas pemrograman berbasis AI serta penyelenggara sistem elektronik lingkup publik dan privat.
Mengapa kebijakan AI diperlukan?
Jawaban singkat: Kebijakan AI mengurangi keputusan spontan dengan menetapkan alat yang disetujui, jenis data, tingkat review, dan jalur eskalasi.
Tanpa kebijakan, aturan yang berbeda dapat berlaku untuk pekerjaan yang sama. Satu orang menyimpan prompt dan output, orang lain tidak memiliki jejak. Satu tim menyebut konten sebagai hasil manusia, tim lain menggunakannya untuk keputusan pelanggan tanpa penjelasan. Kebijakan tidak harus panjang. Ia perlu mudah ditemukan, punya pemilik, diperbarui ketika alat atau risiko berubah, dan diterapkan dalam onboarding.
Prinsip global yang banyak dirujuk adalah OECD AI Principles, yang pertama kali diadopsi pada 2019 dan diperbarui pada Mei 2024. Prinsip berbasis nilai di dalamnya mencakup pertumbuhan inklusif dan kesejahteraan, hak asasi manusia dan nilai demokrasi termasuk keadilan dan privasi, transparansi dan keterjelasan, ketangguhan dan keamanan, serta akuntabilitas. Kebijakan AI internal membantu menerjemahkan prinsip seperti ini ke aturan yang bisa diikuti karyawan setiap hari.
Kebijakan AI mengganti keputusan spontan dengan batas yang terlihat semua tim. Kebijakan tidak harus panjang, asal dipakai. Diagram: Nalurika
Data dan privasi
Jawaban singkat: Penggunaan AI harus dimulai dari klasifikasi data dan tujuan pemrosesan, bukan dari rasa ingin mencoba alat terbaru.
Kelompokkan data publik, internal, rahasia, dan data pribadi sesuai aturan organisasi. Tentukan data apa yang boleh dikirim ke alat eksternal. Minimalkan isi prompt dan hapus identitas jika tidak diperlukan. Jangan menaruh token, password, kontrak, atau daftar pelanggan pada chat yang tidak disetujui. Simpan bukti persetujuan dan gunakan penyimpanan yang mempunyai akses terbatas. Jika ragu, hentikan proses dan tanyakan pemilik data.
Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi Pasal 16 ayat (2) mengatur prinsip pemrosesan data pribadi, antara lain dilakukan secara terbatas dan spesifik, sah secara hukum, dan transparan; sesuai dengan tujuannya; dengan menjamin hak subjek data; serta secara akurat, lengkap, tidak menyesatkan, mutakhir, dan dapat dipertanggungjawabkan. Menempelkan data pelanggan ke alat AI juga merupakan pemrosesan data pribadi, sehingga prinsip ini berlaku sebelum data itu diunggah.
Akurasi dan halusinasi
Jawaban singkat: AI dapat menghasilkan teks yang meyakinkan tetapi salah, sehingga output perlu diperlakukan sebagai bahan yang harus diverifikasi.
Tingkat review harus mengikuti dampak penggunaan. Draf ide internal berbeda dengan jawaban tentang hukum, kesehatan, keuangan, atau kebijakan pelanggan. Minta AI menunjukkan sumber ketika tersedia, tetapi tetap buka sumber tersebut dan periksa konteksnya. Tandai bagian yang belum terverifikasi. Jangan memasukkan angka, nama, atau kutipan ke materi publik sebelum pengecekan. Kesalahan yang tidak diketahui bukan bukti bahwa output benar.
Surat Edaran Menkominfo 9/2023 memuat nilai kredibilitas dan akuntabilitas: informasi yang dihasilkan AI harus dapat dipercaya dan dipertanggungjawabkan ketika disebarkan kepada publik (JDIH Komdigi). Untuk bisnis, ini berarti setiap konten atau jawaban AI yang dikirim ke pelanggan atau dipublikasikan harus punya orang yang memeriksa faktanya dan siap bertanggung jawab atasnya.
Keadilan dan bias
Jawaban singkat: Sistem AI dapat memperkuat bias yang sudah ada di data, label, prompt, atau proses keputusan.
Periksa siapa yang menjadi contoh dan siapa yang tidak terlihat. Jangan memakai hasil AI sebagai satu-satunya dasar untuk menolak kandidat, menilai pelanggan, atau menentukan perlakuan yang berdampak. Uji contoh dengan variasi bahasa dan konteks. Dokumentasikan alasan manusia ketika keputusan penting dibuat. Jika hasilnya berbeda antar kelompok, cari penyebabnya sebelum sistem diperluas. Fairness memerlukan data, pengawasan, dan mekanisme keberatan yang jelas.
Nilai inklusivitas dalam Surat Edaran Menkominfo 9/2023 meminta penyelenggaraan AI memperhatikan kesetaraan, keadilan, dan perdamaian, dan bagian tanggung jawabnya meminta pencegahan rasisme serta segala bentuk tindakan yang merugikan manusia. UU PDP Pasal 34 juga memasukkan pemrosesan data untuk evaluasi, penskoran, atau pemantauan sistematis terhadap subjek data sebagai pemrosesan berisiko tinggi yang wajib didahului penilaian dampak (UU 27/2022). Penyaringan kandidat atau penilaian pelanggan dengan AI termasuk area yang perlu diperiksa dengan cermat.
Mengurangi bias: hasil AI hanya saran awal. Keputusan yang berdampak pada kandidat atau pelanggan tetap diambil manusia dengan alasan tercatat. Diagram: Nalurika
Transparansi dan atribusi
Jawaban singkat: Orang yang menerima output berhak memahami kapan AI dipakai dan siapa yang bertanggung jawab terhadap hasil akhirnya.
Transparansi tidak berarti menampilkan semua prompt kepada publik. Jelaskan penggunaan AI ketika hal itu relevan bagi kepercayaan, persetujuan, atau kewajiban organisasi. Di dalam tim, tandai draf yang dibuat atau dibantu AI. Simpan versi, reviewer, dan perubahan penting. Jangan mengklaim sebuah keputusan dibuat oleh manusia jika AI menjalankan penyaringan yang menentukan tanpa review bermakna.
Surat edaran yang sama memuat nilai transparansi: penyelenggaraan AI perlu dilandasi transparansi data yang digunakan untuk menghindari penyalahgunaan, dan pelaku usaha dapat memberi akses kepada pengguna yang berhak untuk mengetahui penyelenggaraan data dalam pengembangan teknologi berbasis AI (JDIH Komdigi). OECD menempatkan transparansi dan keterjelasan sebagai salah satu prinsip utamanya (OECD). Dalam praktik bisnis, langkah paling sederhana adalah memberi tahu penerima kapan sebuah konten atau jawaban dibuat dengan bantuan AI.
Human in the loop
Jawaban singkat: Review manusia harus punya wewenang untuk menolak, memperbaiki, dan menghentikan output AI, bukan sekadar menjadi formalitas.
Tetapkan jenis output yang wajib ditinjau, kompetensi reviewer, dan checklist yang dipakai. Reviewer harus melihat sumber dan konteks, bukan hanya mengecek ejaan. Untuk tindakan otomatis, sediakan persetujuan sebelum mengirim pesan, mengubah data, atau mengambil keputusan yang tidak mudah dibatalkan. Catat koreksi agar tim dapat menemukan pola kegagalan. Jika volume meningkat, jangan mengurangi review tanpa analisis risiko.
UU PDP Pasal 10 memberi subjek data hak untuk mengajukan keberatan atas pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau berdampak signifikan. Surat Edaran Menkominfo 9/2023 juga menyatakan bahwa AI tidak diselenggarakan sebagai penentu kebijakan atau pengambil keputusan yang menyangkut kemanusiaan (JDIH Komdigi). Keduanya menjadi dasar kuat untuk mewajibkan review manusia pada keputusan yang berdampak pada orang.
Membuat kebijakan AI praktis
Jawaban singkat: Kebijakan AI yang dapat dipakai berisi ruang lingkup, alat yang disetujui, data terlarang, aturan review, logging, pelaporan insiden, dan jadwal evaluasi.
Mulai dari inventaris penggunaan AI yang sudah terjadi. Kelompokkan berdasarkan tujuan dan dampaknya. Buat contoh prompt aman serta contoh yang harus ditolak. Tetapkan siapa pemilik alat dan siapa yang merespons insiden. Beri pelatihan singkat menggunakan kasus sehari-hari. Tinjau kebijakan setelah ada perubahan vendor, jenis data, atau insiden. Kebijakan yang tidak dibaca bukan kontrol yang efektif.
Sebagai kerangka penyusunan, NIST AI Risk Management Framework yang dirilis pada 26 Januari 2023 dapat dipakai secara sukarela untuk memasukkan pertimbangan kepercayaan ke dalam desain, pengembangan, penggunaan, dan evaluasi sistem AI. Pada 26 Juli 2024 NIST juga merilis profil khusus AI generatif (NIST-AI-600-1). Di Indonesia, kebijakan internal juga perlu mencakup kewajiban UU PDP Pasal 34: penilaian dampak pelindungan data pribadi untuk pemrosesan berisiko tinggi, termasuk pengambilan keputusan otomatis dan penggunaan teknologi baru (UU 27/2022).
Checklist penerapan yang aman
Sebelum memakai pendekatan ini pada proses nyata, gunakan checklist berikut. Checklist tidak menggantikan penilaian pemilik proses, tetapi membantu memastikan pertanyaan dasar tidak terlewat. Pilih ruang lingkup yang kecil agar kesalahan dapat dikoreksi tanpa memengaruhi seluruh operasi. Setelah uji pertama, catat perubahan yang terjadi dan perbarui dokumentasi yang dibaca tim.
Hal yang diperiksa
Pertanyaan praktis
Bukti minimum
Tujuan
Masalah apa yang ingin dikurangi?
Definisi masalah dan pemilik
Data
Data apa yang dipakai dan boleh diakses?
Daftar sumber dan izin
Kontrol
Kapan manusia memeriksa atau menyetujui?
Checklist review
Kegagalan
Apa yang terjadi jika langkah gagal?
Jalur eskalasi dan log
Evaluasi
Bagaimana kualitas hasil dibaca?
Contoh uji dan catatan hasil
Catatan implementasi untuk tim
Di minggu pertama, gunakan satu contoh kerja yang sudah selesai sebagai bahan pembelajaran. Tulis kondisi awal, siapa yang mengerjakan, data yang dipakai, dan bagian yang paling sering membutuhkan koreksi. Untuk etika penggunaan ai, contoh nyata lebih berguna daripada daftar fitur karena membantu tim melihat batas konsep dan membuat definisi selesai yang dapat diperiksa. Simpan pertanyaan yang belum terjawab agar tidak hilang ketika diskusi berpindah ke pemilihan tool.
Di minggu kedua, buat percobaan dengan ruang lingkup kecil dan pemilik yang jelas. Minta pengguna proses menjalankan contoh, lalu catat bagian yang terasa membingungkan. Jangan hanya mengukur apakah sistem menyala. Perhatikan apakah hasilnya bisa dibaca, apakah data yang dipakai memang sah, dan apakah orang yang bertanggung jawab tahu apa yang harus dilakukan ketika hasil tidak sesuai. Catatan ini menjadi dasar untuk memperbaiki etika penggunaan ai tanpa menambah kompleksitas yang belum diperlukan.
Sinyal untuk melanjutkan adalah hasil uji konsisten, sumber dapat ditelusuri, dan kesalahan memiliki jalur penanganan. Sinyal untuk berhenti adalah data tidak lengkap, izin tidak jelas, pemilik tidak tersedia, atau hasil tampak meyakinkan tetapi tidak dapat diverifikasi. Berhenti pada tahap ini bukan kegagalan. Itu cara menjaga agar eksperimen etika-penggunaan-ai tidak berubah menjadi masalah operasional yang lebih mahal.
Dokumentasikan keputusan dalam bahasa yang dipahami tim nonteknis. Tuliskan apa yang dilakukan, apa yang tidak dilakukan, data apa yang dikecualikan, dan kapan review berikutnya dilakukan. Dokumentasi singkat membantu orang lain mengulang hasil, menemukan perubahan, dan memberi umpan balik yang spesifik. Ia juga mencegah pengetahuan hanya tersimpan di percakapan pribadi atau di kepala satu orang.
Jika hasil percobaan diterima, perluas satu bagian pada satu waktu. Setelah setiap perluasan, ulangi pemeriksaan kualitas, akses, error, dan pengalaman pengguna. Jangan menggabungkan perubahan proses, tool, dan target sekaligus karena penyebab masalah akan sulit dibedakan. Cara bertahap membuat perbaikan etika penggunaan ai lebih mudah dipertahankan ketika volume kerja meningkat atau anggota tim berganti.
Terakhir, tentukan pemilik yang dapat mengambil keputusan setelah artikel ini dibaca. Pemilik tersebut tidak harus membangun semuanya sendiri, tetapi harus mampu menjawab kapan proses dipakai, kapan ditolak, bagaimana data dilindungi, dan kepada siapa kasus khusus diteruskan. Dengan peran yang jelas, pembelajaran dari batch awal bisa menjadi kebiasaan kerja yang sehat, bukan sekadar eksperimen yang berhenti setelah publikasi.
Glosarium kerja khusus: etika penggunaan ai
Etika penggunaan AI menjadi lebih operasional ketika istilahnya dipakai secara spesifik. Fairness menilai apakah dampak berbeda muncul pada kelompok tertentu. Bias dapat berasal dari data, label, desain fitur, atau cara hasil dipakai. Explainability membantu orang memahami alasan keluaran, tetapi tidak selalu berarti membuka seluruh parameter model. Transparency menjelaskan kapan AI digunakan dan apa batasnya. Accountability menunjuk pemilik keputusan. Human oversight memastikan keputusan penting tidak dilepas ke sistem tanpa jalur banding.
Privacy dimulai dari data minimization: ambil data yang diperlukan untuk tujuan yang jelas. Purpose limitation mencegah data yang dikumpulkan untuk layanan dipakai diam-diam untuk tujuan lain. Consent harus dapat dipahami dan tidak dipaksakan. Retention period menentukan kapan data dihapus. Access control, encryption, redaction, dan audit log melindungi data selama diproses. Prompt yang berisi identitas pelanggan tetap merupakan pemrosesan data, meskipun dikirim melalui kotak chat.
Risk assessment perlu mempertimbangkan konteks penggunaan. AI untuk membuat ide marketing berbeda risikonya dari AI untuk menilai kandidat kerja atau merangkum keluhan medis. Impact assessment mencatat pihak terdampak, kemungkinan salah, tingkat keparahan, serta mitigasi. Model card dan data sheet menyimpan batasan, sumber, dan evaluasi. Incident response menentukan cara menghentikan sistem, memberi tahu pihak terkait, dan memulihkan proses manual. Red teaming dapat menemukan prompt injection, kebocoran, dan pola diskriminatif sebelum peluncuran.
Governance tidak harus menjadi dokumen yang tidak dibaca. Buat kebijakan singkat dengan daftar penggunaan yang diperbolehkan, dilarang, dan perlu persetujuan. Tetapkan review owner, tanggal evaluasi, bukti pengujian, serta mekanisme keluhan. Beri label pada konten yang dibuat atau dibantu AI bila pembaca perlu mengetahuinya. Simpan sumber dan keputusan manusia yang mengubah draft menjadi publikasi. Prinsip etika menjadi nyata ketika ada kontrol, catatan, dan seseorang yang bertanggung jawab saat sistem salah.
Kesimpulan
Etika penggunaan AI di bisnis bukan larangan untuk bereksperimen, melainkan cara membuat batas, tanggung jawab, dan review terlihat jelas. Di Indonesia, Surat Edaran Menkominfo 9/2023 memberi nilai acuan seperti inklusivitas, kemanusiaan, keamanan, transparansi, serta kredibilitas dan akuntabilitas, sementara UU PDP mengatur prinsip pemrosesan data, hak keberatan atas keputusan otomatis, dan penilaian dampak untuk pemrosesan berisiko tinggi. Mulailah dengan daftar alat yang disetujui, aturan data yang tidak boleh diunggah, review manusia untuk keputusan yang berdampak pada orang, dan jadwal evaluasi kebijakan.
Tujuh isi kebijakan AI yang praktis. Daftar data terlarang adalah bagian yang tidak boleh kosong. Diagram: NalurikaTingkat review mengikuti dampak penggunaan. Makin besar akibat salahnya, makin ketat dan makin kompeten reviewer-nya. Diagram: Nalurika
Etika penggunaan AI adalah prinsip dan aturan agar AI dipakai secara aman, bertanggung jawab, dapat diperiksa, dan sesuai tujuan.
Kebijakan membantu tim memahami data yang boleh dipakai, alat yang disetujui, tingkat review, dan jalur tanggung jawab.
Hindari rahasia, password, token, data pelanggan, dan data pribadi pada alat yang belum disetujui atau tidak memiliki perlindungan yang sesuai.
Tidak selalu. Output perlu dicek akurasi, sumber, konteks, hak penggunaan, dan kesesuaian dengan brand sebelum dipublikasikan.
Human in the loop berarti manusia memiliki kesempatan nyata untuk memeriksa, memperbaiki, menyetujui, atau menolak output AI.
Periksa data dan contoh, uji hasil pada variasi konteks, jangan gunakan AI sebagai satu-satunya dasar keputusan berdampak, dan sediakan mekanisme keberatan.
Isi minimum mencakup ruang lingkup, alat, klasifikasi data, review, logging, pelaporan insiden, pemilik, dan jadwal evaluasi.
Tanggung jawab tetap berada pada organisasi dan pemilik proses yang memakai sistem. AI bukan pengganti akuntabilitas manusia.
Ceritakan proses, tim, dan kendala yang ingin Anda rapikan. Kami bantu memetakan langkah yang masuk akal untuk bisnis Anda. Kami membalas di jam kerja.