Apakah Anda harus memberi tahu pelanggan bahwa mereka berbicara dengan AI? Pasal 50 EU AI Act dan Asia Tenggara

Untuk sistem yang termasuk dalam cakupan EU AI Act, penyedia umumnya harus merancang chatbot agar pengguna diberi tahu bahwa mereka berhadapan dengan AI, kecuali jika sudah jelas. Pasal 50(1) berlaku sejak 2 Agustus 2026. Dokumen Asia Tenggara yang ditinjau memberikan panduan dan tidak dengan sendirinya menetapkan kewajiban hukum dalam setiap konteks. Ini bukan nasihat hukum.

Artikel ini mencerminkan sumber yang diperiksa pada 22 Oktober 2026. Pengacara yang berkualifikasi di yurisdiksi Anda sebaiknya meninjau penerapan Anda sendiri.

Apa yang diwajibkan Pasal 50 AI Act?

Pasal 50 Regulasi (UE) 2024/1689 (terbuka di tab baru)^[1] menetapkan empat kewajiban transparansi. Yang pertama berkaitan dengan percakapan dengan chatbot. Pasal tersebut menyatakan bahwa sistem AI yang ditujukan untuk berinteraksi langsung dengan orang harus dirancang agar orang “diberi tahu bahwa mereka berinteraksi dengan sistem AI, kecuali jika hal itu sudah jelas”. Kejelasan dinilai dari sudut pandang orang yang cukup berpengetahuan, jeli, dan berhati-hati. Kewajiban penandaan dalam ayat 2 juga dapat mencakup teks yang dihasilkan sistem generatif, sehingga tanggal di bawah ini penting.

Panduan Komisi tentang Pasal 50 (terbuka di tab baru)^[3], tertanggal 20 Juli 2026, menyatakan bahwa pengecualian tersebut harus ditafsirkan secara ketat. Panduan itu mencantumkan chatbot AI di layanan bantuan, yang jawabannya mungkin dianggap pengguna berasal dari manusia, sebagai contoh ketika pengecualian tidak berlaku. Panduan tersebut menyatakan dirinya tidak mengikat; hanya Mahkamah Kehakiman yang dapat memberikan penafsiran otoritatif.

Ayat 5 menetapkan waktunya. Informasi harus diberikan “secara jelas dan mudah dibedakan paling lambat pada saat interaksi atau paparan pertama”, dan harus memenuhi persyaratan aksesibilitas yang berlaku. Panduan menambahkan bahwa pengungkapan yang hanya ada dalam syarat dan ketentuan saja tidak cukup: pengungkapan itu dapat melengkapi pemberitahuan dalam konteks, tetapi tidak menggantikannya. Panduan menyebut satu pemberitahuan yang menonjol “kemungkinan cukup dalam sebagian besar kasus”, dengan pengingat berkala yang kemungkinan diperlukan dalam konteks berisiko lebih tinggi seperti nasihat keuangan, asuransi, hukum, dan kesehatan.

Apakah Anda penyedia atau pengguna sistem?

Penyedia, menurut Pasal 3(3), mengembangkan sistem AI atau meminta sistem dikembangkan, lalu memasarkannya atau mengoperasikannya dengan nama atau merek dagangnya sendiri. Pengguna sistem, menurut Pasal 3(4), menggunakan sistem AI di bawah kewenangannya, selain untuk kegiatan pribadi nonprofesional.

Panduan memberikan contoh. Perusahaan yang membangun chatbot secara internal dan mengoperasikannya di UE dengan namanya sendiri adalah penyedia. Satu organisasi dapat menjalankan kedua peran tersebut. Perusahaan yang memodifikasi sistem yang sudah ada, misalnya dengan data pelatihan baru, dan mengoperasikan hasilnya dengan namanya sendiri menjadi penyedia sistem baru tersebut.

Bisnis yang mengonfigurasi chatbot di platform pihak lain berada di antara contoh-contoh ini, dan jawabannya bergantung pada fakta seperti siapa yang mengembangkan sistem dan nama siapa yang disandangnya. Siapa yang tergolong penyedia atau pengguna sistem adalah pertanyaan hukum yang tidak dijawab artikel ini untuk vendor mana pun, termasuk Plandora. Ajukan dua pertanyaan secara tertulis kepada vendor Anda: siapa yang menyediakan pemberitahuan pada interaksi pertama (Pasal 50(1)), dan siapa yang menangani penandaan keluaran yang dihasilkan agar dapat dibaca mesin (Pasal 50(2)).

Apakah konten buatan AI di luar percakapan memerlukan label?

Ayat 4 berlaku bagi pengguna sistem, yaitu bisnis yang menerbitkan konten. Ayat ini mencakup dua kasus.

Yang pertama adalah deep fake menurut Pasal 3(60): gambar, audio, atau video yang dihasilkan atau dimanipulasi AI yang tampak atau terdengar seperti orang, objek, tempat, entitas, atau peristiwa nyata, dan yang secara keliru dianggap autentik atau benar oleh seseorang. Panduan memberikan contoh rekaman buatan AI yang meniru suara pembawa acara tetap sebuah podcast, serta avatar sintetis realistis seorang CEO perusahaan. Panduan menafsirkan “orang” mencakup gambar dan suara orang nyata, dan menilai apakah konten secara keliru tampak autentik berdasarkan keseluruhan konteks. Salinan suara seorang ahli yang dilatih dari suaranya sendiri karenanya dapat termasuk dalam cakupan, tergantung cara penyajiannya kepada pengunjung.

Yang kedua adalah teks buatan AI yang diterbitkan untuk memberi informasi kepada publik tentang hal-hal yang menjadi kepentingan publik, seperti artikel situs gaya hidup tentang diet. Teks dikecualikan jika “telah melalui proses peninjauan oleh manusia atau pengawasan editorial” dan ada pihak yang memegang tanggung jawab editorial. Panduan menyatakan bahwa teks tidak diterbitkan jika aksesnya dibatasi untuk individu tertentu, dan memberikan contoh korespondensi pribadi antarindividu untuk tujuan profesional serta ringkasan berita chatbot yang hanya tersedia bagi pengguna yang memintanya. Ini menunjukkan bahwa balasan percakapan pribadi satu lawan satu menimbulkan pertanyaan berdasarkan Pasal 50(1), bukan Pasal 50(4).

Kapan berlaku, dan apa yang diubah Digital Omnibus?

Pasal 113 undang-undang tersebut membuatnya berlaku mulai 2 Agustus 2026. Regulasi (UE) 2026/1744 (terbuka di tab baru)^[2], Digital Omnibus on AI, tertanggal 8 Juli 2026 dan diterbitkan dalam Official Journal pada 24 Juli 2026. Regulasi itu mulai berlaku pada hari ketiga setelah penerbitan, yaitu 27 Juli 2026. Regulasi itu menambahkan ayat 4 pada Pasal 111: penyedia sistem generatif yang telah dipasarkan sebelum 2 Agustus 2026 “harus mengambil langkah yang diperlukan untuk mematuhi Pasal 50(2) paling lambat 2 Desember 2026”.

Penundaan hanya mencakup penandaan. Panduan menyatakan sistem yang sebagian interaktif dan sebagian generatif dapat menggunakan masa transisi untuk penandaan, tetapi “kepatuhan terhadap kewajiban pengungkapan bagi sistem AI yang berinteraksi langsung dengan manusia harus dipastikan sejak 2 Agustus 2026”.

Halaman Komisi merumuskan penundaan secara berbeda. FAQ Pasal 50 (terbuka di tab baru)^[4], yang masih menunjukkan pembaruan terakhir 24 Juli 2026 ketika dibaca pada 22 Oktober 2026, menyatakan masa tenggang terbatas “direncanakan”. Halaman fakta singkat (terbuka di tab baru)^[5], terakhir diperbarui pada 29 Juli 2026, menyatakan Pasal 50(2) “diubah oleh AI Omnibus”. Teks Official Journal memastikan hal ini: tanggal 2 Desember 2026 tercantum dalam Regulasi yang diterbitkan.

Code of Practice on Transparency of AI-generated Content (terbuka di tab baru)^[6] Komisi, yang versi finalnya menurut halaman tersebut bertanggal 10 Juni 2026, mencakup penandaan oleh penyedia dan pelabelan oleh pengguna sistem. Penandatanganan bersifat sukarela, dan halaman Komisi menyatakan kewajiban hukum tetap berlaku apa pun pilihannya.

Apakah berlaku bagi bisnis di luar UE?

Bisa berlaku. Pasal 2(1)(c) mencakup penyedia dan pengguna sistem yang berdomisili di negara ketiga “apabila keluaran yang dihasilkan sistem AI digunakan di dalam Uni”. Cakupannya bergantung pada peran. Berdasarkan Pasal 2(1)(a), penyedia yang memasarkan sistem di UE atau mengoperasikannya di sana tercakup di mana pun ia berdomisili. Panduan menambahkan dua batasan bagi operator negara ketiga. Pengguna sistem tercakup jika ia dapat memperkirakan distribusi dan penggunaan keluaran di UE, misalnya dengan mengarahkan atau mengizinkannya. Bagi penyedia yang sistemnya tidak dipasarkan di UE, penggunaan lanjutan yang insidental, tidak dapat diperkirakan, atau tidak diizinkan seharusnya tidak dengan sendirinya memicu kewajiban.

Panduan tidak menerapkan hal ini pada percakapan, jadi berikut adalah penafsiran, bukan isi panduan. Seorang ahli di Asia Tenggara yang mengundang pelanggan UE ke percakapan tampak lebih dekat dengan penggunaan yang dapat diperkirakan. Ahli yang situsnya sekadar dapat diakses dari Eropa tampak lebih dekat dengan penggunaan insidental. Posisi sebuah bisnis bergantung pada peran dan faktanya.

Apa sanksinya?

Berdasarkan Pasal 99(4)(g) Regulasi (terbuka di tab baru)^[1], pelanggaran kewajiban Pasal 50 dapat dikenai denda administratif hingga EUR 15 juta atau, untuk suatu usaha, hingga 3% dari total omzet tahunan global pada tahun keuangan sebelumnya, mana yang lebih tinggi. Bagi UKM, termasuk perusahaan rintisan, Pasal 99(6) membatasi setiap denda pada persentase atau jumlah tersebut, mana yang lebih rendah, dan Digital Omnibus menambahkan aturan yang sama untuk perusahaan menengah dengan kapitalisasi kecil. Ini adalah batas maksimum. Negara anggota menetapkan aturan sanksi, dan FAQ (terbuka di tab baru)^[4] Komisi menyatakan kepatuhan terutama akan ditegakkan oleh otoritas pengawasan pasar nasional.

Apa yang diminta Singapura, Malaysia, dan Indonesia?

Dalam dokumen yang ditinjau, tidak ada yang merupakan undang-undang dengan kewajiban umum untuk memberi tahu pengguna bahwa mereka berbicara dengan AI. Hukum lain, seperti aturan perlindungan konsumen dan pernyataan yang menyesatkan, mungkin tetap relevan dan berada di luar tinjauan ini.

Rumusan “nyatakan sejak awal” dari IMDA terdapat dalam kerangka AI agentik tersebut, jadi pertanyaan pertama adalah apakah Digital Mind tergolong agen. Kerangka tersebut menyatakan “tidak ada konsensus tentang definisi agen AI” dan menggambarkan agen biasanya memiliki “tingkat kemandirian tertentu dalam merencanakan, mengambil keputusan, dan bertindak” selama beberapa langkah. Contoh agen yang berinteraksi dengan pengguna mencakup agen layanan pelanggan dan penjualan. Digital Mind yang hanya menjawab berdasarkan pengetahuan yang disetujui lebih jauh dari gambaran itu dibandingkan yang disiapkan dengan Flow, Specialist, atau Automation yang terdiri atas beberapa langkah, jadi jangan menganggap rumusan tersebut tidak relevan bagi penerapan Anda. Artikel ini tidak menentukan kategori Digital Mind tertentu.

PDPC Singapura menyatakan panduannya “bersifat nasihat, tidak mengikat secara hukum bagi Komisi atau pihak lain mana pun”. Personal Data Protection Act yang dijelaskannya bersifat mengikat, dan kewajiban pemberitahuannya penting untuk setiap percakapan yang mengumpulkan nama, email, atau nomor telepon. Artikel pendamping tentang perlindungan data untuk percakapan AI di Asia Tenggara membahas sisi tersebut.

Panduan Malaysia mencantumkan “pengungkapan penuh tentang fakta bahwa sistem AI digunakan dalam pengambilan keputusan” sebagai yang pertama dari lima unsur transparansi, dan menyatakan prinsip tersebut terutama berlaku ketika AI menjadi bagian dari proses pengambilan keputusan. Lampiran 8, contoh kode etik, menyatakan “Transparansi juga berarti mengungkapkan kepada pengguna bahwa mereka berinteraksi dengan AI.” Itu adalah contoh rumusan untuk diadopsi organisasi, dalam dokumen yang menyatakan dirinya sukarela.

Surat edaran Indonesia disusun sebagai pedoman etika, dan teksnya tidak menyatakan bahwa pengguna harus diberi tahu bahwa mereka berbicara dengan AI. Apakah surat edaran mengikat pihak tertentu adalah pertanyaan bagi penasihat hukum Indonesia. Halaman Komdigi sendiri tertanggal 12 Februari 2026 (terbuka di tab baru)^[13] menyebut Peraturan Presiden tentang peta jalan AI nasional dan etika AI sebagai rancangan, dan tidak dapat dipastikan dari sumber resmi bahwa salah satunya telah ditandatangani sejak itu. Tidak ditemukan pula undang-undang AI Malaysia yang berlaku.

Seperti apa pengungkapan yang baik dalam percakapan Digital Mind?

Berikut adalah praktik baik yang diambil dari dokumen Komisi dan IMDA, bukan nasihat kepatuhan. Digital Mind bukan ahli manusia dan tidak boleh ditampilkan seolah-olah demikian, sehingga pelabelan yang jelas adalah pilihan yang tepat.

1. Sampaikan sebelum pengunjung mengetik. Mulailah dengan satu kalimat sederhana yang menyatakan bahwa ini adalah asisten AI untuk bisnis Anda. Panduan Komisi mencantumkan “Sinyal yang tidak jelas atau ambigu (misalnya rujukan umum ke ‘asisten’)” sebagai hal yang tidak cukup jika berdiri sendiri.
2. Pastikan tetap terlihat. Panduan yang sama memasangkan sapaan pada giliran pertama dengan “lencana atau label yang terus terlihat”, dan panduan chatbot IMDA menyarankan agar kartu informasi tetap dapat diakses melalui titik yang terus tersedia seperti ikon informasi. Dokumentasi Plandora tidak menjelaskan pengaturan untuk lencana atau ikon, jadi periksa apa yang benar-benar dilihat pengunjung di tempat mereka bercakap dan jangan berasumsi bahwa fitur itu tersedia. Pengaturan yang terdokumentasi dan dapat Anda kendalikan adalah Short bio di bawah Mind › Profile dan instruksi Playbook tentang cara Mind menjawab. Gunakan keduanya untuk menyatakan bahwa ini adalah asisten AI.
3. Tunjukkan cara menghubungi manusia. Di Plandora, Playbook Boundaries dapat menetapkan kapan sebuah pertanyaan membutuhkan manusia, langkah Flow dapat menandai orang atau tim yang menangani pengalihan, dan Inbox memungkinkan mereka mengambil alih lalu mengembalikan percakapan kepada Mind. Ketika manusia mengambil alih, beri tahu pengunjung agar mereka tahu siapa yang menulis. Pengalihan ke manusia membahas pemicunya.
4. Beri label pada suara yang dilatih. Voice dari Plandora memungkinkan pemilik melatih suara mereka sendiri agar pengunjung dapat mendengar jawaban dibacakan. Sesuai dokumentasi, pengunjung memulai pemutaran dengan memilih “Hear me speak” pada jawaban teks, sehingga audio mengikuti jawaban alih-alih dimulai dengan sapaan suara. Contoh pembukaan lisan dari Komisi, “Ini adalah asisten berbasis AI”, ditulis untuk konteks berbasis suara dan telepon, yang tidak dijelaskan dalam dokumentasi Voice. Jika menggunakan Voice, nyatakan dalam Short bio dan jawaban pertama Mind bahwa suara tersebut adalah suara AI yang dilatih berdasarkan suara Anda.
5. Ulangi pengingat ketika risikonya lebih tinggi. Untuk pertanyaan kesehatan, uang, atau hukum, panduan menyatakan pengingat berkala kemungkinan diperlukan, dan panduan Plandora sendiri menyarankan agar manusia tetap dilibatkan dalam keputusan yang berdampak besar. Mengapa jawaban AI bisa salah menjelaskan asal kesalahan.
6. Uji apa yang dilihat orang asing. Setelah mengedit Playbook, tunggu hingga Playbook menunjukkan Live, karena perubahan yang diblokir tetap menjadi draf. Lalu buka tautan percakapan langsung, seperti tautan Quick Chat, di jendela privat tanpa mengunjungi profil terlebih dahulu, dan periksa apakah pemberitahuan AI muncul di tempat yang Anda inginkan. Uji pemutaran suara dan pengambilalihan oleh manusia di Inbox sebagai pemeriksaan terpisah. Untuk setiap kanal yang Anda gunakan, catat pemberitahuan yang benar-benar dilihat pengunjung.

Tidak ada bagian di sini yang merupakan nasihat hukum. Sebelum peluncuran, mintalah pengacara yang berkualifikasi di yurisdiksi Anda meninjau penerapan Anda.