Otomatisasi harus mengikuti pertimbangan: apa yang boleh dilakukan AI sendiri

AI boleh bertindak sendiri jika kesalahan pada suatu langkah tidak mahal dan mudah dibatalkan: membaca informasi dan menyusun draf untuk ditinjau. Pengiriman dan perubahan catatan harus menunggu persetujuan. Pengeluaran uang dan pembuatan komitmen tetap menjadi tugas manusia. Ukurannya adalah biaya kesalahan dan apakah kesalahan itu dapat dibatalkan, bukan kemampuan AI.

Bagaimana menentukan apa yang boleh dilakukan AI sendiri?

Ajukan dua pertanyaan tentang setiap langkah, bukan tentang sistem secara keseluruhan. Apa kerugiannya jika langkah ini salah? Apakah langkah itu bisa dibatalkan? Langkah yang gagal tanpa terlihat dan dapat dibatalkan bisa berjalan tanpa pengawasan. Langkah yang menjangkau pelanggan atau memindahkan uang tidak bisa.

Gagasan ini lebih tua daripada model bahasa. Dalam makalah tahun 2000 di IEEE Transactions on Systems, Man, and Cybernetics (terbuka di tab baru)^[1], Parasuraman, Sheridan dan Wickens mengusulkan bahwa otomatisasi dapat diterapkan pada "empat kelas fungsi yang luas": perolehan informasi, analisis informasi, pemilihan keputusan dan tindakan, serta pelaksanaan tindakan. Masing-masing dapat berada di tingkat mana pun dari sepenuhnya manual hingga sepenuhnya otomatis, dan para penulis mencantumkan biaya akibat keputusan dan tindakan di antara kriteria sekunder untuk mengevaluasi desain. AI Risk Management Framework (terbuka di tab baru)^[2] dari NIST (versi 1.0, Januari 2023) menyatakan bahwa konfigurasi manusia-AI "dapat mencakup rentang dari sepenuhnya otonom hingga sepenuhnya manual", dan beberapa sistem memerlukan pengawasan manusia sementara yang lain tidak.

Panduan OpenAI untuk membangun agen (terbuka di tab baru)^[3] menawarkan aturan praktis. Nilai setiap alat sebagai rendah, sedang, atau tinggi berdasarkan "akses baca saja versus akses tulis, kemudahan pembatalan, izin akun yang diperlukan, dan dampak keuangan", lalu hentikan sementara untuk pemeriksaan atau teruskan kepada manusia sebelum fungsi berisiko tinggi dijalankan.

Mulailah dari pemicu yang dapat dibaca siapa pun di tim Anda. "Stage kontak berubah", "pengunjung berhenti membalas", dan "setiap Senin pukul 9 pagi" dapat diperiksa dan diperdebatkan. Pemicu yang aktif setiap kali AI merasakan waktu yang tepat menyembunyikan pertimbangan di dalam otomatisasi.

Tindakan mana yang dapat berjalan otomatis, perlu persetujuan, dan tetap ditangani manusia?

Enam jenis tindakan mencakup sebagian besar otomatisasi bisnis, diurutkan dari yang paling mudah hingga paling sulit dibatalkan.

Draf adalah baris yang dilewatkan sebagian besar tim: AI mengerjakan bagian yang memakan waktu sementara manusia tetap memegang keputusan. Draf tetap memiliki pola kegagalan yang dibahas dalam mengapa balasan AI bisa salah, jadi tinjau sebelum dikirim. Dalam bidang yang diatur seperti penasihat keuangan, kemungkinan lebih banyak tindakan perlu ditangani manusia, dan mintalah peninjau yang memenuhi syarat menilai pembagian tersebut.

Pengaturan awal ini adalah titik awal, bukan standar. Ubah suatu baris hanya setelah Anda membaca cukup banyak hasil pelaksanaan untuk mengetahui apa yang terjadi ketika langkah tersebut salah.

Apa arti "pertahankan pertimbangan manusia" dalam praktik?

Prinsip Plandora mencakup "Pertahankan pertimbangan manusia." dan "Otomatisasi dengan tujuan." Prinsip kedua menambahkan bahwa "Tindakan harus mengikuti keputusan yang jelas." Dalam praktiknya, keputusan dibuat sebelum otomatisasi ada: Anda memilih pemicu, alat yang boleh digunakan, dan baris tabel mana yang memerlukan manusia. Otomatisasi kemudian menjalankannya.

Kasus yang keluar dari alur semestinya ditangani manusia di kotak masuk, topik yang dibahas dalam pengalihan ke manusia untuk percakapan AI. Untuk gambaran yang lebih luas tentang cara Digital Mind mengubah keahlian menjadi tindakan, baca sistem operasi keahlian.

Bagaimana Plandora Automations sesuai dengan kerangka ini?

Automation adalah agen yang melakukan tugas ketika suatu peristiwa terjadi atau pada waktu yang Anda pilih. Spesialis berbeda: Mind Anda berkonsultasi dengannya di tengah percakapan langsung, dan ia hanya melihat orang yang sedang diajak bicara. Automation dapat melihat seluruh audiens Anda, misalnya untuk mencari atau menghitung kontak, dan jangkauan yang lebih luas itu menjadi alasan untuk memberinya izin yang lebih terbatas.

Automations mungkin tersedia melalui peluncuran terpandu atau layanan mandiri, tergantung paket dan peluncuran Anda, jadi pastikan apa yang tersedia di akun Anda sebelum merencanakannya. Panduan Automations menjelaskan pengaturannya sebagai berikut:

• Anda memilih tepat satu pemicu: peristiwa (pesan baru, tidak ada balasan, kontak baru, perubahan tahap, file, pesanan, atau klik tautan) atau jadwal dari setiap jam hingga setiap bulan.
• Anda menjelaskan tugas dan memilih Draft with AI, memilih templat, atau memulai dari awal. Automation baru dimulai dalam keadaan Off.
• Di bawah Context Anda menulis Goal, Role & style, dan Boundaries. Lalu Anda menulis langkah-langkah secara berurutan, mengetik @ untuk menambahkan informasi atau menandai tim Anda dan / untuk menggunakan alat.
• Kartu Tools mencantumkan semua yang dapat digunakan: Contacts, Inbox, Message, Team, dan Store, ditambah integrasi yang dapat digunakan agen. Masing-masing diatur ke Read atau Read / Write, dan Message adalah Write karena mengirim templat. Drive dan Social media selalu aktif, dan Web bersifat opsional.
• Runs menunjukkan apa yang dilakukan setiap proses, Improve menyarankan perubahan yang Anda terima atau tolak satu per satu, dan sakelar di samping status menghentikan proses berikutnya.

Panduan tersebut menjelaskan pilihan persetujuan untuk pesan ke beberapa kontak. Panduan itu tidak menjelaskan langkah persetujuan yang setara untuk perubahan catatan, jadi andalkan pengaturan Read atau Read / Write dan peninjauan Runs oleh Anda sendiri, serta tanyakan kepada tim fitur tambahan apa yang tersedia di akun Anda.

Mengapa langkah persetujuan saja tidak cukup?

Orang cenderung mempercayai apa yang diberikan sistem kepada mereka. Tinjauan sistematis tahun 2012 (terbuka di tab baru)^[4] oleh Goddard, Roudsari dan Wyatt di Journal of the American Medical Informatics Association mendefinisikan bias otomatisasi sebagai "kecenderungan untuk terlalu mengandalkan otomatisasi". Dalam analisis gabungan kecil dari empat studi layanan kesehatan yang membandingkan kelompok pendukung keputusan klinis dengan kelompok kontrol, rasio risiko keputusan keliru setelah saran yang salah adalah 1,26 (95% CI 1,11 hingga 1,44): kelompok pendukung keputusan lebih sering mengikuti saran yang salah daripada kelompok kontrol. Studi ini dilakukan dalam konteks klinis, jadi pahami angka tersebut sebagai petunjuk arah, bukan perkiraan untuk pesan pelanggan. Para penulis mencantumkan pelatihan dan penekanan pada akuntabilitas pengguna di antara langkah mitigasi.

Karena itu, antrean persetujuan yang hanya diklik terus-menerus oleh peninjau hanyalah pengawasan di atas kertas. Tunjukkan kepada peninjau apa yang dilihat dan dilakukan otomatisasi, buat penolakan semudah persetujuan, periksa sampel item yang disetujui untuk menemukan kesalahan, dan tunjuk satu orang yang bertanggung jawab. NIST meminta hal terakhir ini secara jelas. GOVERN 3.2 (terbuka di tab baru)^[2] berbunyi: "Kebijakan dan prosedur tersedia untuk mendefinisikan dan membedakan peran dan tanggung jawab dalam konfigurasi manusia-AI dan pengawasan sistem AI."

EU AI Act memasukkan kekhawatiran yang sama ke dalam hukum untuk satu kategori sistem. Article 14 (terbuka di tab baru)^[5] mengharuskan sistem AI berisiko tinggi dirancang agar manusia dapat mengawasinya secara efektif. Poin 4(b) menyatakan bahwa pengawas harus mampu "tetap menyadari kemungkinan kecenderungan untuk secara otomatis mengandalkan atau terlalu mengandalkan keluaran". Article 14 hanya berlaku untuk sistem AI berisiko tinggi, dan halaman AI Act (terbuka di tab baru)^[6] European Commission menyatakan bahwa aturan untuk penggunaan berisiko tinggi di bidang Annex III berlaku mulai 2 Desember 2027, tanggal yang ditetapkan oleh amandemen AI Omnibus yang mulai berlaku pada 27 Juli 2026 (halaman terakhir diperbarui 19 Oktober 2026). Apakah suatu otomatisasi termasuk berisiko tinggi adalah klasifikasi hukum, jadi tanyakan kepada penasihat yang memenuhi syarat alih-alih berasumsi.

Apa yang harus diperiksa sebelum mengaktifkan otomatisasi?

1. Tulis pemicu dan satu tugasnya masing-masing dalam satu kalimat. Jika tugas memerlukan kata "dan", pisahkan menjadi dua Automation.
2. Klasifikasikan setiap langkah menggunakan tabel. Apa pun yang mengirim, mengeluarkan uang, atau menjanjikan sesuatu memerlukan persetujuan atau manusia.
3. Berikan alat sesedikit mungkin. Entri Excessive Agency (terbuka di tab baru)^[7] OWASP untuk aplikasi LLM (2025) mencantumkan fungsi berlebihan, izin berlebihan, dan otonomi berlebihan sebagai akar penyebab. Atur alat ke Read kecuali suatu langkah harus menulis, dan biarkan Web nonaktif kecuali pengetahuan Anda tidak dapat menjawab.
4. Periksa targetnya. Jadwal dapat mencakup This Mind saja, setiap kontak, suatu tahap, atau suatu grup, dan jadwal berbasis kontak berjalan sekali untuk setiap kontak yang cocok, sehingga grup besar berarti banyak proses.
5. Untuk pesan ke beberapa kontak, mulailah dengan Send after approval. Entri OWASP yang sama menyarankan: "Gunakan kontrol manusia dalam proses untuk mewajibkan manusia menyetujui tindakan berdampak tinggi sebelum dilakukan."
6. Tulis Boundaries, dan jelaskan apa yang harus dilakukan ketika informasi kurang dan kapan harus bertanya kepada manusia. Panduan Specialists memberikan saran tersebut, dan Automations menggunakan kolom Context yang sama.
7. Periksa persetujuan dan aturan kanal. Penjangkauan melalui WhatsApp mungkin memerlukan templat yang disetujui, dan Anda tetap bertanggung jawab atas pemberitahuan, persetujuan, pilihan berhenti, dan penjangkauan yang sah. Tanyakan kepada penasihat yang memenuhi syarat tentang yurisdiksi Anda.
8. Jika Anda dapat memilih target, mulailah dengan grup kecil. Ubah ke On, baca Runs, gunakan Improve, lalu perluas target. Suntingan yang valid langsung berlaku saat disimpan, jadi ubah ke Off saat Anda memperbaiki langkah-langkahnya.
9. Tunjuk penanggung jawab yang membaca Runs dan tahu di mana sakelarnya.

Seberapa sering otomatisasi harus ditinjau?

AI RMF dari NIST meminta agar proses pengawasan manusia didefinisikan, dinilai, dan didokumentasikan (MAP 3.5), tanpa menentukan interval. Tinjau lebih sering jika biaya kesalahan lebih besar, dan lebih sering pada tahap awal.