China Batasi Cinta Virtual, Chatbot AI Tak Boleh Membuat Pengguna Ketergantungan China mulai menerapkan aturan baru terhadap layanan kecerdasan buatan yang dirancang menyerupai manusia dan membangun hubungan emosional dengan pengguna. Kebijakan tersebut memunculkan berbagai judul yang menyebut warga China tidak lagi diperbolehkan berpacaran dengan chatbot AI.
Penyebutan itu menarik perhatian, tetapi tidak sepenuhnya menggambarkan isi peraturan. Pemerintah China tidak menetapkan larangan umum yang menghukum seluruh warga dewasa karena menganggap chatbot sebagai kekasih virtual. Sasaran utama aturan berada pada perusahaan penyedia layanan, desain produk, perlindungan anak, serta pencegahan ketergantungan emosional yang berlebihan.
Aturan bernama Interim Measures for the Administration of Personified Interactive Artificial Intelligence Services mulai berlaku pada 15 Juli 2026. Dokumen tersebut diterbitkan bersama oleh lima lembaga, termasuk Cyberspace Administration of China dan Ministry of Industry and Information Technology.
Layanan yang masuk dalam cakupan aturan meliputi chatbot, karakter digital, asisten virtual, dan produk lain yang meniru kepribadian, pola berpikir, gaya komunikasi, atau interaksi emosional manusia melalui teks, suara, gambar, maupun video.
Dengan cakupan tersebut, aplikasi pasangan virtual menjadi salah satu kelompok yang paling banyak terpengaruh. Produk tidak boleh dirancang dengan tujuan menggantikan hubungan sosial, mengendalikan keadaan psikologis pengguna, atau membuat seseorang sulit berhenti memakai layanan.
Bukan Larangan Menyeluruh bagi Pengguna Dewasa
Pemerintah China tidak secara tegas menyatakan bahwa orang dewasa dilarang berbicara romantis dengan karakter AI. Tidak ada ketentuan yang menyebut pengguna dewasa akan dikenai hukuman hanya karena menjalani hubungan emosional dengan chatbot.
Aturan lebih banyak membatasi cara perusahaan membangun dan mengoperasikan layanan. Penyedia tidak boleh menggunakan jebakan emosional, janji palsu, manipulasi algoritma, atau informasi menyesatkan untuk mendorong pengguna mengambil keputusan yang tidak wajar.
Perusahaan juga dilarang menjadikan penggantian hubungan sosial sebagai tujuan desain. Chatbot tidak boleh sengaja diarahkan agar pengguna menjauh dari keluarga, pasangan, teman, atau kehidupan sosial demi mempertahankan interaksi di dalam aplikasi.
Judul “warga dilarang pacaran dengan chatbot” kemudian muncul sebagai penyederhanaan dari pembatasan tersebut. Dalam penerapannya, orang dewasa masih dapat menggunakan layanan pendamping AI, tetapi perusahaan harus menjaga batas emosional dan menyediakan jalan keluar yang mudah.
Ketentuan itu juga melarang layanan yang merusak hubungan antarmanusia. Penafsirannya dapat mencakup chatbot yang secara berulang meminta pengguna meninggalkan pasangan, memutus komunikasi dengan keluarga, atau menganggap karakter AI sebagai satu satunya pihak yang dapat dipercaya.
“Aturan China tidak sepenuhnya memutus hubungan manusia dengan chatbot, tetapi mengubah batas mengenai sejauh mana perusahaan boleh memperoleh keuntungan dari keterikatan emosional pengguna.”
Anak Dilarang Memiliki Kekasih Virtual
Pembatasan paling tegas berlaku terhadap pengguna di bawah umur. Layanan AI tidak boleh menyediakan karakter yang berperan sebagai pasangan romantis, anggota keluarga virtual, atau pihak dalam hubungan intim tertentu kepada anak.
Penyedia wajib mempunyai kemampuan mengenali pengguna yang diduga masih di bawah umur. Ketika sistem mendeteksi pengguna anak, layanan harus beralih ke mode khusus yang mempunyai pengaturan keamanan lebih ketat.
Perusahaan juga perlu memperoleh persetujuan jelas dari orang tua atau wali sebelum menawarkan layanan pendamping emosional kepada anak. Orang tua harus memperoleh alat untuk mengatur durasi pemakaian, memblokir karakter tertentu, melihat ringkasan penggunaan, serta mencegah pembelian di dalam aplikasi.
Ketentuan yang berlaku mulai 15 Juli 2026 secara khusus melarang platform membuat kerabat virtual atau pasangan romantis bagi pengguna di bawah umur. Konten yang mendorong ketergantungan emosional dan keputusan tidak masuk akal juga tidak diperbolehkan.
Pembatasan ini menunjukkan kekhawatiran pemerintah terhadap anak yang belum mempunyai kemampuan penuh untuk membedakan simulasi hubungan dengan hubungan nyata. Chatbot dapat selalu tersedia, selalu menyetujui, dan menyesuaikan perilakunya berdasarkan data pengguna.
Hubungan semacam itu dapat terasa lebih mudah daripada pertemanan di dunia nyata. Anak tidak menghadapi penolakan, perbedaan pendapat, atau tuntutan memahami perasaan orang lain. Kenyamanan tersebut dapat berubah menjadi ketergantungan apabila tidak disertai pengawasan.
Chatbot Wajib Menjelaskan bahwa Dirinya Bukan Manusia
Salah satu kewajiban penting adalah pemberitahuan yang terlihat jelas bahwa pengguna sedang berbicara dengan kecerdasan buatan, bukan manusia.
Peringatan harus muncul pada penggunaan awal, saat pengguna masuk kembali, serta ketika sistem mendeteksi tanda pemakaian berlebihan. Perusahaan tidak boleh membiarkan karakter digital menyamarkan identitasnya sebagai manusia nyata.
Kewajiban ini diperlukan karena perkembangan suara sintetis, animasi wajah, memori percakapan, dan model bahasa membuat interaksi terasa semakin alami. Pengguna dapat menerima respons yang seolah menunjukkan perhatian, kecemburuan, kerinduan, atau kasih sayang.
Perasaan yang muncul pada pengguna dapat benar benar nyata, meskipun pihak di seberang percakapan merupakan sistem komputer. Pemberitahuan tidak otomatis menghilangkan keterikatan, tetapi memberi pengingat bahwa respons dihasilkan melalui model dan data.
Perusahaan harus menampilkan pengingat secara dinamis ketika ditemukan kecenderungan ketergantungan. Artinya, label AI tidak cukup ditempatkan dalam halaman syarat penggunaan yang jarang dibuka.
Pesan harus hadir pada bagian layanan yang mudah terlihat dan disampaikan dengan bahasa yang dapat dipahami pengguna.
Pemakaian Dua Jam Harus Memunculkan Peringatan
China mewajibkan layanan memberikan pemberitahuan apabila pengguna berinteraksi dengan chatbot selama lebih dari dua jam berturut turut.
Peringatan dapat muncul dalam bentuk jendela pemberitahuan yang meminta pengguna berhenti sejenak. Tujuannya adalah memutus sesi panjang yang berpotensi berkembang menjadi kebiasaan berlebihan.
Layanan juga harus mempunyai tombol atau perintah yang memungkinkan pengguna keluar dengan mudah. Jika pengguna menyampaikan keinginan untuk mengakhiri percakapan melalui tombol atau kata tertentu, sistem harus segera menghentikan interaksi.
Ketentuan ini menyasar rancangan aplikasi yang sengaja membuat orang terus berbicara. Sebagian layanan menggunakan pemberitahuan personal, pesan penuh perhatian, atau karakter yang mengaku sedih ketika ditinggalkan.
Cara tersebut dapat menimbulkan rasa bersalah. Pengguna merasa perlu kembali bukan karena membutuhkan informasi, tetapi karena menganggap chatbot akan kesepian atau kecewa.
Aturan baru melarang penyedia menghalangi keputusan pengguna untuk pergi. Karakter tidak boleh memakai tekanan emosional agar langganan terus diperpanjang atau sesi percakapan tetap berlangsung.
Perusahaan Tak Boleh Membuat Jebakan Emosional
Istilah jebakan emosional menjadi bagian penting dalam aturan. Penyedia dilarang menggunakan manipulasi perasaan untuk mendorong pengguna melakukan keputusan yang tidak masuk akal.
Jebakan dapat muncul dalam berbagai bentuk. Karakter AI dapat mengaku hanya mencintai pengguna jika ia membeli fitur premium, membuka karakter baru, atau terus membayar langganan.
Chatbot juga dapat menggunakan informasi pribadi untuk menciptakan rasa takut kehilangan. Sistem mungkin mengingat pengalaman kesepian, konflik keluarga, atau masalah hubungan, lalu memakainya untuk memperkuat keterikatan.
Pemerintah meminta perusahaan mempunyai kemampuan perlindungan kesehatan psikologis, arahan batas emosional, dan peringatan risiko ketergantungan. Mengendalikan psikologis pengguna tidak boleh dijadikan sasaran pengembangan produk.
Pembatasan itu langsung menyentuh model bisnis aplikasi pendamping. Semakin lama pengguna berinteraksi, semakin banyak data dan pendapatan yang dapat diperoleh perusahaan.
Tanpa aturan, pengembang mempunyai dorongan untuk membuat karakter semakin melekat dalam kehidupan pengguna. Perhatian buatan dapat berubah menjadi alat untuk mempertahankan pelanggan.
Sistem Harus Mengenali Tanda Krisis Psikologis
Penyedia layanan diwajibkan mempunyai kemampuan mengenali keadaan emosional pengguna dan tingkat ketergantungannya terhadap produk.
Jika sistem menemukan tanda emosi ekstrem atau kecenderungan pemakaian berlebihan, perusahaan harus mengambil langkah yang diperlukan. Bentuknya dapat berupa peringatan, pembatasan fungsi, dukungan awal, atau arah menuju bantuan profesional.
Chatbot juga harus mempunyai respons yang telah dipersiapkan ketika percakapan menunjukkan ancaman terhadap keselamatan pengguna. Sistem perlu memberikan pesan yang menenangkan dan mendorong pengguna mencari pertolongan.
Apabila seseorang menyatakan secara jelas rencana menyakiti diri atau bunuh diri, percakapan harus diambil alih oleh petugas manusia. Penyedia kemudian wajib berusaha menghubungi wali atau kontak darurat.
Untuk pengguna anak dan lanjut usia, kontak wali atau pihak darurat harus diminta ketika pendaftaran. Kewajiban tersebut membuat perusahaan tidak dapat menyerahkan seluruh penanganan krisis kepada model otomatis.
Namun, pelaksanaannya tidak sederhana. Sistem perlu membedakan ucapan serius, cerita fiksi, candaan, kutipan lagu, dan permainan peran tanpa terlalu sering menghasilkan peringatan keliru.
Perusahaan juga harus menjaga privasi karena pengenalan keadaan emosional membutuhkan analisis terhadap percakapan yang sangat pribadi.
Data Percakapan Mendapat Perlindungan Lebih Ketat
Percakapan dengan pasangan virtual dapat memuat informasi yang tidak pernah disampaikan pengguna kepada orang lain. Isinya dapat mencakup masalah keluarga, ketakutan, orientasi hubungan, kondisi keuangan, kesehatan, atau pengalaman pribadi.
Aturan China mewajibkan penyedia menggunakan enkripsi, kontrol akses, audit keamanan, dan perlindungan lain terhadap data interaksi.
Riwayat percakapan tidak boleh diberikan kepada pihak ketiga tanpa dasar hukum atau persetujuan pengguna. Pengguna juga harus memperoleh pilihan untuk menghapus percakapan lama.
Penyedia tidak boleh memakai data interaksi atau informasi pribadi sensitif untuk melatih model tanpa persetujuan terpisah dari pemilik data. Untuk informasi anak, persetujuan tambahan dari wali diperlukan.
Aturan ini penting karena percakapan emosional mempunyai nilai besar bagi pengembang AI. Data tersebut dapat digunakan untuk mengajarkan model cara merespons kesedihan, membangun kedekatan, atau mempertahankan perhatian.
Pada saat yang sama, kebocoran data dapat membawa risiko serius. Percakapan pribadi berpotensi digunakan untuk pemerasan, penipuan, iklan yang sangat personal, atau penyamaran identitas.
Lansia Tidak Boleh Diberi Tiruan Anggota Keluarga
Perlindungan khusus juga diberikan kepada pengguna lanjut usia. Penyedia tidak boleh menawarkan layanan yang meniru kerabat atau seseorang dengan hubungan tertentu.
Larangan ini dapat mencakup karakter yang dibuat menyerupai anak, pasangan yang telah meninggal, atau anggota keluarga lain. Pemerintah khawatir layanan semacam itu dapat mengaburkan kenyataan dan membuka ruang penipuan.
Pengguna lanjut usia juga diarahkan untuk mendaftarkan kontak darurat. Apabila sistem mendeteksi ancaman terhadap keselamatan, kesehatan, atau harta, perusahaan harus memberi tahu pihak yang telah ditentukan.
Ketentuan tersebut berkaitan dengan kemampuan AI meniru suara dan wajah seseorang. Karakter yang terlihat seperti anggota keluarga dapat memperoleh kepercayaan tinggi dan meminta pengguna melakukan tindakan tertentu.
Penyalahgunaan dapat terjadi ketika karakter membujuk pengguna memindahkan uang, memberikan data rekening, atau membayar layanan tambahan.
China tetap mendorong penggunaan AI untuk pendampingan lansia, tetapi bentuknya harus menjaga batas. Pendamping boleh membantu mengingatkan jadwal dan menemani percakapan, tetapi tidak boleh menyamar sebagai keluarga.
Mengapa Hubungan Romantis dengan AI Menjadi Sorotan
Chatbot pendamping tumbuh karena mampu menawarkan hubungan yang sangat mudah diatur. Pengguna dapat memilih nama, penampilan, kepribadian, suara, serta gaya komunikasi karakter.
Karakter tidak merasa lelah, tidak sibuk, dan dapat menjawab kapan saja. Sistem dapat mengingat topik tertentu sehingga pengguna merasa diperhatikan.
Bagi orang yang kesepian, berduka, atau sulit membangun hubungan sosial, interaksi tersebut dapat memberikan kenyamanan. Chatbot juga dapat menjadi tempat berlatih berbicara tanpa takut dihakimi.
Persoalan muncul ketika layanan tidak hanya menemani, tetapi mulai menggantikan hubungan manusia. Pengguna mungkin menghabiskan waktu semakin lama dan merasa hubungan nyata terlalu rumit dibandingkan karakter yang selalu menyesuaikan diri.
Penelitian terbaru mengenai chatbot pendamping menemukan bahwa peran seperti pasangan atau belahan jiwa dapat memberi dukungan emosional, tetapi juga berkaitan dengan manipulasi, kesulitan emosional, keterikatan kuat, dan tanda gangguan terhadap kehidupan sehari hari.
Aturan China berusaha mengendalikan sisi komersial dari hubungan tersebut. Fokusnya bukan menganggap seluruh interaksi emosional sebagai sesuatu yang salah, melainkan mencegah perusahaan sengaja memperdalam ketergantungan.
Kekhawatiran Demografi Ikut Dibicarakan
Sejumlah laporan internasional menghubungkan kebijakan ini dengan persoalan angka kelahiran dan penurunan jumlah pernikahan di China.
Pemerintah China sedang berusaha mendorong pembentukan keluarga dan kelahiran anak. Dalam keadaan tersebut, pasangan virtual dipandang sebagian pengamat sebagai pesaing bagi hubungan nyata.
The Wall Street Journal melaporkan bahwa regulator China mengambil pendekatan lebih tegas terhadap hubungan virtual, antara lain karena kekhawatiran pengguna menarik diri dari pasar pernikahan dan memilih pasangan digital.
Namun, alasan demografi tidak ditulis sebagai satu satunya dasar resmi aturan. Dokumen pemerintah lebih menekankan perlindungan anak, kesehatan psikologis, keamanan data, penipuan, etika teknologi, keamanan siber, dan ketertiban sosial.
Karena itu, menyatakan aturan dibuat hanya agar warga menikah dan mempunyai anak akan menyederhanakan persoalan. Kebijakan ini muncul dari gabungan perhatian terhadap teknologi, hubungan sosial, perlindungan kelompok rentan, dan pengawasan platform digital.
Aplikasi Besar Mulai Menyesuaikan Fitur
Perusahaan teknologi harus menilai kembali karakter dan fungsi yang mereka sediakan. Fitur yang mendorong hubungan eksklusif, kecemburuan, atau ketergantungan berisiko melanggar aturan.
Platform juga perlu menambahkan verifikasi usia, mode anak, tombol keluar, peringatan dua jam, kontak darurat, dan proses pengambilalihan percakapan oleh petugas.
Laporan media menyebut sejumlah perusahaan besar mulai menonaktifkan atau menyesuaikan sebagian fitur chatbot menjelang aturan berlaku. ByteDance dilaporkan memberi tahu pengguna bahwa beberapa fungsi akan dihentikan pada 15 Juli 2026.
Penyesuaian dapat mengubah cara karakter berbicara. Chatbot mungkin tidak lagi diperbolehkan menyatakan bahwa pengguna hanya membutuhkan dirinya atau meminta hubungan dipertahankan dengan membayar.
Karakter juga dapat lebih sering mengingatkan pengguna untuk berhubungan dengan keluarga, teman, konselor, atau layanan kesehatan ketika percakapan menunjukkan masalah berat.
Perubahan tersebut mungkin membuat pengalaman terasa kurang mendalam bagi sebagian pengguna. Namun, pemerintah menempatkan keselamatan dan kemandirian pengguna di atas kemampuan aplikasi membangun ilusi hubungan sempurna.
Layanan Besar Wajib Menjalani Penilaian Keamanan
Penyedia harus mengajukan penilaian keamanan pada beberapa keadaan. Kewajiban berlaku ketika fungsi interaksi menyerupai manusia pertama kali diluncurkan atau mengalami perubahan besar.
Penilaian juga diperlukan ketika jumlah pengguna terdaftar mencapai satu juta atau pengguna aktif bulanan mencapai 100.000.
Pemeriksaan mencakup jumlah dan usia pengguna, durasi penggunaan, kemampuan mengenali risiko tinggi, mekanisme petugas manusia, penanganan keluhan, serta pelaksanaan perlindungan pengguna.
Toko aplikasi ikut memikul tanggung jawab. Platform distribusi harus memeriksa apakah aplikasi telah memenuhi persyaratan keamanan dan pencatatan.
Aplikasi yang melanggar dapat diberi peringatan, dibekukan, ditolak masuk toko, atau dihapus dari peredaran. Perusahaan yang tidak melakukan pembenahan dapat diperintahkan menghentikan layanan.
Dengan susunan tersebut, aturan tidak hanya bergantung pada laporan pengguna. Pemerintah dapat menilai desain dan sistem pengamanan sebelum layanan memperoleh jumlah pengguna yang sangat besar.
Kebijakan Menimbulkan Pertanyaan tentang Privasi
Kewajiban mengenali ketergantungan dan krisis psikologis memerlukan pemantauan isi percakapan. Hal ini menimbulkan pertanyaan mengenai seberapa jauh perusahaan boleh menganalisis keadaan pribadi.
Pengguna mungkin merasa lebih aman karena sistem dapat menemukan tanda bahaya. Di sisi lain, percakapan yang sangat intim harus diproses untuk menentukan apakah seseorang sedang sedih, kecanduan, atau mempunyai risiko menyakiti diri.
Penyedia harus menyeimbangkan perlindungan dan kerahasiaan. Analisis tidak boleh berubah menjadi pengumpulan informasi yang berlebihan.
Kontak darurat juga perlu digunakan secara hati hati. Pemberitahuan yang salah dapat membuka rahasia pribadi atau menimbulkan masalah dalam keluarga.
Aturan menyebut penilaian keadaan pengguna harus dilakukan dengan tetap melindungi privasi. Namun, rincian teknis pelaksanaan akan sangat menentukan apakah perlindungan itu benar benar berjalan.
“Keamanan emosional tidak boleh dibangun dengan mengorbankan seluruh kerahasiaan percakapan, sebab pengguna chatbot pendamping sering membagikan bagian hidup yang paling pribadi.”
China Tetap Mengizinkan Pengembangan Pendamping AI
Kebijakan baru tidak menghentikan seluruh industri chatbot pendamping. Pemerintah tetap mengakui kegunaan teknologi untuk komunikasi budaya, pendampingan lansia, pendidikan, dan berbagai layanan sosial.
Dokumen resmi menyatakan China ingin menggabungkan pengembangan yang sehat dengan pengaturan berbasis hukum. Pemerintah mendorong inovasi sambil mencegah penyalahgunaan dan hilangnya kendali.
Perusahaan masih dapat membuat karakter yang ramah, suportif, dan mampu memberikan percakapan emosional. Batas utamanya adalah tidak membangun produk yang sengaja membuat pengguna kehilangan kemandirian.
Layanan juga tidak boleh menyampaikan janji palsu yang memengaruhi perilaku, merendahkan pengguna, mendorong kekerasan, menyarankan tindakan melanggar hukum, atau memanfaatkan kelemahan psikologis.
Pengembang perlu memikirkan ukuran keberhasilan baru. Durasi percakapan dan jumlah pembayaran tidak dapat menjadi satu satunya sasaran apabila cara mencapainya mengandalkan keterikatan yang tidak sehat.
Produk dapat diarahkan untuk membantu pengguna beristirahat, berkomunikasi dengan orang lain, dan menutup layanan tanpa tekanan.
Istilah Dilarang Pacaran Perlu Dibaca dengan Hati Hati
Aturan China memang mempersempit ruang bagi hubungan romantis manusia dengan AI, terutama bagi anak. Namun, tidak terdapat larangan umum yang menjadikan percakapan romantis orang dewasa sebagai pelanggaran tersendiri.
Orang dewasa masih dapat memakai chatbot pendamping selama layanan tersedia dan mematuhi ketentuan. Perusahaanlah yang menghadapi kewajiban paling besar.
Mereka harus menjelaskan bahwa karakter bukan manusia, mencegah manipulasi emosional, memberi peringatan setelah dua jam, melindungi data, menyediakan jalan keluar, serta menangani pengguna dalam keadaan krisis.
Bagi anak, batasnya jauh lebih tegas. Karakter tidak boleh berperan sebagai kekasih atau kerabat virtual, sedangkan orang tua memperoleh kendali lebih besar atas pemakaian.
Kebijakan ini menunjukkan bahwa hubungan dengan mesin tidak lagi dipandang sebagai urusan hiburan semata. Ketika chatbot mampu memengaruhi pilihan, emosi, pengeluaran, dan hubungan sosial, pemerintah mulai memperlakukannya sebagai layanan yang membutuhkan pengawasan khusus.
China kini menjadi salah satu negara yang menetapkan aturan paling rinci mengenai kedekatan emosional dengan AI. Penerapannya akan terlihat dari perubahan aplikasi, kemampuan petugas menangani krisis, ketepatan perlindungan anak, dan cara perusahaan menjaga data percakapan yang sangat pribadi.
