Industri kecerdasan buatan (AI) Tiongkok mengalami kemunduran besar ketika Talkie tiba-tiba dihapus dari App Store iOS AS. Penghapusan aplikasi obrolan AI ini memicu perdebatan luas tentang privasi data, keamanan nasional, dan pengaruh perusahaan teknologi Tiongkok yang semakin besar di pasar internasional.
Perjalanan Talkie tidaklah mulus. Di Tiongkok, versi aplikasi sebelumnya, Glow, menghadapi reaksi keras karena konten eksplisit, yang menyebabkan penghapusannya dan penggantian merek. Pengguna segera menyadari bahwa percakapan mereka diawasi dengan ketat, sangat kontras dengan pengalaman mengobrol bebas di AS.
Mitra Talkie di Tiongkok, Xingye, ditarik dari toko aplikasi karena konten eksplisit dan harus diluncurkan kembali dengan filter konten yang ketat, seperti yang dilaporkan oleh Wall Street Journal. Xingye diluncurkan untuk pasar Tiongkok.
Ada tuduhan serius terhadap chatbot tersebut karena dianggap sebagai upaya menutupi kesalahan partai berkuasa Tiongkok. Para pakar urusan Tiongkok menduga bahwa Partai Komunis Tiongkok (PKT) telah mendukung ekspansi cepat Talkie ke pasar Barat, dan aplikasi tersebut mengandung faktor tersembunyi dari perang tak terbatas Tiongkok terhadap Barat.
Privasi data, keamanan nasional, dan moderasi konten merupakan alasan utama di balik penarikan aplikasi tersebut. Tang Jingyuan, seorang komentator dan kolumnis urusan Tiongkok, mengatakan bahwa ia yakin bahwa pengaruh rezim Tiongkok telah berperan penting dalam peningkatan pesat Talkie di pasar AS.
Hal yang paling ironis tentang aplikasi tersebut adalah bahwa aplikasi tersebut pernah menduduki enam aplikasi hiburan teratas pada bulan Juli. Sejauh ini belum ada penjelasan dari MiniMax, sehingga membuat pengguna dan pakar industri berspekulasi tentang alasan pasti di balik keputusan tersebut. Perkembangan ini mengingatkan contoh-contoh sebelumnya di mana aplikasi Tiongkok, seperti TikTok, telah menghadapi tindakan regulasi yang ketat di pasar Barat karena kekhawatiran serupa.
Kekhawatiran mendasar seputar perusahaan teknologi Tiongkok telah mengintensifkan pengawasan atas bagaimana aplikasi ini menangani data pengguna. Pemerintah AS dan badan-badan regulasi telah waspada terhadap potensi pengawasan dan penyalahgunaan data, terutama mengingat undang-undang di Tiongkok yang mengharuskan perusahaan untuk berbagi informasi dengan pemerintah atas permintaan. Kekhawatiran ini bukan tanpa dasar, karena data yang dikumpulkan dari jutaan pengguna dapat dieksploitasi untuk berbagai keperluan, termasuk spionase dan propaganda.
Selain itu, kemampuan moderasi konten aplikasi berbasis AI seperti Talkie berada di bawah pengawasan AS dan negara-negara Barat lainnya. Kemampuan platform tersebut untuk menghasilkan dan menyebarkan misinformasi atau konten berbahaya menimbulkan risiko yang signifikan, terutama saat menargetkan audiens yang lebih muda dan lebih mudah terpengaruh. Implikasi etis dari pengguna yang membentuk ketergantungan emosional pada teman-teman AI semakin memperumit narasi, menimbulkan pertanyaan tentang kesehatan mental dan dampak sosial dari interaksi AI yang meluas.
Menurut sebuah artikel di Toolify.ai, pengunjung dapat dengan mudah mengakses berbagai skenario di bawah umur dan anak-anak dalam aplikasi Talkie. Interaksi ini tidak lebih dari sekadar kekejaman, menjadikan aplikasi tersebut lebih seperti simulator pelecehan anak daripada platform penceritaan. Hal lain yang mengkhawatirkan tentang aplikasi ini adalah Talkie tidak memiliki tanggung jawab dan akuntabilitas dari pengembangnya, Subs Up Ltd.
Platform aplikasi ini tidak memiliki pemeriksaan dan keseimbangan apa pun terkait karakter dan konten yang tersedia bagi pengguna untuk berinteraksi. Akses tanpa batas ke materi yang tidak pantas ini menimbulkan kekhawatiran serius tentang standar etika aplikasi dan potensi bahaya yang dapat ditimbulkannya bagi penggunanya.
Aplikasi ini telah menuai kritik keras karena pengguna dapat dengan bebas terlibat dalam percakapan dengan karakter-karakter ini, berapa pun usia mereka. Meskipun ada beberapa batasan bagi mereka yang tidak berlangganan, batasan tersebut bersifat sementara dan mudah dilewati, sehingga tidak efektif.
Para ahli mengatakan bahwa motif finansial mungkin berada di balik konten yang memikat di Talkie. Semakin banyak pengguna berinteraksi dengan karakter di bawah umur, semakin banyak karakter tersebut disajikan kepada mereka. Hal ini menunjukkan bahwa aplikasi tersebut mungkin diberi insentif finansial untuk memenuhi keinginan dan fantasi penggunanya, terlepas dari implikasi etisnya, demikian pernyataan artikel tersebut.
Namun di Tiongkok, keberhasilan Talkie dipandang sebagai kisah sukses di bidang inovasi AI. Pada bulan November, di KTT Wuzhen Konferensi Internet Dunia (WIC) 2024, analis industri Tiongkok mencatat bagaimana perusahaan-perusahaan unicorn Tiongkok yang sedang naik daun seperti MiniMax yang berpusat di Shanghai, Moonshot AI yang berpusat di Beijing, dan 01.AI memanfaatkan peluang baru di pasar global, dan berupaya memanfaatkan kekuatan unik mereka dalam inovasi AI.
Ketika ketegangan geopolitik meningkat, AS dan negara-negara demokrasi lainnya memprioritaskan keamanan nasional di atas kepentingan komersial, yang menyebabkan tindakan lebih agresif terhadap entitas teknologi asing yang dianggap sebagai ancaman potensial.
