Inggris: Chatbot AI Bisnis Rentan Diretas

Pusat Keamanan Siber Nasional (NCSC) Inggris pada Rabu (30/8) mengatakan para ahli belum bisa memastikan seberapa aman aplikasi AI seperti Large language model (LLM) dan yang terbaru ChatGPT Enterprise jika diaplikan secara menyeluruh pada sektor bisnis.

Selain digunakan sebagai chatbot oleh sebagian pengguna, kini chatbot AI juga berpotensi digunakan untuk pekerjaan layanan customer service.

Peneliti dari NCSC berulangkali menemukan bahwa chatbot bisa diretas sehingga AI melakukan tindakan kejahatan dan merugikan pelanggan maupun pihak bisnis.

"Misalnya, chatbot bertenaga AI yang digunakan oleh bank bisa diretas untuk melakukan transaksi tidak sah jika hacker menyusun kuerinya dengan tepat," ungkap laporan itu, seperti dimuat XM News.

Peneliti NCSC tidak menyarankan produk AI dilibatkan dalam transaksi atas nama pelanggan.

"Mudah-mudahan mereka tidak sepenuhnya mempercayainya. Kehati-hatian serupa juga harus diterapkan pada LLM," tambahnya.

Chief technology officer di perusahaan keamanan siber RiverSafe, Oseloka Obiora menilai AI untuk bisnis bisa berbahaya jika para pemimpin bisnis gagal melakukan pemeriksaan yang diperlukan.

“Daripada langsung mengikuti tren AI terkini, para eksekutif senior harus berpikir ulang,” tegasnya.

Implikasi keamanan dari AI menjadi topik bahasan utama di seluruh dunia. Pihak berwenang di AS dan Kanada mengatakan bahwa mereka juga melihat para peretas memanfaatkan teknologi tersebut.