Di tengah perkembangannya yang semakin canggih, teknologi kecerdasan buatan (AI) telah membuat khawatir sejumlah pihak termasuk orang-orang di dua perusahaan besar AI, DeepMind dan OpenAI.
Lewat sebuah surat terbuka yang ditulis Selasa (4/6), 11 karyawan dan mantan karyawan OpenAI serta satu karyawan dan mantan karyawan Google DeepMind mengatakan bahwa motif keuangan perusahaan AI telah menghambat pengawasan yang efektif.
“Kami tidak yakin struktur tata kelola perusahaan yang dibuat khusus akan cukup untuk mengubah hal ini,” tulis surat itu, seperti dikutip dari
Reuters, Rabu (5/6).
Laporan ini juga memperingatkan risiko-risiko dari AI yang tidak diatur, mulai dari penyebaran informasi yang salah hingga hilangnya sistem AI yang independen dan memperdalam kesenjangan yang ada, yang dapat mengakibatkan “kepunahan manusia.”
Para peneliti telah menemukan contoh pembuat gambar dari perusahaan termasuk OpenAI dan Microsoft yang memproduksi foto dengan disinformasi terkait pemungutan suara, meskipun terdapat kebijakan yang melarang konten tersebut.
"Perusahaan-perusahaan AI mempunyai kewajiban yang lemah untuk berbagi informasi dengan pemerintah mengenai kemampuan dan keterbatasan sistem mereka," kata surat itu, seraya menambahkan bahwa perusahaan-perusahaan ini tidak dapat diandalkan untuk membagikan informasi tersebut secara sukarela.
Surat terbuka Selasa adalah yang terbaru yang mengangkat kekhawatiran akan keselamatan seputar teknologi AI generatif, yang dapat menghasilkan teks, gambar, dan audio mirip manusia dengan cepat dan murah.
Kelompok ini telah mendesak perusahaan-perusahaan AI untuk memfasilitasi proses bagi karyawan saat ini dan mantan karyawan untuk menyampaikan kekhawatiran terkait risiko dan tidak menegakkan perjanjian kerahasiaan yang melarang kritik.
