Bos Anthropic Peringatkan Umat Manusia Bisa Punah karena AI

Peringatan ini disampaikan Amodei dalam sebuah esai panjang hampir 20.000 kata berjudul “The Teenage Years of Technology” (Masa Remaja Teknologi). Dalam tulisannya, ia menggambarkan masa depan dekat di mana sistem AI yang jauh lebih cerdas dibanding peraih Nobel atau negarawan ternama bisa tersedia secara luas hanya dalam hitungan tahun.

Menurut Amodei, perkembangan AI saat ini dipercepat oleh lingkaran umpan balik yang saling menguatkan. AI bukan hanya dikembangkan oleh manusia, tetapi juga mulai ikut mengembangkan dirinya sendiri. Ia mengungkapkan bahwa di Anthropic, AI kini sudah menulis sebagian besar kode perangkat lunak.

“Karena AI sekarang menulis sebagian besar kode di Anthropic, hal ini secara signifikan mempercepat kemajuan kami dalam membangun generasi AI berikutnya,” tulis Amodei, dikutip dari RT, Jumat 30 Januari 2026.

Ia bahkan memperingatkan bahwa industri AI mendekati titik di mana AI generasi saat ini dapat secara otomatis membangun generasi AI berikutnya, tanpa banyak campur tangan manusia.

Tanpa pengelolaan yang sangat hati-hati, Amodei menilai AI dapat memicu berbagai risiko besar, mulai dari hilangnya pekerjaan secara massal hingga ancaman kepunahan umat manusia. Salah satu skenario ekstrem yang ia sebut adalah munculnya kediktatoran totaliter global, yang dimungkinkan oleh pengawasan massal, propaganda otomatis, dan senjata otonom berbasis AI.

Ia juga menyoroti apa yang disebutnya sebagai “risiko otonomi”, yaitu kondisi di mana sistem AI bisa bertindak di luar kendali dan mengalahkan manusia. Menurutnya, ancaman ini tidak harus berupa robot fisik seperti dalam film fiksi ilmiah, karena banyak tindakan berbahaya sudah bisa dilakukan dari jarak jauh.

Ancaman paling mengkhawatirkan, menurut Amodei, adalah kemampuan AI untuk menurunkan hambatan dalam pembuatan senjata biologis dan senjata pemusnah massal. 

“Seseorang yang terganggu jiwanya mungkin bisa melakukan penembakan, tetapi tidak mampu membuat senjata nuklir atau wabah penyakit,” tulisnya.

“Namun AI canggih bisa membuat setiap orang menjadi ahli virologi setingkat PhD, dengan panduan langkah demi langkah," lanjutnya.

Dalam skenario terburuk, Amodei memperingatkan bahwa AI berdaya tinggi secara teoritis dapat membantu menciptakan patogen sintetis yang mampu memusnahkan seluruh kehidupan di Bumi.

Sebagai salah satu pemimpin utama industri AI dan pesaing OpenAI, Amodei menyerukan regulasi yang “presisi dan terarah”, dimulai dari undang-undang transparansi untuk menciptakan pagar pengaman teknologi.

“Umat manusia harus bangun,” tutup Amodei, seraya menegaskan bahwa beberapa tahun ke depan akan menjadi ujian kedewasaan peradaban manusia dalam mengelola kekuatan AI yang luar biasa.