OpenAI Rekrut Zico Kolter sebagai Anggota Dewan Keamanan

Kolter adalah profesor dan direktur departemen pembelajaran mesin di Universitas Carnegie Mellon.
Kolter, yang pekerjaannya sebagian besar berfokus pada keselamatan AI, akan bergabung dengan komite keselamatan dan dewan keamanan OpenAI, bersama CEO Sam Altman dan direktur Bret Taylor, Adam D'Angelo, Paul Nakasone, dan Nicole Seligman.

Komite keselamatan, yang dibentuk pada Mei lalu, membuat rekomendasi tentang keputusan keselamatan dan keamanan untuk semua proyek OpenAI.

Chatbot OpenAI dengan kemampuan genAI seperti terlibat dalam percakapan seperti manusia dan membuat gambar berdasarkan perintah teks telah menimbulkan masalah keamanan seiring dengan semakin kuatnya model AI.

Dikutip Reuters, sebelum direkrut OpenAI, Kolter sebelumnya adalah kepala ilmuwan data di C3.ai, dan saat ini menjabat sebagai kepala ahli di Bosch dan kepala penasihat teknis di Gray Swan, sebuah perusahaan rintisan yang mengkhususkan diri dalam keselamatan dan keamanan AI.

Pada 2023, Kolter berkontribusi dalam pengembangan metode untuk menilai keamanan model bahasa besar secara otomatis, menunjukkan potensi untuk melewati perlindungan model yang ada.

Microsoft telah melepaskan kursi pengamat dewannya di OpenAI pada Juli lalu, dalam sebuah langkah yang bertujuan meredakan kekhawatiran regulator antimonopoli AS dan Inggris tentang sejauh mana kendalinya atas perusahaan rintisan tersebut di tengah meningkatnya adopsi genAI.