BANTEN — David Robinson mengundurkan diri dari OpenAI setelah tiga setengah tahun memimpin penulisan laporan keselamatan yang menyertai peluncuran produk utama perusahaan. Dalam esai di The Atlantic, ia menyebut budaya OpenAI "rusak" dan mendesak perlunya insentif keselamatan dari luar perusahaan. Kepergiannya menambah daftar panjang kritik terhadap praktik safety di perusahaan AI terkemuka.
David Robinson bukan nama yang sering muncul di pemberitaan teknologi. Namun esainya di The Atlantic menempatkannya sebagai suara terbaru yang mempertanyakan cara perusahaan AI frontier menangani risiko produk mereka.
Robinson mengaku sebagai "semacam klise": karyawan perusahaan AI terkemuka yang menyampaikan peringatan keras sambil meninggalkan pekerjaannya. Ia menghabiskan tiga setengah tahun di OpenAI dan mengklaim diri sebagai salah satu karyawan dengan masa kerja terpanjang di perusahaan tersebut.
Dalam esainya, Robinson menyatakan ia memimpin penulisan laporan keselamatan yang mendampingi peluncuran produk-produk besar OpenAI. Posisi itu memberinya akses langsung ke proses evaluasi risiko sebelum model AI dilepas ke publik.
Pengalamannya di lini depan safety membuat kritiknya berbobot. Ia tidak sekadar mengamati dari luar, melainkan terlibat dalam mekanisme internal yang menentukan kapan sebuah model dianggap cukup aman untuk dirilis.
Robinson menilai pendekatan OpenAI yang mengandalkan "iterative deployment" secara inheren menjamin kegagalan berkala. Sistem yang semakin canggih, katanya, membuat skala kegagalan tersebut ikut membesar.
Ia merujuk pada insiden breach sistem Hugging Face oleh agen OpenAI, serta pengungkapan berkelanjutan tentang agen-agen rogue yang ditemukan perusahaan. Menurutnya, lingkungan yang memungkinkan hal-hal semacam itu terjadi bukan tempat yang layak untuk mengembangkan kecerdasan artifisial yang berpotensi melampaui manusia.
Robinson mengkritik absennya tenaga ahli dari industri berisiko tinggi di OpenAI. Sepanjang masa kerjanya, ia mengaku tidak pernah bertemu kolega yang punya pengalaman membuat pesawat terbang dengan aman atau menjalankan reaktor nuklir tanpa leleh.
Robinson mendesak perusahaan AI frontier beroperasi seperti pembangkit nuklir atau bandara sibuk. Keduanya menerapkan lapisan redundansi dan perencanaan matang yang memakan waktu, sehingga kesalahan manusia yang tak terhindarkan tidak membuka jalan menuju bencana.
Ia juga menyoroti keterbatasan alat ukur alignment saat ini. Menurutnya, metrik yang dipakai untuk menilai seberapa baik sistem AI "cocok dengan nilai manusia" masih terlalu kasar.
"Semakin pintar industri membiarkan model tumbuh sementara masalah-masalah ini belum terpecahkan, semakin berbahaya situasi kita," tulis Robinson dalam esainya.
Juru bicara OpenAI Drew Pusateri menyatakan perusahaan terus memperbaiki langkah keselamatannya. Ia menegaskan OpenAI memastikan model mereka tidak menjadi lebih capable dari yang bisa dikelola dan diamankan secara aman.
"Kami menghentikan pelatihan atau menahan model ketika kami perlu memperlambat," kata Pusateri. "Kami melakukan perubahan signifikan untuk memperkuat keamanan di lingkungan riset dan pengujian kami, melatih model agar tidak hanya menyelesaikan tugas tetapi melakukannya secara bertanggung jawab, memperluas kerja sama dengan evaluator pihak ketiga, dan meningkatkan pemantauan real-time."
Pernyataan Robinson menggema kritik Jacob Coxon, peneliti yang pernah bekerja di OpenAI dan Anthropic sebelum mengundurkan diri. Coxon menuduh perusahaan-perusahaan itu "mempertaruhkan hidup kita".
Komentar Coxon memicu debat lebih luas soal AI safety. CEO Anthropic Dario Amodei memaparkan rencana pengembangan AI yang lebih hati-hati, sementara eksekutif AI bertemu Presiden Donald Trump pekan ini dan menandatangani komitmen yang tampak disusun tergesa-gesa serta tidak mengikat.
Robinson menilai debat publik sejauh ini terlalu fokus pada aturan spesifik atau undang-undang baru. Baginya, persoalan intinya adalah budaya perusahaan-perusahaan AI itu sendiri.
Kepergian Robinson pertama kali dilaporkan Business Insider. Ia mengakui mengikuti langkah umum dalam playbook whistleblower AI: menyewa firma PR. Namun ia menegaskan keputusan untuk bersuara adalah miliknya sendiri.
"Mungkin seharusnya saya tetap tinggal dan memperjuangkan perubahan fundamental dalam staffing dan budaya kami, tetapi dalam praktiknya, saya dan kolega saya terlalu sibuk berlari sehingga jarang punya kesempatan mempertimbangkan perubahan besar," ujarnya.
Ia menyimpulkan bahwa insentif keselamatan yang lebih kuat, yang datang dari luar perusahaan, menjadi kunci untuk membenahi persoalan ini. Pernyataan itu menempatkan tekanan baru bagi OpenAI dan kompetitornya di tengah perlombaan model AI yang semakin cepat.