Debat tentang masa depan kecerdasan buatan kembali memanas. Pekan ini, Jacob Coxon, peneliti Anthropic, mengundurkan diri karena khawatir model AI yang canggih bisa menyebabkan kepunahan manusia dalam satu dekade ke depan. Keputusannya menambah daftar panjang suara-suara kritis dari dalam industri AI.
Kekhawatiran semacam ini sebenarnya bukan hal baru. Bertahun-tahun lalu, Dario Amodei — kini CEO Anthropic — meninggalkan posisi senior di OpenAI karena prihatin dengan arah pengembangan AI. Kini, pertanyaan yang sama kembali mengemuka di forum publik: apakah model-model canggih bisa lepas dari kendali manusia?
Industri sendiri terbelah. Sebagian pihak menilai kekhawatiran itu berlebihan dan mengalihkan fokus dari masalah nyata seperti bias algoritma dan penyalahgunaan data. Kelompok lain, termasuk sejumlah peneliti senior, mendesak penghentian sementara pengembangan model paling kuat hingga mekanisme keamanan terbukti andal.
Di tengah perdebatan itu, pengembangan AI tetap melaju. Pony.ai, misalnya, baru saja meluncurkan truk listrik otonom untuk armada logistik — bukti bahwa teknologi ini semakin merambah kehidupan nyata, mulai dari transportasi hingga layanan kesehatan.
Yang jelas, kecepatan inovasi tidak lagi sejalan dengan kesepakatan soal batas amannya. Bagi pengguna biasa, kabar baiknya: perusahaan besar kini menaruh perhatian serius pada keamanan model, mulai dari pengujian ketat hingga kebijakan penggunaan yang lebih transparan. Namun pertanyaan besarnya tetap menggantung — seberapa besar kendali manusia yang tersisa?