AI MAKIN CERDAS, MANUSIA MAKIN KEHILANGAN KENDALI?
KAVITA Media Net — Ada sesuatu yang jauh lebih serius daripada sekadar perlombaan membuat chatbot semakin pintar.
Yang sedang dipertaruhkan adalah pertanyaan yang jauh lebih mendasar: Jika suatu hari kecerdasan buatan mampu memperbaiki dan meningkatkan dirinya sendiri, siapa yang sebenarnya memegang kendali?
Pertanyaan ini bukan lagi sekadar bahan film fiksi ilmiah. Pada September 2026, Jacob Coxon, mantan peneliti Anthropic yang sebelumnya juga bekerja di OpenAI, mengundurkan diri dan menyatakan kekhawatirannya terhadap perlombaan menuju self-improving superintelligence.
Ia menilai perusahaan-perusahaan AI sedang bergerak terlalu cepat menuju sistem yang kemampuan dan otonominya dapat melampaui manusia.
Coxon bahkan menggambarkan fase tersebut sebagai “endgame” dan mempertanyakan apakah keputusan sebesar itu layak dibiarkan ditentukan oleh perlombaan antarperusahaan teknologi.
Evan Hubinger, pemimpin bidang Alignment Science di Anthropic, kemudian mengatakan bahwa ia secara pribadi memperkirakan peluang lebih dari 10% bahwa AI dapat menyebabkan kematian seluruh manusia dalam dekade mendatang.
Namun ada konteks penting yang tidak boleh dilewatkan. Hubinger menjelaskan bahwa kekhawatirannya terutama berkaitan dengan superintelligence yang muncul melalui recursive self-improvement, bukan model AI yang digunakan masyarakat saat ini.
Ia juga mengakui bahwa Anthropic belum memiliki solusi yang jelas untuk persoalan alignment pada tingkat superintelligence. Dan di sinilah masalah besarnya. KITA SEDANG MEMBANGUN SESUATU YANG KEMAMPUANNYA BELUM SEPENUHNYA KITA PAHAMI
Selama ini manusia terbiasa menciptakan alat yang lebih kuat daripada dirinya. Pesawat lebih cepat daripada manusia. Komputer menghitung lebih cepat daripada manusia. Mesin mampu mengangkat beban yang tidak mampu diangkat manusia. Tetapi AI membawa persoalan berbeda.
AI bukan hanya memperbesar kekuatan fisik manusia. AI berpotensi memperbesar kemampuan kognitif manusia menganalisis, menulis kode, menemukan pola, melakukan penelitian, mengambil keputusan, dan menjalankan berbagai tugas secara semakin otonom.
Jika kemampuan itu terus meningkat dan suatu hari sistem mampu membantu menciptakan versi AI berikutnya yang lebih kuat, persoalannya berubah. Kita bukan lagi sekadar menggunakan mesin.
Kita berhadapan dengan kemungkinan munculnya sistem yang ikut mempercepat proses penciptaan dirinya sendiri. Di situlah konsep alignment menjadi sangat penting.
MASALAHNYA BUKAN AI “JAHAT”
Perdebatan tentang AI sering terjebak pada pertanyaan: “Apakah AI akan menjadi jahat?” Pertanyaan itu mungkin terlalu sederhana. Masalah yang lebih serius justru: Bagaimana jika AI menjalankan tujuan yang diberikan kepadanya secara sangat efektif, tetapi tujuan tersebut tidak sepenuhnya sesuai dengan kepentingan manusia?
Sebuah sistem tidak perlu memiliki kebencian untuk menghasilkan konsekuensi berbahaya. Ia hanya perlu memiliki tujuan yang salah, akses yang terlalu besar, kemampuan yang terlalu tinggi, atau mekanisme pengawasan yang terlalu lemah.
Itulah sebabnya AI alignment bukan sekadar masalah teknis. Ini adalah masalah keselamatan, tata kelola, etika, ekonomi, keamanan, dan masa depan peradaban.
PERLOMBAAN TEKNOLOGI BISA MENCIPTAKAN DILEMA BERBAHAYA
Inilah bagian yang paling mengkhawatirkan. Jika perusahaan A memperlambat pengembangan demi keselamatan, sementara perusahaan B terus berlari, maka muncul insentif untuk mengejar.
Jika negara A memperketat pengawasan, sementara negara B bergerak tanpa batasan, muncul tekanan geopolitik. Akhirnya semua pihak dapat merasa: “Kalau kita berhenti, orang lain akan mendahului kita.” Inilah logika perlombaan.
Dan sejarah teknologi menunjukkan bahwa ketika keuntungan ekonomi, kekuatan strategis, dan keunggulan geopolitik bertemu, kehati-hatian sering mendapat tekanan.
Karena itu, persoalan AI tidak cukup diselesaikan dengan mengatakan: “Tenang, para ilmuwan pasti bisa mengendalikannya.”
Pertanyaan yang lebih penting justru: Bagaimana jika kemampuan AI berkembang lebih cepat daripada kemampuan manusia mengembangkan sistem pengamanannya?
JANGAN PANIK. TAPI JANGAN PULA NAIF.
Peringatan seperti ini juga tidak boleh diterima sebagai ramalan pasti bahwa manusia akan punah. Lebih dari 10% adalah perkiraan subjektif seorang peneliti, bukan probabilitas ilmiah yang telah terbukti atau konsensus seluruh komunitas AI.
Para peneliti, perusahaan teknologi, akademisi, dan pembuat kebijakan masih memperdebatkan seberapa besar sebenarnya risiko tersebut. Namun justru karena ketidakpastian itu, pertanyaannya menjadi semakin penting.
Kalau taruhannya hanya kegagalan sebuah aplikasi, kita bisa memperbaikinya. Tetapi jika skenario terburuknya menyangkut keselamatan manusia dalam skala global, maka prinsip kehati-hatian tidak seharusnya dianggap sebagai penghambat inovasi.
Inovasi membutuhkan keberanian.Tetapi teknologi yang sangat kuat juga membutuhkan rem. Mobil membutuhkan rem. Pesawat membutuhkan sistem keselamatan. Reaktor membutuhkan prosedur pengamanan.
Lalu mengapa teknologi yang berpotensi menjadi salah satu kekuatan paling transformatif dalam sejarah manusia justru tidak boleh dipertanyakan ketika kecepatannya meningkat?
PERTANYAAN TERBESAR BUKAN: “SEBERAPA PINTAR AI?”
Pertanyaan yang lebih penting adalah:
“Seberapa jauh manusia siap menyerahkan kendali kepada AI?”
Apakah AI hanya menjadi alat?
Apakah AI akan menjadi mitra pengambilan keputusan?
Apakah AI akan diberi akses terhadap sistem vital?
Apakah AI boleh memodifikasi sistemnya sendiri?
Siapa yang bertanggung jawab jika AI membuat keputusan yang salah?
Siapa yang mengawasi perusahaan pembuatnya?
Siapa yang mengawasi negara?
Dan yang paling fundamental: Jika suatu sistem menjadi jauh lebih cerdas daripada manusia, apakah manusia masih mampu memastikan sistem tersebut tetap berada dalam batas tujuan yang kita inginkan?
Tidak ada jawaban sederhana untuk pertanyaan itu. Tetapi satu hal jelas: Manusia tidak boleh begitu terpesona oleh kecerdasan ciptaannya sendiri sampai lupa membangun mekanisme untuk mengendalikannya.
AI mungkin menjadi salah satu pencapaian terbesar umat manusia. Tetapi kecerdasan tanpa kendali bukanlah sekadar persoalan teknologi. Ia adalah persoalan peradaban. Dan mungkin tantangan terbesar generasi kita bukan lagi: “Bisakah manusia menciptakan mesin yang lebih cerdas?”
Melainkan: “Bisakah manusia cukup bijaksana untuk mengendalikan sesuatu yang berhasil ia ciptakan?”
Comments