1 bulan yang lalu
Telset.id – Dario Amodei, CEO sekaligus pendiri Anthropic, kembali menjadi sorotan publik teknologi setelah merilis sebuah esai panjang nan berisi peringatan keras mengenai masa depan kepintaran buatan. Dalam tulisan sepanjang 19.000 kata tersebut, Amodei melukiskan gambaran suram bahwa umat manusia bakal segera diserahkan “kekuatan nan tak terbayangkan” tanpa persiapan nan memadai. Menurutnya, sistem sosial, politik, dan teknologi nan ada saat ini belum mempunyai kedewasaan nan cukup untuk mengendalikan kekuatan tersebut, menempatkan bumi pada posisi nan sangat rentan.
Esai ini muncul di momen nan cukup strategis. Di satu sisi, industri teknologi sedang berkompetisi memposisikan AI sebagai solusi segala masalah alias panacea. Namun di sisi lain, para pemimpin teknologi, termasuk Amodei, justru menggunakan narasi ketakutan untuk menarik perhatian investor. Amodei berdasar bahwa kita jauh lebih dekat dengan ancaman nyata pada tahun 2026 dibandingkan tahun 2023. Peringatan ini datang berbarengan dengan berita bahwa Anthropic tengah berupaya menutup putaran pendanaan besar-besaran dengan sasaran valuasi mencapai USD 350 miliar.
Ancaman Biosekuriti dan Kediktatoran Global
Dalam esainya, Amodei tidak menahan diri untuk memaparkan skenario terburuk nan bisa terjadi akibat pengembangan AI nan tidak terkendali. Ia menyoroti akibat hilangnya lapangan pekerjaan secara massal serta konsentrasi kekuatan ekonomi nan hanya berpusat pada segelintir pihak. Namun, ancaman nan lebih mengerikan menyangkut keamanan bentuk global. Amodei menyebut potensi AI untuk mengembangkan senjata biologis rawan alias senjata militer nan “superior”.
Kekhawatiran ini sejalan dengan peringatan sebelumnya mengenai risiko spionase nan semakin canggih. Menurut Amodei, AI nan “nakal” (rogue) bisa saja mengalahkan manusia alias memungkinkan negara tertentu menggunakan kelebihan teknologi mereka untuk menguasai negara lain. Skenario terburuknya adalah terciptanya “kediktatoran totaliter global”. Ia menyesalkan bahwa saat ini insentif untuk membangun pagar pengaman (guardrails) nan berarti nyaris tidak ada, lantaran industri terjebak dalam perlombaan kecepatan pengembangan.
Amodei juga menyentil kompetitornya secara tersirat, khususnya chatbot Grok milik Elon Musk nan sempat tersandung kontroversi pembuatan gambar seksual non-konsensual. Ia menilai beberapa perusahaan AI menunjukkan kelalaian nan mengganggu terhadap seksualisasi anak dalam model mereka saat ini. Hal ini membuatnya ragu bahwa perusahaan-perusahaan tersebut mempunyai niat alias keahlian untuk menangani akibat otonomi pada model masa depan.
Jebakan Geopolitik dan Paradoks Keamanan
Salah satu poin paling kritis dalam argumen Amodei adalah posisi industri AI nan terjebak dalam dilema geopolitik. Ia menyebutnya sebagai sebuah “jebakan”. Di satu sisi, mengambil waktu untuk membangun sistem AI nan kondusif secara hati-hati bertentangan dengan kebutuhan negara-negara demokratis untuk tetap unggul dari negara otoriter. Jika negara kerakyatan kalah cepat, ada akibat mereka bakal ditundukkan. Namun ironisnya, perangkat berbasis AI nan sama, nan diperlukan untuk melawan otokrasi, jika dikembangkan terlalu jauh bisa berbalik menciptakan tirani di negara sendiri.
Amodei memperingatkan bahwa terorisme nan digerakkan oleh AI dapat membunuh jutaan orang melalui penyalahgunaan biologi. Namun, reaksi berlebihan terhadap akibat ini justru bisa menggiring masyarakat menuju negara pengawasan (surveillance state) nan otoriter. Sebagai solusi, dia kembali menyerukan pembatasan akses sumber daya bagi negara lain untuk membangun AI nan kuat.
Ia apalagi membikin afinitas keras mengenai penjualan chip AI Nvidia ke China. Menurutnya, perihal itu seumpama “menjual senjata nuklir ke Korea Utara lampau membanggakan bahwa selongsong rudalnya dibuat oleh Boeing, sehingga AS dianggap ‘menang'”. Retorika ini muncul di tengah ketegangan dunia di mana teknologi militer otonom, seperti drone canggih, terus dikembangkan oleh beragam negara.
Terlepas dari peringatan nan terdengar altruistik ini, konteks finansial tidak bisa diabaikan. Para kritikus dan skeptis menilai bahwa akibat eksistensial nan sering didengungkan oleh para pemimpin teknologi mungkin dibesar-besarkan, terutama lantaran peningkatan keahlian teknologi AI belakangan ini tampak melambat. Dengan investasi jumbo nan sedang dikejar Anthropic, Amodei mempunyai kepentingan finansial nan sangat besar untuk memposisikan perusahaannya sebagai satu-satunya “obat” bagi penyakit nan turut dia ciptakan sendiri.
