SEORANG pakar KECERDASAN BUATAN telah menyampaikan kekhawatirannya mengenai penggunaan teknologi oleh militer.
Profesor Yoshua Bengio dari Université de Montréal – salah satu dari tiga yang disebut sebagai “bapak baptis” kecerdasan buatan (AI) – mengatakan kepada BBC bahwa tentara seharusnya tidak bisa menggunakan AI.
Bengio, yang dikenal karena karya awalnya dalam mengembangkan AI, berpendapat bahwa kecepatan perkembangan teknologi ini mengkhawatirkan.
Salah satu kekhawatiran utamanya adalah aktor ancaman bisa menggunakan AI tingkat militer.
“Bisa jadi militer, bisa jadi teroris, bisa jadi seseorang yang sangat pemarah, psikotik,” kata Bengio kepada BBC.
“Jadi jika mudah memprogram sistem AI untuk meminta mereka melakukan sesuatu yang sangat buruk, itu bisa sangat berbahaya,” tambahnya.
“Jika mereka lebih pintar dari kita, maka sulit bagi kita untuk menghentikan sistem ini atau mencegah kerusakan,” lanjut Bengio.
Awal pekan ini, ilmuwan komputer Kanada di Pos Nasional bahwa para pemimpin harus bergerak “secepat mungkin” untuk meloloskan peraturan AI.
Untuk menekankan pentingnya masalah ini, Bengio telah menandatangani dua pernyataan baru-baru ini yang menganggap AI berbahaya.
“Mengurangi risiko kepunahan AI harus menjadi prioritas global bersama dengan risiko skala sosial lainnya seperti pandemi dan perang nuklir,” demikian bunyi salah satu pernyataan yang ditandatangani oleh Bengio, CEO OpenAI dan Google Deepmind, dan lainnya.
Profesor tersebut mengutip evolusi terbaru dari ChatGPT OpenAI sebagai contoh AI yang berkembang pesat dan canggih.
“Kami telah mencapai tingkat kecerdasan sistem ini, dengan ChatGPT pada bulan November lalu, yang konsisten dengan fakta bahwa pada dasarnya kami dapat lolos ke manusia,” kata Bengio dalam sebuah wawancara.
ChatGPT adalah chatbot bahasa alami yang dapat menjawab perintah, menulis esai, dan bahkan menghasilkan kode kompleks dalam hitungan detik.
Dan teknologi ini dapat digunakan oleh pihak-pihak yang tidak bertanggung jawab untuk menyebarkan disinformasi kepada masyarakat atau bahkan untuk menggoyahkan demokrasi, Bengio memperingatkan.
“Sudah ada informasi yang menunjukkan bahwa negara-negara telah mencoba mempengaruhi (pemilu) kita,” katanya.
“Negara-negara telah menggunakan troll untuk mencoba mempengaruhi orang, namun di balik setiap akun troll ada manusianya. Sekarang, jika kita dapat melakukan hal yang sama dengan mesin, maka 100 troll Anda dapat mengontrol jutaan akun,” tambahnya.
Bengio bukan satu-satunya pemimpin industri yang mengungkapkan keprihatinannya terhadap AI dan dampaknya di masa depan terhadap masyarakat.
Rekan “ayah baptis” Dr. Geoffrey Hinton juga menandatangani pernyataan yang sama dengan Bengio.
Sementara itu, Elon Musk, pemilik Twitter dan Tesla, sudah lama mengungkapkan kekhawatirannya terhadap AI.
Di sebuah pemeliharaan di Fox News pada bulan April, Musk memperingatkan bahwa AI dapat menyebabkan “kehancuran peradaban.”
