Sama Berbahaya dengan Perang Nuklir, AI Bisa Sebabkan Kepunahan Umat Manusia

SEBUAH surat yang ditandatangani lebih dari 350 tokoh, termasuk pakar, peneliti, dan pemimpin industri teknologi, menyebut kecerdasan buatan (artificial intelligence/AI) sebagai ancaman yang dapat menyebabkan kepunahan manusia.

Surat yang diterbitkan oleh lembaga nirlaba Center for AI Safety (CAIS) itu menyerukan "mengurangi risiko kepunahan AI harus menjadi prioritas global bersama dengan risiko skala sosial lainnya seperti pandemi dan perang nuklir."

Di antara penandatangan surat itu adalah OpenAI CEO Sam Altman. CEO perusahaan AI DeepMind dan Anthropic, serta eksekutif dari Microsoft dan Google. Selain itu terdapat juga Geoffrey Hinton dan Yoshua Bengio yang merupakan akar AI terkemuka, serta profesor dari institusi mulai dari Harvard hingga Universitas Tsinghua China, demikian diwartakan Reuters.

Surat dirilis bertepatan dengan pertemuan Dewan Perdagangan dan Teknologi Amerika Serikat (AS)-Uni Eropa di Swedia di mana para politisi diharapkan berbicara tentang pengaturan AI.

Elon Musk dan sekelompok pakar AI dan eksekutif industri adalah yang pertama mengutip potensi risiko bagi masyarakat pada April.

"Kami telah menyampaikan undangan (kepada Musk), dan mudah-mudahan dia akan menandatanganinya minggu ini," kata Direktur CAIS Dan Hendrycks.

Perkembangan terkini dalam AI telah menciptakan alat yang menurut para pendukung dapat digunakan dalam aplikasi mulai dari diagnostik medis hingga menulis ringkasan hukum, tetapi hal ini memicu kekhawatiran bahwa teknologi tersebut dapat menyebabkan pelanggaran privasi, kampanye informasi yang salah, dan menyebabkan masalah dengan pemikiran mandiri oleh "mesin pintar".

Peringatan itu muncul dua bulan setelah badan nirlaba Future of Life Institute mengeluarkan surat terbuka serupa, yang ditandatangani oleh Musk dan ratusan lainnya, menuntut jeda mendesak dalam penelitian AI lanjutan, dengan alasan risiko terhadap kemanusiaan.

"Surat kami mengarusutamakan jeda, ini mengarusutamakan kepunahan," kata presiden FLI Max Tegmark, yang juga menandatangani surat yang lebih baru. "Sekarang percakapan terbuka yang konstruktif akhirnya dapat dimulai."

Pionir AI Hinton sebelumnya mengatakan kepada Reuters bahwa AI dapat menimbulkan ancaman yang "lebih mendesak" bagi umat manusia daripada perubahan iklim.

(Rahman Asmardika)