Peneliti Peringatkan Risiko Kepunahan Akibat AI: Seperti Perang Nuklir

Geoffrey Hinton, yang karya rintisannya membantu membentuk sistem AI saat ini, sebelumnya mengatakan kepada CNN bahwa dia memutuskan untuk meninggalkan perannya di Google dan menyerukan risiko teknologi AI setelah menyadari bahwa teknologi ini menjadi lebih pintar dari manusia.

Dalam cuitan di akun Twitter, Direktur Pusat Keamanan AI Dan Hendrycks mengatakan bahwa pernyataan yang pertama kali diajukan oleh David Krueger, seorang profesor AI di University of Cambridge, tidak menghalangi masyarakat untuk menangani jenis risiko AI lainnya, seperti bias algoritmik. atau informasi yang salah.

Hendrycks membandingkan pernyataan dengan peringatan para ilmuwan atom yang mengeluarkan peringatan tentang teknologi yang mereka buat. “Masyarakat dapat mengelola banyak risiko sekaligus. Dari perspektif manajemen risiko, sama seperti ceroboh untuk secara eksklusif memprioritaskan bahaya saat ini, juga akan ceroboh untuk mengabaikannya,” tweet Hendrycks. ***