Ayah baptis kecerdasan buatan, Geoffrey Hinton, memperingatkan risiko ketika dia meninggalkan Google

Seorang pria yang secara luas dipandang sebagai ayah baptis kecerdasan buatan (AI) telah berhenti dari pekerjaannya, memperingatkan akan meningkatnya bahaya dari perkembangan di lapangan.

Jeffrey Hinton, 75, mengumumkan pengunduran dirinya dari Google dalam sebuah pernyataan kepada New York Times, mengatakan dia sekarang menyesali pekerjaannya.

Dia mengatakan kepada BBC bahwa beberapa risiko chatbot “sangat menakutkan”.

“Saat ini, mereka tidak lebih pintar dari kita, sejauh yang saya tahu. Tapi saya pikir mereka mungkin akan segera.”

Dr Hinton juga setuju bahwa usianya berperan dalam keputusannya untuk meninggalkan raksasa teknologi itu, mengatakan kepada BBC: “Saya berusia 75 tahun, jadi sudah waktunya untuk pensiun.”

Penelitian perintis Dr. Hinton tentang pembelajaran mendalam dan jaringan saraf membuka jalan bagi sistem AI saat ini seperti ChatGPT.

Tetapi seorang psikolog kognitif dan ilmuwan komputer Inggris-Kanada mengatakan kepada BBC bahwa chatbot dapat segera melampaui tingkat informasi yang dipegang oleh otak manusia.

“Saat ini, apa yang kami lihat adalah hal-hal seperti GPT-4 mengungguli seseorang dalam jumlah pengetahuan umum yang mereka miliki dan banyak mengungguli seseorang. Dalam hal penalaran, itu tidak terlalu bagus, tetapi memang sederhana pemikiran.

“Dan mengingat tingkat kemajuannya, kami berharap segalanya membaik dengan sangat cepat. Jadi kami harus khawatir tentang itu.”

Dalam artikel New York Times, Dr. Hinton merujuk pada “aktor jahat” yang akan mencoba menggunakan AI untuk “hal-hal buruk”.

Ketika ditanya oleh BBC untuk menguraikan hal ini, dia menjawab: “Ini hanya skenario terburuk, semacam skenario mimpi buruk.

“Bisa dibayangkan, misalnya, beberapa aktor jahat suka [Russian President Vladimir] Putin memutuskan untuk memberi bot kemampuan untuk membuat sub-target mereka sendiri.

Pada akhirnya, ini dapat “menciptakan sub-tujuan seperti ‘Saya perlu menjadi lebih kuat,'” ilmuwan tersebut memperingatkan.

Dia menambahkan, “Saya sampai pada kesimpulan bahwa jenis kecerdasan yang kita kembangkan sangat berbeda dengan kecerdasan yang kita miliki.

“Kami adalah sistem biologis dan ini adalah sistem digital. Perbedaan besarnya adalah dengan sistem digital, Anda memiliki banyak salinan dari set bobot yang sama, model dunia yang sama.

“Dan semua klon ini dapat belajar secara terpisah tetapi membagikan pengetahuan mereka secara instan. Jadi, jika Anda memiliki 10.000 orang dan setiap kali seseorang mempelajari sesuatu, semua orang mengetahuinya secara otomatis. Jadi, chatbot ini dapat mengetahui lebih banyak daripada satu orang.”

Dia menekankan bahwa dia tidak ingin mengkritik Google dan raksasa teknologi itu “sangat bertanggung jawab”.

“Saya sebenarnya ingin mengatakan beberapa hal baik tentang Google. Akan lebih kredibel jika saya tidak bekerja untuk Google.”

Dalam sebuah pernyataan, Kepala Ilmuwan Google Jeff Dean mengatakan, “Kami tetap berkomitmen pada pendekatan AI yang bertanggung jawab. Kami terus belajar untuk memahami risiko yang muncul sambil juga berinovasi dengan berani.”