Mengapa Geoffrey Hinton Memutuskan Dia Harus “Meniup Peluit” pada Teknologi

New York (CNN) Geoffrey Hinton, juga dikenal sebagai “Ayah baptis kecerdasan buatanDia memutuskan dia harus “meniup peluit” pada teknologi yang dia bantu kembangkan setelah khawatir tentang betapa pintarnya itu, katanya kepada CNN pada hari Selasa.

“Saya hanya seorang ilmuwan yang tiba-tiba menyadari hal-hal ini menjadi lebih pintar dari kita,” kata Hinton kepada koresponden CNN Jake Tapper dalam sebuah wawancara Selasa. “Saya ingin meniup peluit dan mengatakan kita harus benar-benar peduli tentang bagaimana kita menjaga agar hal-hal ini tidak mengambil alih kita.”

Karya rintisan Hinton pada jaringan saraf membentuk sistem kecerdasan buatan yang menggerakkan banyak produk saat ini. Pada hari Senin, dia menjadi berita utama karena meninggalkan posisinya di Google, tempat dia bekerja selama satu dekade, untuk berbicara terus terang tentang kekhawatirannya yang semakin besar tentang teknologi.

Dalam sebuah wawancara pada hari Senin dengan The New York TimesHinton, yang pertama kali melaporkan kepindahannya, mengatakan dia khawatir tentang kemampuan AI untuk menghilangkan pekerjaan dan menciptakan dunia di mana “banyak orang tidak akan dapat mengetahui apa yang benar lagi.” Dia juga mencatat kecepatan kemajuan yang mencengangkan, yang jauh melampaui apa yang dia dan orang lain perkirakan.

“Jika ia lebih pintar dari kita, ia akan sangat pandai memanipulasi karena ia akan mempelajarinya dari kita, dan sangat sedikit contoh sesuatu yang lebih cerdas dikendalikan oleh sesuatu yang kurang cerdas,” kata Hinton kepada Tapper. Selasa.

“Dia tahu cara membuat kode, jadi dia akan mencari cara untuk mengatasi batasan yang kami berikan padanya. Dia akan mencari cara untuk memanipulasi orang agar melakukan apa yang mereka inginkan.”

Hinton bukan satu-satunya pemimpin teknologi yang blak-blakan tentang kekhawatirannya tentang AI. Sejumlah anggota masyarakat menandatangani a pesan di bulan Maret Meminta AI Labs untuk berhenti melatih sistem AI paling kuat setidaknya selama enam bulan, dengan alasan “risiko besar bagi masyarakat dan kemanusiaan”.

pesan, diterbitkan Dari Future of Life Institute, sebuah organisasi nirlaba Didukung Oleh Elon Musk, hanya dua minggu setelah OpenAI mengumumkan GPT-4, versi yang lebih kuat dari teknologi chatbot viral yang mendukung ChatGPT. Dalam tes awal dan demo perusahaan, GPT-4 digunakan untuk menyusun tuntutan hukum, lulus tes standar, dan membangun situs web yang berfungsi dari sketsa yang digambar tangan.

Salah satu pendiri Apple Steve Wozniak, yang merupakan salah satu penandatangan surat tersebut, muncul di “CNN This Morning” pada hari Selasa, menggemakan kekhawatiran tentang kemampuannya untuk menyebarkan informasi yang salah.

“Penipuan akan jauh lebih mudah bagi mereka yang ingin menipu Anda,” kata Wozniak kepada CNN. “Kami tidak membuat perubahan apa pun dalam hal itu – kami hanya berasumsi bahwa undang-undang yang kami miliki akan mengaturnya.”

Wozniak juga mengatakan bahwa “semacam organisasi” mungkin diperlukan.

Sementara itu, Hinton mengatakan kepada CNN bahwa dia tidak menandatangani petisi tersebut. “Saya tidak berpikir kita bisa menghentikan kemajuan,” katanya. “Saya tidak menandatangani petisi yang mengatakan kita harus berhenti mengerjakan AI karena jika orang di Amerika berhenti, orang di China tidak akan melakukannya.”

Namun dia mengakui tidak ada jawaban yang jelas tentang apa yang harus dilakukan sebagai gantinya.

“Tidak jelas bagi saya apakah kita bisa menyelesaikan masalah ini,” kata Hinton kepada Tapper. “Saya pikir kita harus berusaha keras memikirkan cara untuk memecahkan masalah. Saya tidak punya solusi saat ini.”