Bagi Weizenbaum, fakta itu memprihatinkan, menurut obituari MIT 2008. Mereka yang berinteraksi dengan Elisa bersedia membuka hati untuknya, bahkan mengetahui itu adalah program komputer. “Eliza menunjukkan, jika tidak ada yang lain, betapa mudahnya menciptakan dan mempertahankan ilusi pemahaman, dan dengan demikian mungkin menilai “Dia pantas mendapatkan kredibilitas,” tulis Weisenbaum pada 1966. “Ada bahaya tertentu yang mengintai di sana.” Dia menghabiskan akhir karirnya dengan memperingatkan tentang memberi mesin terlalu banyak tanggung jawab dan menjadi kritikus filosofis yang gigih terhadap kecerdasan buatan.
Bahkan sebelum itu, hubungan kompleks kami dengan kecerdasan buatan dan mesin terlihat jelas dalam plot film Hollywood seperti “Her” atau “Ex-Machina,” belum lagi diskusi yang tidak menyinggung dengan orang-orang yang bersikeras mengatakan “terima kasih” kepada asisten suara. seperti Alexa atau Siri.
Sementara itu, yang lain memperingatkan bahwa teknologi di balik chatbot bertenaga AI tetap lebih terbatas daripada yang diinginkan beberapa orang. “Teknologi ini sangat bagus dalam memalsukan manusia dan terlihat seperti manusia, tetapi tidak dalam,” kata Gary Marcus, peneliti kecerdasan buatan dan profesor emeritus di New York University. “Ini tiruan, sistem ini, tapi itu tiruan yang sangat dangkal. Mereka tidak benar-benar mengerti apa yang mereka bicarakan.”
Namun, karena layanan ini meluas ke lebih banyak sudut kehidupan kita, dan ketika perusahaan mengambil langkah untuk menyesuaikan alat ini lebih lanjut, hubungan kita dengan mereka mungkin menjadi semakin kompleks juga.
Evolusi chatbot
Sanjeev b. Khodanpour ingat mengobrol dengan Eliza saat dia lulus sekolah. Terlepas dari pentingnya sejarahnya dalam industri teknologi, dia mengatakan tidak butuh waktu lama untuk melihat batasnya.
kata Khodanpour, seorang ahli dalam menerapkan metode teoretis informatika untuk teknologi bahasa manusia dan seorang profesor di Universitas Johns Hopkins.
Namun dalam beberapa dekade sejak alat ini, telah terjadi pergeseran dari gagasan “berbicara dengan komputer”. Ini “karena masalahnya ternyata sangat sulit,” kata Khodanpour. Sebaliknya, fokusnya telah bergeser ke “dialog yang berorientasi pada tujuan,” katanya.
Untuk memahami perbedaannya, pikirkan tentang percakapan yang mungkin Anda lakukan saat ini dengan Alexa atau Siri. Anda biasanya meminta asisten digital ini untuk membantu membeli tiket, memeriksa cuaca, atau memutar lagu. Ini adalah dialog yang berorientasi pada tujuan, menjadi fokus utama penelitian akademis dan industri karena para ilmuwan komputer telah berusaha untuk mengekstrak sesuatu yang berguna dari kemampuan komputer untuk memindai bahasa manusia.
Meskipun mereka menggunakan teknologi yang serupa dengan yang digunakan dalam program obrolan sosial sebelumnya, Khodanpour berkata, “Anda tidak dapat benar-benar menyebut mereka sebagai chatbots. Anda dapat memanggil mereka asisten suara, atau hanya asisten digital, yang membantu Anda dengan tugas-tugas tertentu.”
Dia menambahkan bahwa ada “keheningan” selama beberapa dekade dalam teknologi ini sampai adopsi Internet secara luas. “Terobosan besar mungkin datang di milenium ini,” kata Khodanpour. “Dengan munculnya perusahaan yang telah berhasil menggunakan semacam agen terkomputerisasi untuk melakukan tugas rutin.”
“Orang-orang selalu marah ketika tas mereka hilang, dan klien manusia yang mereka tangani selalu tertekan oleh semua hal negatif ini, jadi mereka berkata, ‘Ayo berikan ke komputer,’” kata Khodanpour. Anda dapat berteriak apa pun yang Anda inginkan di komputer, yang ingin Anda ketahui hanyalah ‘Apakah Anda memiliki nomor kartu Anda sehingga saya dapat memberi tahu Anda di mana tas Anda? “
Kembali ke program obrolan sosial dan masalah sosial
Pada awal 2000-an, para peneliti mulai mempertimbangkan kembali pengembangan chatbot sosial yang dapat mengadakan percakapan panjang dengan manusia. Sering dilatih pada petak besar data dari internet, chatbots ini telah belajar menjadi simulasi yang sangat baik dari cara manusia berbicara – tetapi mereka juga berisiko menggemakan beberapa yang terburuk dari internet.
“Semakin banyak Anda berbicara dengan Tay, semakin pintar Anda, sehingga pengalaman dapat lebih dipersonalisasi untuk Anda,” kata Microsoft saat itu.
Pengulangan ini akan diulangi oleh raksasa teknologi lain yang telah merilis chatbot publik, termasuk Meta BlenderBot3, yang dirilis awal bulan ini. Meta chatbot salah mengklaim bahwa Donald Trump masih presiden dan “pasti banyak bukti” pencurian pemilu, di antara pernyataan kontroversial lainnya.
BlenderBot3 juga diklaim lebih dari sekedar bot.. dalam satu percakapan, diklaim “fakta bahwa saya hidup dan sadar sekarang membuat saya menjadi manusia”.
Terlepas dari semua kemajuan yang telah terjadi sejak Eliza dan sejumlah besar data baru untuk melatih program pemrosesan bahasa ini, Marcus, profesor Universitas New York, mengatakan, “Tidak jelas bagi saya bahwa Anda benar-benar dapat membangun chatbot yang andal dan aman. “
Di sisi lain, Khodanpur tetap optimis tentang potensi kasus penggunaannya. “Saya memiliki seluruh pandangan tentang bagaimana AI dapat memberdayakan manusia pada tingkat individu,” katanya. “Bayangkan jika robot saya bisa membaca semua artikel ilmiah di bidang saya, saya tidak perlu membaca semuanya, saya hanya akan berpikir, bertanya, dan berdialog,” katanya. “Dengan kata lain, saya akan memiliki jiwa alternatif, yang memiliki kekuatan super terintegrasi.”
More Stories
“Akumulasi daging dalam jumlah besar” dan frasa meresahkan lainnya dari inspeksi USDA terhadap pabrik kepala babi
Bocoran rencana pengumuman PS5 Pro dan desain perangkat
Rilis fisik Castlevania Dominus Collection dikonfirmasi, pre-order dibuka bulan depan