Chatbots baru dapat mengubah dunia. Bisakah Anda memercayai mereka?

Bulan ini, dia memperkenalkan Jeremy Howard, seorang peneliti kecerdasan buatan Obrolan online Panggilan mengobrol kepada putrinya yang berusia 7 tahun. Itu dirilis beberapa hari yang lalu oleh OpenAI, salah satu laboratorium AI paling ambisius di dunia.

Dia menyuruhnya untuk bertanya kepada chatbot eksperimental apa yang ada di pikirannya. Saya bertanya mengapa trigonometri digunakan, dari mana lubang hitam berasal, dan mengapa ayam mengerami telurnya. Setiap kali dia menjawab dengan prosa yang jelas dan bertitik. Ketika dia meminta program komputer yang dapat memprediksi lintasan bola yang dilemparkan ke udara, dia juga memberikannya.

Selama beberapa hari berikutnya, Tuan Howard – seorang ilmuwan data dan profesor yang karyanya menginspirasi pembuatan ChatGPT dan teknologi serupa Datang untuk melihat chatbot sebagai tutor pribadi jenis baru. Dia bisa mengajar putrinya matematika, sains, dan bahasa Inggris, belum lagi beberapa pelajaran penting lainnya. Kepala di antara mereka: jangan percaya semua yang Anda katakan.

“Saya sangat senang melihat dia belajar seperti ini,” katanya. “Tapi aku juga memberitahunya: Jangan percaya semua yang dia berikan padamu. Itu bisa salah.”

OpenAI adalah salah satu dari banyak perusahaan, laboratorium akademik, dan peneliti independen yang bekerja untuk membangun chatbot yang lebih canggih. Namun, sistem ini tidak dapat mengobrol seperti manusia Mereka sering muncul. Mereka juga dapat mengambil dan menyusun kembali informasi dengan kecepatan yang tidak pernah bisa dilakukan manusia. Mereka dapat dilihat sebagai asisten digital — seperti Siri atau Alexa — yang lebih baik dalam memahami apa yang Anda cari dan memberikannya kepada Anda.

Setelah ChatGPT dirilis – yang telah digunakan oleh lebih dari satu juta orang – banyak ahli percaya bahwa chatbot baru ini siap untuk menemukan kembali atau bahkan menggantikan mesin pencari Internet seperti Google dan Bing.

Mereka dapat menyajikan informasi dalam kalimat sempit, bukan daftar panjang tautan biru. Mereka menjelaskan konsep dengan cara yang dapat dipahami orang. Mereka dapat menyajikan fakta, sambil membuat rencana bisnis, topik kertas, dan ide baru lainnya dari awal.

“Sekarang Anda memiliki komputer yang dapat menjawab pertanyaan apa pun dengan cara yang masuk akal bagi manusia,” kata Aaron Levy, CEO Silicon Valley, Box, dan salah satu dari beberapa eksekutif yang mengeksplorasi cara chatbot ini akan berubah. lanskap teknologi. “Itu dapat memperoleh dan mengambil ide dari konteks yang berbeda dan menggabungkannya bersama.”

Chatbot baru melakukan ini dengan sangat percaya diri. Tapi mereka tidak selalu mengatakan yang sebenarnya. Kadang-kadang, mereka bahkan gagal dalam operasi aritmatika sederhana. Mereka mencampur fakta dengan fiksi. Dan karena terus meningkat, orang dapat menggunakannya Menghasilkan dan menyebarkan kebohongan.

Google baru-baru ini membangun sistem percakapan eksklusif, yang disebut LaMDA, atau Model Bahasa untuk Aplikasi Dialog. Musim semi ini, seorang insinyur Google Dia mengaku sadar. belum pernahTapi itu menangkap imajinasi publik.

Aaron Margolis, seorang ilmuwan data di Arlington, Virginia, adalah salah satu dari sedikit orang di luar Google yang diizinkan menggunakan LaMDA melalui aplikasi eksperimental Google, AI Test Kitchen. Dia selalu kagum dengan bakatnya untuk percakapan terbuka. Aku membuatnya terhibur. Tapi dia memperingatkan bahwa itu mungkin hanya mitos – seperti yang diharapkan dari sistem yang dilatih dari sejumlah besar informasi yang diposting di Internet.

“Apa yang memberimu seperti film Aaron Sorkin,” katanya. Mr Sorkin menulis “The Social Network,” sebuah film yang sering dikritik karena mengungkap kebenaran tentang asal-usul Facebook. “Sebagian akan benar, dan sebagian lagi tidak.”

Dia baru-baru ini meminta LaMDA dan ChatGPT untuk berbicara dengannya seolah-olah dia adalah Mark Twain. Ketika ditanya oleh LaMDA, dia dengan cepat menggambarkan pertemuan antara Twain dan Levi Strauss, dan mengatakan bahwa penulis bekerja dengan mogul blue jeans saat tinggal di San Francisco pada pertengahan 1800-an. Sepertinya benar. Tapi ternyata tidak. Twain dan Strauss tinggal di San Francisco pada waktu yang sama, tetapi tidak pernah bekerja sama.

Ilmuwan menyebut masalah ini “halusinasi”. Sama seperti pendongeng yang baik, chatbot memiliki cara untuk mengambil apa yang telah mereka pelajari dan membentuknya kembali menjadi sesuatu yang baru — tanpa peduli apakah itu benar atau tidak.

LaMDA adalah apa yang oleh peneliti AI disebut a jaringan syaraf, sistem matematika yang secara longgar dimodelkan pada jaringan neuron otak. Ini adalah teknologi yang sama itu Menerjemahkan antara Prancis dan Inggris Pada layanan seperti Google Terjemahan, ini mengidentifikasi pejalan kaki sebagai Mobil self-driving menavigasi jalan-jalan kota.

Jaringan saraf mempelajari keterampilan dengan menganalisis data. Dengan mengidentifikasi pola pada ribuan gambar kucing, misalnya, ia dapat belajar mengidentifikasi seekor kucing.

Lima tahun lalu, para peneliti di Google dan laboratorium seperti OpenAI mulai merancang jaringan saraf itu Menganalisis sejumlah besar teks digital, termasuk buku, artikel Wikipedia, berita, dan log obrolan online. Para ilmuwan menyebutnya “paradigma bahasa besar”. Dengan mengidentifikasi miliaran pola berbeda dalam cara orang mengasosiasikan kata, angka, dan simbol, sistem ini telah belajar membuat teks sendiri.

Kemampuan mereka menghasilkan bahasa mengejutkan banyak peneliti di lapangan, termasuk banyak peneliti yang membangunnya. Teknologi ini dapat meniru apa yang telah ditulis orang dan menggabungkan konsep yang berbeda. Anda bisa memintanya untuk menulis adegan “Seinfeld” di mana Jerry mempelajari teknik matematika esoteris yang disebut algoritme pengurutan gelembung – dan akan.

Dengan ChatGPT, OpenAI telah meningkatkan teknologinya. Itu tidak melakukan obrolan yang mengalir bebas seperti LaMDA Google. Dirancang untuk bekerja lebih seperti Siri, Alexa, dan asisten digital lainnya. Seperti LaMDA, ChatGPT dilatih di lautan teks digital yang diambil dari Internet.

Ketika orang menguji sistem, mereka diminta untuk menilai tanggapannya. Apakah mereka meyakinkan? Apakah itu membantu? Apakah mereka jujur? Kemudian melalui sebuah teknologi bernama Penguatan pembelajaranSaya menggunakan peringkat untuk menyempurnakan sistem dan lebih hati-hati menentukan apa yang akan dan tidak akan dilakukan.

“Ini memungkinkan kami mencapai titik di mana model dapat berinteraksi dengan Anda dan mengakui kesalahannya,” kata Mira Moratti, chief technology officer OpenAI. “Dia bisa menolak sesuatu yang tidak pantas, dan dia bisa menantang pertanyaan atau hipotesis yang tidak valid.”

Metodenya tidak sempurna. OpenAI telah memperingatkan mereka yang menggunakan ChatGPT bahwa “terkadang dapat menghasilkan informasi yang salah” dan “menghasilkan instruksi berbahaya atau konten yang bias.” Tetapi perusahaan berencana untuk terus meningkatkan teknologinya, dan mengingatkan orang yang menggunakannya bahwa ini masih merupakan proyek penelitian.

Google, Meta, dan perusahaan lain juga menangani masalah akurasi. baru saja mati Pemindahan Pratinjau online chatbot-nya, Galactica, karena sering menghasilkan informasi yang salah dan bias.

Para ahli memperingatkan bahwa perusahaan tidak mengendalikan nasib teknologi tersebut. Sistem seperti ChatGPT, LaMDA, dan Galactica didasarkan pada ide, makalah penelitian, dan kode komputer yang telah beredar bebas selama bertahun-tahun.

Perusahaan seperti Google dan OpenAI dapat memajukan teknologi lebih cepat daripada yang lain. Tetapi teknologi terbaru mereka telah direproduksi dan didistribusikan secara luas. Mereka tidak dapat menghentikan orang menggunakan sistem ini untuk menyebarkan informasi yang salah.

Sama seperti Tuan Howard berharap putrinya akan belajar untuk tidak memercayai semua yang dia baca di Internet, dia berharap masyarakat akan mempelajari pelajaran yang sama.

“Anda dapat memprogram jutaan bot ini agar terlihat seperti manusia, dan melakukan percakapan yang dirancang untuk meyakinkan orang tentang sudut pandang tertentu,” katanya. Saya memperingatkan tentang ini bertahun-tahun yang lalu. Sekarang jelas bahwa ini menunggu untuk terjadi.”