Kehilangan kepercayaan pengguna adalah titik akhir dari tidak bisa kembali.

Google (GOOG, GOOGL) pada hari Rabu memperkenalkan banyak fitur AI generatif baru ke ekosistem produknya yang luas sebagai bagian dari konferensi I/O. Acara ini merupakan bagian yang sama bagi perusahaan untuk memamerkan apa yang telah dikerjakan selama ini. tahun lalu dan membuktikan kepada para pengguna dan investornya bahwa itu, bukan Microsoft (MSFT), adalah perusahaan terkemuka di bidang kecerdasan buatan.

Salah satu pengumuman utama selama pertunjukan termasuk penambahan fitur tulis AI yang disebut Help Me Write, yang akan membantu Anda menulis email. Tetapi karena penggunaan AI generatifnya, Wakil Presiden Google Workspace Aparna Pappu mengatakan bahwa perusahaan perlu berhati-hati untuk tidak memaksakan tanggapan yang tidak pantas atau perusahaan berisiko kehilangan kepercayaan pengguna.

“Hilangnya kepercayaan pengguna adalah titik akhir dari tidak bisa kembali,” katanya kepada Yahoo Finance. “Ini Northstar kami,” kepercayaan pengguna tidak bisa hilang. “”

AI generatif telah menimbulkan banyak pertanyaan sulit mulai dari apakah itu akan membuat pekerjaan seperti milik Anda menjadi usang, hingga apakah itu harus diizinkan di sekolah. Seberapa besar kepercayaan pengguna terhadap teknologi untuk menghasilkan respons yang akurat terhadap permintaan mereka juga telah menjadi titik pertikaian.

Babu mengatakan ini juga merupakan bagian dari alasan mengapa Google merilis fitur AI generatifnya kepada penguji tepercaya sebelum dipublikasikan.

“Sebelum kita masuk [general availability] Kami harus mengujinya dan memasukkannya ke pemeras bahkan untuk membawanya ke Labs [Google’s early user test program] Babu menjelaskan bahwa ini melewati banyak pengujian kegunaan yang ketat, pengujian kewajiban, dan pengujian keamanan sebelum kami membiarkan satu pengguna pihak ketiga mencobanya.

Penawaran AI generatif Google dan Microsoft secara khusus menunjukkan bahwa mereka sedang dalam tahap pengujian awal atau beberapa jawaban mungkin tidak akurat. Selain itu, AI generatif secara umum rentan terhadap “halusinasi”, yang pada dasarnya merupakan cara rumit untuk mengatakan bahwa AI dapat membentuk respons terhadap permintaan pengguna tertentu yang tampaknya akurat, tetapi salah.

Selama segmen “60 Menit”, chatbot Google Bard berhalusinasi tentang buku yang tidak ada. CEO Sundar Pichai menjelaskan selama klip bahwa masalahnya adalah salah satu yang dimiliki banyak chatbot saat ini dan para insinyur berusaha untuk lebih memahami.

Cerita berlanjut

Untuk itu, Babu mengatakan Google terus menguji sistemnya sebagai cara untuk mencegah jawaban yang salah atau tanggapan yang tidak pantas.

“AI yang bertanggung jawab dan aman, tidak lahir dalam semalam. Ini bertahun-tahun bekerja pada AI dan mencari tahu bagaimana melakukan pengujian permusuhan. Jadi pada dasarnya ada AI yang bertanggung jawab dan aman yang diuji dalam cara kami membuat produk ini.”

Satu masalah yang menurut Pappu unik untuk Workspace adalah bahwa itu digunakan oleh miliaran pengguna, masing-masing dengan pemahamannya sendiri tentang teknologi. Membawa fitur seperti AI generatif ke dalam persamaan tanpa membingungkan para pengguna ini adalah teka-teki tersendiri.

“Kami memiliki 3 miliar pengguna,” katanya. “Kami memiliki tanggung jawab untuk membuat hal-hal ini sangat sederhana dan mudah digunakan.”

oleh Daniel HollyEditor Teknis di Yahoo Finance. ikuti dia @karyawan

Klik di sini untuk berita pasar saham terbaru dan analisis mendalam, termasuk peristiwa yang menggerakkan saham

Baca berita keuangan dan bisnis terbaru dari Yahoo Finance