Bagaimana Netflix tahu saya gay sebelum saya melakukannya?

Setelah reporter BBC Ellie House keluar sebagai gay, dia menyadari Netflix sepertinya sudah tahu. Bagaimana ini bisa terjadi?

Saya menyadari bahwa saya biseksual pada tahun kedua saya di perguruan tinggi, tetapi Big Tech tampaknya berhasil melakukannya beberapa bulan sebelumnya.

Saya punya satu pacar jangka panjang sebelumnya, dan saya selalu menganggap diri saya jujur. Sejujurnya, berkencan bukanlah agenda utama saya.

Namun, saat itu saya sering menonton Netflix dan mendapatkan lebih banyak rekomendasi untuk serial dengan alur cerita lesbian atau karakter bi.

Ini adalah serial TV yang tidak direkomendasikan atau didengar oleh teman-teman saya — orang-orang dengan usia yang sama, latar belakang yang sama, riwayat siaran yang sama.

Salah satu pertunjukan yang diadakan berjudul You Me Her, tentang pasangan pinggiran kota yang menyambut orang ketiga dalam hubungan mereka. Dipenuhi dengan cerita-cerita unik dan karakter ganda, itu telah digambarkan sebagai “komedi multi-romantis pertama” televisi.

Bukan hanya Netflix. Segera setelah itu, saya melihat rekomendasi serupa di beberapa platform. Spotify menyarankan daftar putar yang digambarkannya sebagai “sapphic” — sebuah kata untuk menggambarkan wanita yang mencintai wanita.

Setelah dua bulan di TikTok, saya mulai melihat video di umpan saya dari pembuat konten biseksual.

Setelah beberapa bulan, saya menyadari bahwa saya sendiri adalah seorang biseksual.

Tanda-tanda apa yang dibaca oleh platform teknologi ini yang tidak saya perhatikan sendiri?

Netflix memiliki 222 juta pengguna di seluruh dunia dan ribuan film dan serial tersedia untuk streaming di berbagai genre. Tetapi setiap pengguna individu hanya akan melakukan streaming rata-rata Enam jenis sebulan.

Untuk menunjukkan kepada Anda konten yang menurutnya ingin ditonton orang, Netflix menggunakan sistem rekomendasi yang kuat. Jaringan algoritme ini membantu mengidentifikasi video, gambar, dan iklan yang mengisi beranda pengguna.

Misalnya, You Me Her telah ditandai dengan kode genre “100010” — atau “LGBTQ+ Stories” di mata manusia.

Tujuan dari sistem rekomendasi adalah untuk mengawinkan orang yang menggunakan platform dengan konten.

Alat pencocokan digital ini mengambil informasi dari kedua sisi dan memplot koneksi. Hal-hal seperti genre lagu, tema yang dieksplorasi dalam film, atau aktor yang ditampilkan dalam acara TV dapat dibedakan. Berdasarkan hal tersebut, algoritme akan memprediksi siapa yang kemungkinan akan berurusan dengan apa.

“Big data adalah gunung yang sangat besar ini,” kata mantan CEO Netflix Todd Yellen. Dalam video situs tersebut Masa depan mendongeng. “Melalui teknik pembelajaran mesin yang canggih, kami mencoba mencari tahu — apa saja tanda-tanda pentingnya?”

Tapi apa yang diketahui platform ini tentang penggunanya — dan bagaimana mereka menemukannya?

Di bawah undang-undang privasi data Inggris Raya, individu memiliki hak untuk mengetahui data apa yang dimiliki organisasi tentang mereka. Banyak perusahaan penyiaran dan media sosial telah membuat sistem otomatis bagi pengguna untuk meminta informasi ini.

Saya mengunduh semua informasi saya dari delapan platform terbesar. Facebook melacak situs web lain yang saya kunjungi, termasuk alat pembelajaran bahasa dan situs daftar hotel. Itu juga berisi koordinat alamat rumah saya, dalam folder berjudul “Location”.

Instagram memiliki daftar lebih dari 300 topik berbeda yang menurutnya akan saya minati, yang saya gunakan untuk iklan yang dipersonalisasi.

Netflix mengirimi saya spreadsheet yang merinci setiap trailer dan acara yang saya tonton, kapan, di perangkat apa, dan apakah itu diputar secara otomatis atau jika saya memilihnya.

Tidak ada bukti bahwa salah satu dari platform ini menandai sesuatu yang berhubungan dengan seksualitas saya. Dalam sebuah pernyataan kepada BBC, Spotify mengatakan: “Kebijakan privasi kami menguraikan data yang dikumpulkan Spotify tentang penggunanya, yang tidak termasuk orientasi seksual. Selain itu, algoritme kami tidak membuat prediksi tentang orientasi seksual berdasarkan preferensi mendengarkan pengguna.”

Platform lain memiliki kebijakan serupa. Netflix memberi tahu saya bahwa apa yang ditonton pengguna dan bagaimana mereka berinteraksi dengan aplikasi adalah prediktor selera mereka yang lebih baik daripada data demografis, seperti usia atau jenis kelamin.

“Tidak ada yang secara eksplisit memberi tahu Netflix bahwa mereka gay,” kata Greg Serapio Garcia, seorang mahasiswa PhD di University of Cambridge yang berspesialisasi dalam psikologi sosial komputasi. Namun platform tersebut dapat melihat pengguna yang menyukai “konten gay”.

Pengguna tidak perlu melakukan streaming konten yang ditandai LGBT+ sebelumnya untuk menerima saran ini. Sistem rekomendasi lebih dalam dari ini.

Menurut Gregg, salah satu kemungkinannya adalah menonton film dan acara TV tertentu yang tidak khusus LGBTQ+ dapat membantu algoritme memprediksi “kecenderungan Anda untuk menyukai konten gay”.

Apa yang ditonton seseorang hanyalah bagian dari persamaan; Seringkali, cara seseorang menggunakan platform bisa lebih jitu.

Detail lainnya juga dapat digunakan untuk membuat prediksi tentang pengguna – misalnya, berapa persentase waktu yang mereka habiskan untuk menonton terus-menerus, atau apakah mereka menelusuri kredit.

Menurut Gregg, kebiasaan ini mungkin tidak berarti apa-apa dengan sendirinya, tetapi jika digabungkan dengan jutaan pengguna, mereka dapat digunakan untuk membuat “prediksi yang sangat spesifik”.

Jadi mungkin algoritme Netflix memprediksi minat saya pada cerita LGBT+ bukan hanya berdasarkan apa yang pernah saya tonton sebelumnya. Itu juga terlihat ketika saya mengkliknya, dan bahkan perangkat apa yang saya tonton dan kapan.

Bagi saya, ini masalah keingintahuan, tetapi di negara-negara yang melarang homoseksualitas, menurut Greg hal itu berpotensi membahayakan orang.

Berbicara dengan orang-orang LGBT+ di seluruh dunia, saya mendengar pesan yang beragam. Di sisi lain, mereka sering menyukai apa yang mereka rekomendasikan di situs streaming – mungkin mereka melihatnya sebagai sesuatu yang membebaskan.

Tapi di sisi lain, mereka gelisah.

“Saya merasa ini adalah gangguan terhadap privasi kami,” kata seorang pria gay (kami menjaga anonimitasnya untuk keselamatannya) kepada saya.

“Ini memberi Anda sedikit lebih banyak pengetahuan tentang seperti apa hidup Anda jika gratis. Dan itu terasa menyenangkan dan menyenangkan.” Tapi, tambahnya, algoritme “benar-benar membuat saya sedikit takut”.