Berapa banyak yang harus kita berikan kepada Google, Facebook dan lain-lain untuk memberitahu kita apa yang perlu dipikirkan? Algoritma yang digunakan oleh enjin carian dan media sosial untuk menyerlahkan produk, berita, dan kepentingan sepatutnya mendapat perhatian segera, kata para ulama.

Algoritma adalah kepingan kod yang, seperti resipi, menyediakan satu set arahan untuk menyelesaikan tugas. Mereka digunakan oleh syarikat-syarikat seperti Google dan Facebook untuk menentukan hasil pencarian apa yang relevan dan catatan apa yang ditunjukkan dalam garis masa seseorang. Mereka digunakan untuk memeterai interaksi sosial, politik, peribadi dan komersil untuk berbilion-bilion orang dan boleh bertindak sebagai pengawal keselamatan yang semakin digunakan untuk membuat keputusan untuk kami atau tentang kami.

Isu etika yang dibangkitkan oleh semua ini adalah panas topik di Persidangan Global di CyberSpace di Den Haag minggu ini

[Bacaan lanjut: Pengesan kebocoran air rumah terbaik]

Algoritma yang digunakan untuk diikuti oleh orang sebagai satu set arahan. Orang boleh memilih untuk tidak mengikuti mereka, tetapi apabila mereka sepenuhnya diproses oleh komputer, tidak ada potensi untuk intervensi manusia, belas kasihan atau penghakiman, dan ini dapat menimbulkan masalah, para panelis menyatakan.

"Tidak ada algoritma yang netral, setiap algoritma didasarkan pada beberapa jenis ideologi yang tidak diketahui, "kata Kavé Salamatian, Profesor sains komputer di University of Savoie, Perancis.

Ini bermakna bahawa apa yang kita perlu menyemak falsafah dan premis ideologi orang yang menulis algoritma,

Ketelusan adalah kunci

Kunci untuk menangani algoritma adalah ketelusan daripada syarikat yang menggunakannya, kata Jillian York, pengarah dasar untuk kebebasan ungkapan untuk Electronic Frontier Foundation (EFF). Contohnya, Twitter memanipulasi algoritma topik trennya untuk memastikan beberapa perkara tidak berulang-ulang.

"Itulah sebabnya anda tidak melihat Justin Bieber setiap hari dan saya yakin kami semua sangat berterima kasih untuk itu. Tetapi ini juga mungkin bermasalah apabila anda mempunyai pergerakan sosial atau pergerakan politik yang sangat popular yang sebenarnya dalam pengertian tradisional, "yang berlaku apabila berjuta-juta dan berjuta-juta tweet tentang topik itu, katanya. Walaupun ini mungkin bukan penapisan, tentunya penindasan topik tertentu, katanya. Ia mungkin tidak semestinya berlaku kerana alasan jahat, tetapi boleh menyebabkan bola sepak malam Isnin menjadi acara yang lebih "popular" di mata syarikat media sosial daripada pergerakan sosial, dan ini boleh dilihat pada dasarnya seperti penapisan, katanya.

York menyumbang kepada laporan tentang etika algoritma yang disediakan untuk persidangan CyberSpace oleh Pusat Internet dan Hak Asasi Manusia (CIHR). Laporan itu memberi isyarat bahawa kelajuan perkembangan teknologi, serta insentif korporat dan kerajaan, telah membayangi perbincangan segera tentang etika dan akauntabiliti infrastruktur pengambilan keputusan baru ini. Memastikan algoritma tersebut sejajar dengan piawaian hak asasi manusia akan menjadi satu cabaran bagi syarikat dan kerajaan pada tahun-tahun akan datang, kata laporan itu.

Masalah dengan algoritma mungkin lebih dekat ke rumah daripada yang anda fikirkan. Sebagai contoh, Mattel sedang membangunkan anak patung Barbie yang baru, yang dipanggil Hello Barbie, yang akan dapat mengadakan perbualan dengan memproses dialog kanak-kanak di sekelilingnya. Pemprosesan ini dilakukan oleh algoritma dalam awan yang digunakan untuk menghantar balasan kembali. Ini bermakna setiap keluarga yang mempunyai anak patung seperti ini mempunyai mikrofon yang disambungkan ke Internet dalam perbualan rumah, kata Frank LaRue, Pengarah Operasi Eropah di Robert F. Kennedy Centre for Justice and Human Rights.

"Adakah ini beretika atau tidak? Saya tidak akan berkata, "kata LaRue. Membolehkan anak patung tersebut menjadi keluarga, dengan cara yang sama, juga membolehkan algoritma untuk mengganggu proses pemikiran dan perbincangan kita. Ini bermakna bahawa dalam peringkat kehidupan yang paling asas, kanak-kanak boleh dikondisikan dengan apa yang algoritma menentukan untuk menggunakan bahasa yang betul dan aliran perbualan yang biasa, katanya. "Saya fikir ini bukan sahaja pelanggaran etika yang serius tetapi juga pelanggaran hak asasi manusia yang serius, pelanggaran privasi dan pelanggaran kebebasan bersuara," katanya.

Swaying opinion

Terdapat pelbagai cara algoritma boleh mempengaruhi orang, pembesar suara di persidangan itu berkata. Pilihan yang dibuat oleh algoritma juga berpotensi mempengaruhi pilihan raya dengan menunjukkan beberapa jenis cerita tentang calon lebih kerap daripada cerita tentang yang lain. Algoritma yang digunakan untuk menghalang kandungan yang berkaitan dengan keganasan boleh, pada masa yang sama, secara tidak sengaja membuang berita berita mengenai keganasan dari garis masa orang.

Pemikiran bahawa algoritma perubahan pada garis masa Facebook mempunyai pengaruh yang besar pada orang tidak begitu aneh kerana ia mungkin kelihatan . Facebook tahun lepas misalnya menjalankan eksperimen psikologi kontroversi pada hampir 700,000 pengguna untuk menentukan apa kesan perubahan dalam algoritma suapan beritanya terhadap perasaan orang ramai. Percubaan itu, kumpulan hak privasi digital Pusat Maklumat Privasi Elektronik berkata, "sengaja merosakkan fikiran orang."

Persoalannya, bagaimanapun, adalah apa yang perlu dilakukan untuk mengelakkan masalah yang timbul daripada teknologi yang sedang berkembang pesat. Mungkin ketelusan boleh membantu, tetapi adakah itu cukup?

Syarikat mungkin teragak-agak untuk berkongsi maklumat mengenai algoritma mereka, kata Richard Allan, pengarah dasar Facebook untuk Eropah, Timur Tengah dan Afrika, yang mengatakan soalan besar untuk Facebook adalah sama ada ia akan berasa bebas untuk menjadi telus mengenai pilihan algoritmanya.

"Adakah akan ada ruang di mana kita boleh mempunyai perbualan ini? Atau adakah akan menjadi kes yang setiap kali kita akan menerbitkan sesuatu atau terlibat dengan penyelidik luar, kita akan mengalami ribut seperti di media dan jenama kita semakin rosak sehingga naluri kita akan tutup dan tutupnya? "katanya.

Walau demikian, prinsip-prinsip am yang berasaskan algoritma harus di luar sana, kata panelis. Ini sudah tentu setakat dengan algoritma suapan berita pada masa ini tetapi boleh dilanjutkan pada masa akan datang, kata Allan. Walau bagaimanapun, perlu pergi ke detail terperinci intim satu algoritma yang boleh menjadi perkara lain. Jika ada sistem yang memerlukan kelulusan semacam untuk setiap perubahan yang dibuat, terdapat jelas kemungkinan konflik dengan syarikat teknologi persekitaran yang bergerak pantas, katanya. Syarikat sepatutnya dapat membuat perubahan pada platform mereka tanpa melalui beberapa proses pengawalseliaan setiap masa, tegasnya.

Menguatkuasakan persaingan

Isu ini bukan sekadar akademik. Pada hari Khamis, sebagai contoh, senator Perancis meminda rang undang-undang ekonomi dengan ketat yang memerlukan Google untuk mengiklankan tiga pesaing di laman webnya. Rang undang-undang itu berhenti daripada menghendaki enjin carian untuk mendedahkan algoritmanya, tetapi memerlukan enjin carian yang kuat dari segi ekonomi untuk memberikan maklumat tentang bagaimana mereka mengklasifikasikan atau mengindeks laman web.

Mengatur algoritma dalam beberapa cara boleh menjadi pilihan sekalipun. Biro Perlindungan Pengguna Suruhanjaya Perdagangan A.S. baru-baru ini menubuhkan Pejabat Penyelidikan dan Penyiasatan Teknologi, yang akan meneliti isu ketelusan algoritma. Tindakan pengawalseliaan tidak sepatutnya dalam agenda, tetapi FTC berminat bagaimana algoritma beroperasi, insentif apa di belakangnya, data apa yang digunakan dan bagaimana ia disusun.

Di beberapa bidang seperti kewangan, di mana secara automatik sistem perdagangan berkelajuan tinggi mempunyai kesan yang boleh menyebabkan ketidakstabilan di pasaran kewangan, peraturan algoritma telah dibincangkan, kata laporan CIHR mengenai etika algoritma. Pemeriksaan serupa sama ada untuk mengawal algoritma boleh dilihat dalam pasaran carian dalam talian. Walaupun pengawal selia belum mengeluarkan peraturan mengenai algoritma Google, penyiasatan ke dalam kedudukan pasaran dominan enjin pencarian berputar tepat di sekitar soalan ini, kata laporan itu.

"Meningkatnya kepentingan algoritma menimbulkan banyak kekeliruan etika, yang sebahagiannya melibatkan isu-isu dasar kawal selia," kata penulis. "Persoalan-persoalan ini dan lebih patut perhatian mendesak dan mendalam oleh semua orang yang mengambil berat tentang bentuk masa depan masyarakat manusia."