Jadi untuk pertanyaan pertama Anda, saya pikir Anda benar. Bahwa pembuat kebijakan harus benar-benar mendefinisikan pagar pembatas, tetapi saya tidak berpikir mereka perlu melakukannya untuk semuanya. Saya pikir kita perlu memilih area yang paling sensitif. Uni Eropa menyebut mereka berisiko tinggi. Dan mungkin kita dapat mengambil dari itu, beberapa model yang membantu kita berpikir tentang apa yang berisiko tinggi dan di mana kita harus menghabiskan lebih banyak waktu dan berpotensi sebagai pembuat kebijakan, di mana kita harus menghabiskan waktu bersama?
Saya penggemar berat kotak pasir peraturan dalam hal desain bersama dan evolusi bersama dari umpan balik. Uh, saya punya artikel yang keluar di buku pers Universitas Oxford tentang sistem peringkat berbasis insentif yang bisa saya bicarakan sebentar lagi. Tetapi saya juga berpikir di sisi lain bahwa Anda semua harus memperhitungkan risiko reputasi Anda.
Saat kita memasuki masyarakat yang jauh lebih maju secara digital, pengembang juga berkewajiban untuk melakukan uji tuntas mereka. Anda tidak mampu sebagai perusahaan untuk keluar dan menempatkan algoritma yang Anda pikirkan, atau sistem otonom yang menurut Anda adalah ide terbaik, dan kemudian mendarat di halaman pertama surat kabar. Karena apa yang dilakukannya adalah menurunkan kepercayaan oleh konsumen Anda terhadap produk Anda.
Jadi apa yang saya katakan, Anda tahu, kedua belah pihak adalah bahwa saya pikir itu layak untuk dibicarakan di mana kita memiliki pagar pembatas tertentu dalam hal teknologi pengenalan wajah, karena kita tidak memiliki akurasi teknis ketika itu berlaku untuk semua populasi. Dalam hal dampak yang berbeda pada produk dan layanan keuangan. Ada model hebat yang saya temukan dalam pekerjaan saya, di industri perbankan, di mana mereka sebenarnya memiliki pemicu karena mereka memiliki badan pengatur yang membantu mereka memahami proxy apa yang sebenarnya memberikan dampak berbeda . Ada area yang baru saja kita lihat di pasar perumahan dan penilaian, di mana AI digunakan untuk semacam, um, menggantikan pengambilan keputusan subjektif, tetapi berkontribusi lebih pada jenis diskriminasi dan penilaian predator yang kita lihat. Ada kasus-kasus tertentu bahwa kita sebenarnya membutuhkan pembuat kebijakan untuk memberlakukan pagar pembatas, tetapi lebih dari itu harus proaktif. Saya selalu memberi tahu pembuat kebijakan, Anda tidak bisa menyalahkan ilmuwan data. Jika datanya mengerikan.
Anthony Hijau: Benar.
Nicol Turner Lee: Sisihkan lebih banyak uang untuk R dan D. Bantu kami membuat kumpulan data yang lebih baik yang terwakili secara berlebihan di area tertentu atau kurang terwakili dalam hal populasi minoritas. Kuncinya, harus bekerja sama. Saya tidak berpikir bahwa kita akan memiliki solusi kemenangan yang baik jika pembuat kebijakan benar-benar, Anda tahu, memimpin ini atau ilmuwan data memimpinnya sendiri di area tertentu. Saya pikir Anda benar-benar membutuhkan orang-orang yang bekerja sama dan berkolaborasi dalam prinsip-prinsip itu. Kami membuat model ini. Komputer tidak. Kami tahu apa yang kami lakukan dengan model ini saat kami membuat algoritme atau sistem otonom atau penargetan iklan. Kita tahu! Kami di ruangan ini, kami tidak bisa duduk dan berkata, kami tidak mengerti mengapa kami menggunakan teknologi ini. Kami tahu karena mereka sebenarnya memiliki preseden tentang bagaimana mereka telah diperluas di masyarakat kita, tetapi kita membutuhkan akuntabilitas. Dan itulah yang benar-benar saya coba dapatkan. Siapa yang membuat kami bertanggung jawab atas sistem yang kami buat ini?
Sangat menarik, Anthony, beberapa minggu terakhir ini, karena banyak dari kita telah menyaksikan, eh, konflik di Ukraina. Putri saya, karena saya memiliki anak berusia 15 tahun, telah datang kepada saya dengan berbagai TikToks dan hal-hal lain yang dia lihat untuk mengatakan, “Hei ibu, tahukah Anda bahwa ini sedang terjadi?” Dan saya harus menarik diri saya kembali karena saya benar-benar terlibat dalam percakapan, tidak mengetahuinya dalam beberapa hal, begitu saya menempuh jalan itu bersamanya. Aku pergi lebih dalam dan lebih dalam dan lebih dalam ke dalam sumur itu.
Anthony Hijau: Ya.
About the Author
