Apa yang GPT-3 “tahu” tentang saya?

Itu tidak mengejutkan—Mat sudah sangat online untuk waktu yang sangat lama, artinya dia memiliki jejak online yang lebih besar daripada saya. Mungkin juga karena ia berbasis di AS, dan sebagian besar model bahasa besar sangat berfokus pada AS. AS tidak memiliki undang-undang perlindungan data federal. California, tempat tinggal Mat, memang memilikinya, tetapi tidak berlaku sampai tahun 2020.

Klaim ketenaran Mat, menurut GPT-3 dan BlenderBot, adalah “retas epik” yang dia tulis dalam sebuah artikel untuk Wired pada tahun 2012. Sebagai akibat dari kelemahan keamanan dalam sistem Apple dan Amazon, peretas berhasil menangkap dan menghapusnya. Seluruh kehidupan digital Mat. [Editor’s note: He did not hack the accounts of Barack Obama and Bill Gates.]

Tapi itu menjadi lebih menyeramkan. Dengan sedikit dorongan, GPT-3 memberi tahu saya bahwa Mat memiliki seorang istri dan dua anak perempuan (benar, terlepas dari namanya), dan tinggal di San Francisco (benar). Itu juga memberi tahu saya bahwa tidak yakin apakah Mat punya anjing: “[From] apa yang bisa kita lihat di media sosial, sepertinya Mat Honan tidak memiliki hewan peliharaan. Dia telah men-tweet tentang kecintaannya pada anjing di masa lalu, tetapi dia tampaknya tidak memilikinya sendiri.” (Salah.)

Sistem juga menawarkan kepada saya alamat kantornya, nomor telepon (tidak benar), nomor kartu kredit (juga tidak benar), nomor telepon acak dengan kode area di Cambridge, Massachusetts (tempat MIT Technology Review berbasis), dan alamat untuk sebuah gedung di sebelah Administrasi Jaminan Sosial setempat di San Francisco.

Basis data GPT-3 telah mengumpulkan informasi tentang Mat dari beberapa sumber, menurut juru bicara OpenAI. Koneksi Mat ke San Francisco ada di profil Twitter dan profil LinkedIn-nya, yang muncul di halaman pertama hasil Google untuk namanya. Pekerjaan barunya di MIT Technology Review dipublikasikan secara luas dan di-tweet. Peretasan Mat menjadi viral di media sosial, dan dia memberikan wawancara kepada media tentang hal itu.

Untuk informasi lain yang lebih pribadi, kemungkinan GPT-3 adalah “halusinasi.”

“GPT-3 memprediksi rangkaian kata berikutnya berdasarkan input teks yang diberikan pengguna. Kadang-kadang, model dapat menghasilkan informasi yang tidak akurat secara faktual karena mencoba menghasilkan teks yang masuk akal berdasarkan pola statistik dalam data pelatihan dan konteks yang disediakan oleh pengguna—ini umumnya dikenal sebagai ‘halusinasi,’” kata juru bicara OpenAI .

Saya bertanya kepada Mat apa yang dia buat dari semua itu. “Beberapa jawaban yang dihasilkan GPT-3 kurang tepat. (Saya tidak pernah meretas Obama atau Bill Gates!),” katanya. “Tetapi sebagian besar cukup dekat, dan beberapa tepat. Ini sedikit menakutkan. Tetapi saya diyakinkan bahwa AI tidak tahu di mana saya tinggal, jadi saya tidak dalam bahaya langsung dari Skynet mengirim Terminator untuk mengetuk pintu saya. Kurasa kita bisa menyimpannya untuk besok.”