AI dapat memprediksi dan menjual keinginan Anda sebelum Anda menyadarinya

“Ekonomi niat” yang muncul memanfaatkan AI untuk memperkirakan dan memengaruhi keputusan, mengkomodifikasi motivasi manusia. Peneliti Cambridge memperingatkan risiko etis, termasuk manipulasi dan ancaman terhadap demokrasi, mendesak peraturan untuk mencegah penyalahgunaan.

Asisten AI dapat segera memainkan peran penting dalam memprediksi dan membentuk keputusan kami pada tahap awal, menjual “niat” yang muncul secara real-time ini kepada perusahaan yang siap untuk memenuhi kebutuhan kami-kadang-kadang bahkan sebelum secara sadar kami mengambil keputusan.

Konsep ini, yang dikenal sebagai “Ekonomi Niat,” disorot oleh ahli etika AI di University of Cambridge. Mereka memperingatkan pasar yang berkembang dan berpotensi meresahkan di mana sinyal digital niat – beralih dari membeli tiket film hingga memberikan suara – menjadi sangat menguntungkan.

Para ahli dari Cambridge's Leverhulme Center for the Future of Intelligence (LCFI) menunjukkan bahwa pertumbuhan cepat AI generatif dan ketergantungan kami yang meningkat pada chatbots menandai awal era baru “teknologi persuasif.” Perkembangan ini, mereka mencatat, selaras dengan gerakan strategis baru -baru ini oleh perusahaan teknologi besar, mengisyaratkan potensi yang berkembang dari bidang yang muncul ini.

Agen AI “Anthropomorphic”, dari asisten chatbot hingga tutor dan pacar digital, akan memiliki akses ke sejumlah besar data psikologis dan perilaku intim, sering kali diperoleh melalui dialog lisan yang diucapkan secara informal.

AI ini akan menggabungkan pengetahuan tentang kebiasaan online kita dengan kemampuan luar biasa untuk menyesuaikan diri dengan kita dengan cara yang kita anggap menghibur – meniru kepribadian dan mengantisipasi tanggapan yang diinginkan – untuk membangun tingkat kepercayaan dan pemahaman yang memungkinkan manipulasi sosial pada skala industri, kata para peneliti.

Kekhawatiran etis tentang manipulasi AI

“Sumber daya yang luar biasa dikeluarkan untuk memposisikan asisten AI di setiap bidang kehidupan, yang seharusnya menimbulkan pertanyaan tentang minat dan tujuan yang disebut asisten ini dirancang untuk melayani,” kata sarjana tamu LCFI Dr. Yaqub Chaudhary.

“Apa yang orang katakan ketika bercakap-cakap, bagaimana mereka mengatakannya, dan jenis kesimpulan yang dapat dibuat secara real-time sebagai hasilnya, jauh lebih intim daripada hanya catatan interaksi online.”

“Kami memperingatkan bahwa alat AI sudah dikembangkan untuk memperoleh, menyimpulkan, mengumpulkan, mencatat, memahami, memperkirakan, dan akhirnya memanipulasi dan mengkomodifikasi rencana dan tujuan manusia.”

Jonnie Penn, sejarawan teknologi dari LCFI Cambridge, mengatakan: “Selama beberapa dekade, perhatian telah menjadi mata uang Internet. Berbagi perhatian Anda dengan platform media sosial seperti Facebook dan Instagram mendorong ekonomi online. “

“Kecuali diatur, ekonomi niat akan memperlakukan motivasi Anda sebagai mata uang baru. Ini akan menjadi demam emas bagi mereka yang menargetkan, mengarahkan, dan menjual niat manusia. ”

“Kita harus mulai mempertimbangkan dampak yang mungkin terjadi pada pasar seperti itu terhadap aspirasi manusia, termasuk pemilihan yang bebas dan adil, pers bebas, dan persaingan pasar yang adil, sebelum kita menjadi korban konsekuensi yang tidak diinginkan.”

Dalam yang baru Tinjauan Ilmu Data Harvard Paper, Penn dan Chaudhary menulis bahwa ekonomi niat akan menjadi perhatian ekonomi “diplot dalam waktu”: profil bagaimana perhatian pengguna dan gaya komunikatif terhubung dengan pola perilaku dan pilihan yang akhirnya kita buat.

“Sementara beberapa niat cepat, mengklasifikasikan dan menargetkan niat yang bertahan akan sangat menguntungkan bagi pengiklan,” kata Chaudhary.

Dalam ekonomi niat, model bahasa besar atau LLM dapat digunakan untuk menargetkan, dengan biaya rendah, irama pengguna, politik, kosa kata, usia, jenis kelamin, sejarah online, dan bahkan preferensi untuk pujian dan ingatiasi, menulis para peneliti.

Pengumpulan informasi ini akan dikaitkan dengan jaringan penawaran yang ditengahi untuk memaksimalkan kemungkinan mencapai tujuan yang diberikan, seperti menjual perjalanan bioskop (“Anda menyebutkan terlalu banyak bekerja, haruskah saya memesan tiket film yang telah kita bicarakan?”).

Ini bisa termasuk mengarahkan percakapan dalam pelayanan platform tertentu, pengiklan, bisnis, dan bahkan organisasi politik, berdebat Penn dan Chaudhary.

Sementara para peneliti mengatakan ekonomi niat saat ini merupakan “aspirasi” untuk industri teknologi, mereka melacak tanda -tanda awal tren ini melalui penelitian yang diterbitkan dan petunjuk yang dijatuhkan oleh beberapa pemain teknologi utama.

Indikator awal ekonomi niat

Ini termasuk panggilan terbuka untuk “data yang mengungkapkan niat manusia … di semua bahasa, topik, dan format apa pun” dalam blogpost openai 2023, sementara direktur produk di Shopify – mitra openai – berbicara tentang chatbots yang datang “untuk secara eksplisit mendapatkan niat pengguna ”di konferensi pada tahun yang sama.

CEO Nvidia telah berbicara secara publik tentang menggunakan LLM untuk mencari tahu niat dan keinginan, sementara Meta merilis penelitian “Intentonomi”, dataset untuk pemahaman niat manusia, pada tahun 2021.

In 2024, Apple's new “App Intents” developer framework for connecting apps to Siri (Apple's voice-controlled personal assistant), includes protocols to “predict actions someone might take in future” and “to suggest the app intent to someone in the future using prediksi Anda [the developer] menyediakan”.

“Agen AI seperti Meta's Cicero dikatakan mencapai permainan tingkat manusia dalam diplomasi permainan, yang tergantung pada menyimpulkan dan memprediksi niat, dan menggunakan dialog persuasif untuk memajukan posisi seseorang,” kata Chaudhary.

“Perusahaan -perusahaan ini sudah menjual perhatian kami. Untuk mendapatkan tepi komersial, langkah logis berikutnya adalah dengan menggunakan teknologi yang mereka kembangkan dengan jelas untuk memperkirakan niat kita, dan menjual keinginan kita sebelum kita bahkan memahami sepenuhnya apa adanya. ”

Penn menunjukkan bahwa perkembangan ini tidak selalu buruk, tetapi berpotensi merusak. “Kesadaran publik tentang apa yang akan datang adalah kunci untuk memastikan kita tidak menempuh jalan yang salah,” katanya.

Referensi: “Waspadalah Ekonomi Niat: Pengumpulan dan Komodifikasi Niat Melalui Model Bahasa Besar” oleh Yaqub Chaudhary dan Jonnie Penn, 30 Desember 2024, Harvard Data Science Review.
Doi: 10.1162/99608f92.21e6bbaa