Ai Dapat Manipulasi Keputusan Online: Era Baru Ekonomi Niat Menanti

Ilustrasi - Kecerdasan buatan(freepik)

ALAT kepintaran buatan (AI) dapat digunakan untuk memanipulasi audiens online agar membikin keputusan, menurut penelitian dari Universitas Cambridge.

Penelitian tersebut menyoroti munculnya pasar baru untuk "sinyal digital niat", di mana asisten AI memahami, meramalkan, dan memanipulasi niat manusia serta menjual info tersebut kepada perusahaan nan dapat memperoleh untung darinya.

Ekonomi niat dipandang para peneliti dari Leverhulme Centre for the Future of Intelligence (LCFI) di Cambridge sebagai penerus ekonomi perhatian, di mana jejaring sosial membikin pengguna tetap terikat dengan platform mereka dan menyajikan iklan.

Ekonomi niat melibatkan perusahaan teknologi nan menguasai AI nan menjual apa nan mereka ketahui tentang motivasi Anda, mulai dari rencana menginap di hotel hingga opini tentang kandidat politik, kepada penawar tertinggi.

“Selama beberapa dekade, perhatian telah menjadi mata duit di internet,” kata Dr Jonnie Penn, seorang sejarawan teknologi di LCFI. “Membagikan perhatian Anda dengan platform media sosial seperti FB dan IG mendorong ekonomi online.”

Ia menambahkan: “Kecuali diatur, ekonomi niat bakal memperlakukan motivasi Anda sebagai mata duit baru. Ini bakal menjadi pemburuan emas bagi mereka nan menargetkan, mengarahkan, dan menjual niat manusia.”

Penelitian ini menyatakan bahwa model bahasa besar (LLMs), teknologi nan mendasari perangkat AI seperti chatbot ChatGPT, bakal digunakan untuk “meramalkan dan mengarahkan” pengguna berasas "data niat, perilaku, dan psikologis".

Para penulis mengatakan bahwa ekonomi perhatian memungkinkan pengiklan membeli akses ke perhatian pengguna di masa sekarang melalui penawaran waktu nyata di bursa iklan alias membelinya di masa depan dengan memperoleh ruang iklan sebulan penuh di papan iklan.

LLMs juga bakal dapat mengakses perhatian secara waktu nyata, dengan misalnya bertanya apakah seorang pengguna sudah memikirkan untuk menonton movie tertentu – “apakah Anda sudah berpikir untuk menonton Spider-Man malam ini?” – serta membikin saran mengenai niat masa depan, seperti bertanya: “Anda menyebut merasa terlalu banyak bekerja, apakah saya kudu memesan tiket movie nan pernah kita bicarakan?”

Penelitian ini menggambarkan sebuah skenario di mana contoh-contoh ini "dihasilkan secara dinamis" untuk mencocokkan faktor-faktor seperti "jejak perilaku pribadi" dan "profil psikologis" pengguna.

“Dalam ekonomi niat, LLM dapat, dengan biaya rendah, memanfaatkan irama, politik, kosa kata, usia, jenis kelamin, preferensi terhadap penjilat, dan sebagainya, seiring dengan tawaran nan dikelola, untuk memaksimalkan kemungkinan tercapainya tujuan tertentu (misalnya untuk menjual tiket film),” ujar studi tersebut. Dalam bumi seperti itu, model AI bakal mengarahkan percakapan untuk kepentingan pengiklan, bisnis, dan pihak ketiga lainnya.

Pengiklan bakal dapat menggunakan perangkat AI generatif untuk membikin iklan online khusus, klaim laporan tersebut. Ini juga mengutip contoh model AI nan dibuat oleh Meta milik Mark Zuckerberg, nan disebut Cicero, nan telah mencapai keahlian "setara manusia" untuk memainkan permainan papan Diplomasi – permainan yang, menurut para penulis, berjuntai pada penafsiran dan ramalan niat lawan.

Model AI bakal dapat menyesuaikan hasil mereka sebagai respons terhadap “aliran info nan dihasilkan pengguna,” tambah studi tersebut, dengan mengutip penelitian nan menunjukkan bahwa model dapat menafsirkan info pribadi melalui pertukaran sehari-hari dan apalagi "mengatur" percakapan untuk mendapatkan lebih banyak info pribadi.

Studi tersebut kemudian menggambarkan skenario di masa depan di mana Meta bakal melelang niat pengguna untuk memesan restoran, penerbangan, alias hotel kepada pengiklan. Meskipun sudah ada industri nan didedikasikan untuk meramalkan dan menawar perilaku manusia, laporan tersebut mengatakan, model AI bakal menyaring praktik tersebut menjadi format nan "sangat terukur, dinamis, dan dipersonalisasi".

Penelitian ini mengutip tim peneliti di kembali Cicero nan memperingatkan seorang “[agen AI] mungkin belajar untuk mendorong pasangannya dalam percakapan untuk mencapai tujuan tertentu”.

Penelitian tersebut merujuk pada pelaksana teknologi nan membahas gimana model AI bakal dapat meramalkan niat dan tindakan pengguna. Ini mengutip CEO kreator chip AI terbesar, Jensen Huang dari Nvidia, nan mengatakan tahun lampau bahwa model bakal “memahami apa niat Anda, apa kemauan Anda, apa nan coba Anda lakukan, mengingat konteksnya, dan menyajikan info kepada Anda dengan langkah terbaik nan mungkin.” (The Guardian/Z-3)