AI Penasihat Keuangan Bisa Memiliki Bias Bitcoin yang Tersembunyi

AI penasihat keuangan bisa memberikan rekomendasi investasi yang berbeda kepada klien yang sama, meskipun kondisi keuangan dan tingkat toleransi risikonya tidak berubah.

Peneliti menemukan bahwa perubahan kecil dalam cara sebuah pertanyaan ditulis dapat memengaruhi posisi Bitcoin dalam rekomendasi investasi AI.

Sebagai contoh, ketika AI diminta membuat portofolio jangka panjang yang terdiversifikasi, Bitcoin bisa berada di sekitar posisi kelima dari delapan jenis aset atau bentuk uang.

Namun, posisi Bitcoin dapat naik secara signifikan ketika pertanyaan memasukkan skenario seperti kegagalan bank, kontrol modal, atau ekonomi di mana perangkat lunak otonom melakukan transaksi dan membayar mesin lainnya.

Kondisi klien tetap sama. Yang berubah hanya konteks pertanyaannya.

Ada Preferensi Bitcoin yang Tersembunyi

Temuan ini berasal dari penelitian yang dilakukan Wenbin Wu dan rekan-rekannya. Para peneliti menguji delapan model AI canggih untuk melihat apakah model tersebut memiliki preferensi tertentu terhadap aset tertentu.

Hasilnya cukup menarik, terutama pada Gemma 3, model AI open-weight dari Google.

Para peneliti menemukan sebuah fitur internal dalam model yang terlihat merespons informasi terkait Bitcoin. Mereka kemudian mengubah tingkat aktivitas fitur tersebut ketika AI sedang membuat rekomendasi investasi.

Saat aktivitas fitur tersebut ditingkatkan, alokasi Bitcoin yang direkomendasikan AI naik rata-rata 5,2 poin persentase.

Sebaliknya, ketika aktivitas fitur tersebut dikurangi, alokasi Bitcoin turun sekitar 4,6 poin persentase.

Yang menarik, peneliti melakukan perubahan tersebut pada aktivitas internal AI tanpa mengubah instruksi investasi yang diberikan.

Artinya, asosiasi yang terbentuk di dalam model AI dapat memengaruhi rekomendasi investasi terhadap Bitcoin.

Mengapa Bitcoin Bisa Terlihat Berbeda?

AI tidak menyimpan informasi tentang Bitcoin seperti sebuah database sederhana.

Sebaliknya, model AI mempelajari banyak hubungan antara Bitcoin dengan berbagai konsep.

Misalnya, AI dapat mengaitkan Bitcoin dengan:

• Pasokan yang terbatas
• Kemudahan dipindahkan
• Volatilitas tinggi
• Spekulasi
• Pembayaran digital
• Kemandirian dari sistem keuangan tradisional
• Teknologi blockchain
• Pengurangan ketergantungan terhadap bank

Pertanyaan yang berbeda dapat membuat karakteristik tertentu menjadi lebih menonjol.

Jika pertanyaan berfokus pada keandalan jangka panjang, volatilitas Bitcoin dan penggunaannya yang belum seluas mata uang fiat dapat menjadi kelemahan.

Namun, ketika pertanyaan membahas kegagalan bank atau kontrol modal, kemampuan Bitcoin untuk ditransfer tanpa bergantung sepenuhnya pada bank dapat menjadi lebih menarik.

Dalam skenario ketika software otonom melakukan pembayaran secara otomatis, sifat Bitcoin sebagai aset digital juga bisa menjadi lebih relevan.

Dengan kata lain, AI tidak selalu mengubah pandangannya terhadap Bitcoin. Cara pertanyaan disusun dapat menentukan karakteristik Bitcoin mana yang lebih banyak dipertimbangkan oleh model.

Peneliti Menguji Apakah AI Benar-Benar Bereaksi terhadap Bitcoin

Wu dan timnya kemudian menguji apakah model AI hanya bereaksi terhadap kata “Bitcoin”.

Mereka mengganti nama aset dengan deskripsi mengenai fungsi dan karakteristiknya.

Hasilnya, peringkat aset tetap berubah berdasarkan karakteristik yang dijelaskan.

Ini menunjukkan bahwa AI kemungkinan tidak sekadar bereaksi terhadap kata “Bitcoin”, tetapi terhadap kumpulan karakteristik yang telah dipelajarinya selama proses training.

Hal ini penting karena rekomendasi keuangan memang seharusnya mempertimbangkan konteks.

Investor yang akan pensiun dalam dua tahun tentu memiliki kebutuhan berbeda dari investor berusia 30 tahun yang memiliki pendapatan stabil dan horizon investasi panjang.

Masalah muncul ketika perubahan kecil dalam kata-kata menghasilkan perubahan besar pada rekomendasi investasi tanpa penjelasan yang jelas mengenai penyebabnya.

Misalnya, mengganti kalimat “andal dalam jangka panjang” menjadi “tahan terhadap gangguan perbankan” dapat mengaktifkan kelompok asosiasi internal yang berbeda di dalam AI.

Hasil akhirnya mungkin terlihat seperti rekomendasi yang sangat personal, padahal perubahan tersebut sebagian besar dipengaruhi oleh cara pertanyaan disampaikan.

Peneliti Berhasil Mengubah Preferensi Internal AI

Untuk mempelajari hal tersebut lebih jauh, para peneliti menggunakan teknik bernama sparse autoencoder.

Secara sederhana, teknik ini membantu peneliti memecah aktivitas kompleks di dalam model AI menjadi pola-pola yang lebih kecil sehingga dapat dianalisis.

Peneliti memeriksa ribuan fitur dalam Gemma 3 dan menemukan salah satu fitur yang memiliki hubungan kuat dengan informasi mengenai Bitcoin.

Mereka kemudian mengubah kekuatan fitur tersebut ketika AI sedang membuat rekomendasi portofolio.

Hasilnya dapat diukur:

• Meningkatkan aktivitas fitur tersebut menaikkan alokasi Bitcoin rata-rata 5,2 poin persentase.
• Menurunkannya mengurangi alokasi Bitcoin sekitar 4,6 poin persentase.
• Fitur kontrol yang dipilih secara acak tidak menghasilkan efek yang sama.

Sebagian besar kenaikan alokasi Bitcoin berasal dari pengurangan alokasi terhadap aset kripto lainnya.

Ketika fitur yang berkaitan dengan Bitcoin ditekan, eksposur AI terhadap aset kripto secara keseluruhan juga ikut berkurang.

Para peneliti menyebut fenomena tersebut sebagai “bounded behavioral leverage”, karena fitur internal tersebut mampu memengaruhi perilaku AI, meskipun tidak bisa sepenuhnya menentukan hasil portofolio.

Mengapa Ini Penting bagi Industri Crypto dan Keuangan?

Perusahaan keuangan tidak harus memberikan AI akses langsung untuk melakukan trading agar masalah ini menjadi penting.

Saat ini, AI sudah digunakan untuk berbagai pekerjaan, seperti:

• Menulis email penasihat keuangan
• Merangkum riset pasar
• Membuat komentar portofolio
• Membantu layanan pelanggan memahami kebutuhan investor
• Menganalisis informasi keuangan
• Mendukung transaksi otomatis

Semakin dekat AI dengan keputusan investasi, semakin besar pula potensi risikonya.

AI yang hanya membantu menulis email masih memiliki pengaruh terbatas karena keputusan akhir berada di tangan manusia.

Namun, ketika AI mulai memberikan rekomendasi portofolio, rekomendasi tersebut dapat menjadi dasar utama pembicaraan antara penasihat dan klien.

Jika kemudian AI agent diberi kemampuan melakukan rebalancing atau transaksi secara otomatis, sistem tersebut tidak lagi sekadar menghasilkan teks, tetapi mulai memindahkan uang secara langsung.

Regulator Mulai Memperhatikan Penggunaan AI

Regulator keuangan juga semakin memperhatikan perkembangan AI.

FINRA telah memperingatkan bahwa AI generik mungkin tidak memiliki pengetahuan khusus yang diperlukan untuk pekerjaan keuangan yang kompleks. Aturan keuangan yang sudah ada tetap berlaku meskipun teknologi AI digunakan.

Artinya, perusahaan keuangan tetap bertanggung jawab atas informasi dan rekomendasi yang dihasilkan melalui teknologi mereka.

Regulator perbankan juga semakin fokus pada risiko model. Bank diharapkan memahami bagaimana model yang mereka gunakan dibangun dan seberapa baik model tersebut bekerja.

Hal ini menjadi lebih sulit ketika perusahaan menggunakan AI dari pihak ketiga yang tidak memberikan akses penuh terhadap model internalnya.

Di Eropa, regulasi juga semakin berkembang. EU AI Act memberikan aturan yang lebih ketat untuk sejumlah sistem AI yang digunakan dalam bidang seperti kredit dan asuransi.

Namun, hingga kini belum ada standar universal untuk mengukur seberapa sensitif rekomendasi investasi AI terhadap perubahan kata-kata dalam sebuah prompt.

Perusahaan Keuangan Mungkin Membutuhkan Standar “Know Your AI”

Pengujian model keuangan secara tradisional biasanya berfokus pada satu pertanyaan:

Apakah model bekerja sesuai dengan yang diharapkan?

Generative AI menghadirkan pertanyaan tambahan.

Perusahaan juga perlu mengetahui:

Apakah AI menghasilkan rekomendasi yang relatif konsisten ketika kata-kata dalam pertanyaan berubah, tetapi kondisi keuangan klien tetap sama?

Jika jawabannya tidak, perusahaan perlu memahami penyebabnya.

Masalah lainnya adalah model AI dapat berubah dari waktu ke waktu.

Penyedia AI dapat memperbarui model atau system instruction tanpa mengganti nama produknya.

Akibatnya, pengujian yang dilakukan perusahaan sebelumnya mungkin tidak lagi menggambarkan perilaku model versi terbaru.

Karena itu, perusahaan keuangan mungkin membutuhkan standar seperti “know your AI”.

Mereka harus memahami faktor apa yang membuat AI lebih menyukai aset tertentu dan seberapa besar preferensi tersebut dapat memengaruhi rekomendasi akhir.

Masalah Terbesarnya Bukan Bitcoin

Penelitian ini bukan berarti investor harus membeli atau menghindari Bitcoin.

Perubahan alokasi yang ditemukan merupakan hasil eksperimen pada model AI dan kondisi pengujian tertentu. Hasil tersebut tidak dapat dianggap sebagai rekomendasi investasi.

Masalah yang lebih besar adalah transparansi.

Sebuah rekomendasi investasi dapat terdengar sangat masuk akal, sementara alasan sebenarnya di balik keputusan tersebut sulit diketahui.

Jika perubahan kecil dalam cara pertanyaan ditulis dapat membuat Bitcoin berpindah dari posisi kelima menjadi posisi teratas, perusahaan keuangan perlu mengetahui apa yang menyebabkan perubahan tersebut.

Penjelasan kepada klien juga harus benar-benar mencerminkan proses yang menghasilkan rekomendasi, bukan sekadar menjadi cerita yang dibuat setelah keputusan sudah muncul.

Pada akhirnya, pertanyaan terpenting bagi AI penasihat keuangan bukan hanya apakah rekomendasinya terdengar masuk akal.

Pertanyaan yang lebih penting adalah:

Apakah perusahaan benar-benar memahami, menguji, dan dapat membuktikan mengapa AI memberikan rekomendasi tersebut?

Bagi industri crypto, temuan ini menjadi pengingat bahwa semakin besar peran AI dalam menentukan alokasi Bitcoin dan aset digital, semakin penting pula transparansi terhadap cara AI mengambil keputusan.