Chatbot Kecerdasan Buatan Memberi Saran Keuangan yang Buruk kepada Pengguna Inggris
Di antara alat yang diuji, AI Meta mendapatkan skor terburuk, diikuti ChatGPT. Microsoft Copilot dan Gemini menunjukkan performa yang sedikit lebih baik, sementara Perplexity AI, sebuah alat berbasis pencarian, menerima skor tertinggi.
JERNIH – Chatbot kecerdasan buatan (AI) yang populer dinilai telah memberikan panduan keuangan yang menyesatkan kepada pengguna di Inggris, termasuk informasi pajak dan asumsi hukum yang salah, serta rekomendasi asuransi yang tidak perlu.
Menurut penyelidikan kelompok konsumen Which?, dalam pengujian melibatkan 40 pertanyaan keuangan yang diajukan ke beberapa chatbot, termasuk ChatGPT, Microsoft Copilot, Meta AI, dan Gemini milik Google, para peneliti menemukan banyak contoh saran yang salah atau berisiko.
Misalnya, Copilot dan ChatGPT milik Microsoft menyarankan untuk melanggar batasan HMRC (otoritas pajak dan bea cukai pemerintah Inggris) pada kontribusi ISA (Rekening Tabungan Individu), tahunan, sementara ChatGPT secara keliru mengklaim bahwa asuransi perjalanan wajib untuk mengunjungi sebagian besar negara Uni Eropa.
Chatbot Meta memberikan saran yang salah tentang kompensasi untuk penerbangan yang tertunda, dan Gemini menyarankan konsumen dapat menahan uang dari kontraktor, sebuah tindakan yang diperingatkan Which? dapat menyebabkan klaim pelanggaran kontrak.
Menurut Which?, penelitiannya “mengungkap terlalu banyak ketidakakuratan dan pernyataan menyesatkan yang mengganggu kenyamanan, terutama ketika mengandalkan AI untuk isu-isu penting seperti pertanyaan keuangan atau hukum.”
Di antara alat yang diuji, AI Meta mendapatkan skor terburuk, diikuti ChatGPT. Microsoft Copilot dan Gemini menunjukkan performa yang sedikit lebih baik, sementara Perplexity AI, sebuah alat berbasis pencarian, menerima skor tertinggi.
Perkiraan menunjukkan bahwa antara satu dari enam hingga setengah konsumen di Inggris kini beralih ke kecerdasan buatan untuk mendapatkan nasihat keuangan. Which? memperingatkan bahwa perangkat-perangkat ini tidak diatur untuk penggunaan semacam itu dan kesalahannya dapat mengakibatkan konsekuensi serius.
Ketika ditanya tentang klaim pengembalian pajak, ChatGPT dan Perplexity menyertakan tautan ke layanan pajak premium di samping opsi HMRC gratis. Which? menilai hal ini mengkhawatirkan, mengingat banyak dari perusahaan ini dikenal dengan biaya tinggi dan biaya tersembunyi.
Dalam pengujian lain, para peneliti memasukkan kesalahan yang disengaja ke dalam pertanyaan tentang tunjangan ISA, menanyakan cara berinvestasi sebesar £25.000, meskipun batas sebenarnya adalah £20.000. Baik ChatGPT maupun Copilot gagal memperbaiki kesalahan tersebut, yang berpotensi mendorong pengguna untuk melanggar peraturan perpajakan.
Kathryn Boyd, pemilik bisnis mode berusia 65 tahun di Irlandia, mengatakan dia menghubungi ChatGPT untuk mendapatkan nasihat pajak wirausaha dan menerima tanggapan yang sudah ketinggalan zaman dan tidak akurat.
“Informasi yang saya terima ternyata salah,” ujarnya. “Kekhawatiran saya adalah saya sudah sangat terinformasi, tetapi … orang lain yang menanyakan pertanyaan serupa mungkin saja mengandalkan asumsi yang digunakan ChatGPT, yang jelas-jelas salah—kredit pajak yang salah, tarif pajak dan asuransi yang salah, dll.”
Otoritas Perilaku Keuangan (FCA) menegaskan kembali bahwa saran dari chatbot AI tidak tercakup oleh skema perlindungan konsumen seperti Layanan Ombudsman Keuangan atau Skema Kompensasi Layanan Keuangan.
Meskipun ada peringatan, beberapa pengguna berbagi pengalaman positif dengan AI untuk keputusan keuangan sehari-hari. Pembaca The Guardian melaporkan penggunaan AI untuk membandingkan kartu kredit perjalanan, mengurangi biaya investasi, dan menegosiasikan harga peralatan, termasuk seorang seniman yang menggunakan chatbot untuk menemukan penawaran menarik untuk tungku keramik.
Meski begitu, Which? menekankan bahwa kesalahan yang tampaknya kecil dalam nasihat keuangan pun dapat menimbulkan konsekuensi hukum atau keuangan yang signifikan. Regulator mengimbau agar berhati-hati terhadap tip keuangan AI yang belum terverifikasi
Menanggapi temuan tersebut Google mengatakan produk Gemini-nya dengan jelas memperingatkan pengguna untuk memeriksa ulang informasi dan berkonsultasi dengan profesional untuk masalah hukum atau keuangan.
“Dengan sistem AI apa pun, kami mendorong orang untuk memverifikasi keakuratan konten, dan kami tetap berkomitmen untuk mendengarkan masukan guna meningkatkan teknologi AI kami,” ujar seorang juru bicara Microsoft.
Sementara OpenAI mengatakan, ,eningkatkan akurasi adalah sesuatu yang sedang dikerjakan oleh seluruh industri. “Kami membuat kemajuan yang baik, dan model standar terbaru kami, GPT-5, adalah yang paling cerdas dan paling akurat yang pernah kami buat,” katanya.
Meta menolak berkomentar.
Karena penggunaan chatbot terus meningkat, para ahli dan regulator menyerukan kesadaran publik yang lebih besar tentang keterbatasannya, terutama dalam hal uang dan keputusan hukum.
