Penipu menggunakan suara AI untuk mencuri berjuta-juta dengan menyamar sebagai orang tersayang

AI telah menjadi topik utama dalam dunia teknologi buat sementara waktu sekarang, kerana Microsoft terus memasukkan produknya SembangGPT dan Google cuba untuk bersaing dengan menolak produk AInya sendiri. Walaupun AI mempunyai potensi untuk melakukan beberapa perkara yang benar-benar mengagumkan — seperti menjana imej berdasarkan satu baris teks — kami mula melihat lebih banyak kelemahan teknologi yang hampir tidak dikawal. Contoh terbaharu ini ialah penjana suara AI yang digunakan untuk menipu orang daripada wang mereka.

Perisian penjanaan suara AI telah menjadi tajuk utama sejak akhir-akhir ini, kebanyakannya kerana mencuri suara pelakon suara. Pada mulanya, semua yang diperlukan hanyalah beberapa ayat untuk perisian itu menghasilkan semula bunyi dan nada pembesar suara dengan meyakinkan. Sejak itu, teknologi telah berkembang ke tahap di mana hanya beberapa saat dialog sudah cukup untuk meniru seseorang dengan tepat.

Dalam laporan baharu daripada The Washington Post, beribu-ribu mangsa mendakwa bahawa mereka telah ditipu oleh penipu yang berpura-pura sebagai orang yang disayangi. Dilaporkan, penipuan penipu telah menjadi jenis penipuan kedua paling popular di Amerika dengan lebih 36,000 kes diserahkan pada 2022. Daripada 36,000 kes itu, lebih 5,000 mangsa telah ditipu daripada wang mereka melalui telefon, berjumlah $11 juta kerugian menurut pegawai FTC .

Satu kisah yang menonjol melibatkan pasangan tua yang menghantar lebih $15,000 melalui terminal bitcoin kepada penipu selepas percaya mereka telah bercakap dengan anak mereka. Suara AI telah meyakinkan pasangan itu bahawa anak mereka menghadapi masalah undang-undang selepas membunuh seorang diplomat AS dalam kemalangan kereta.

Seperti mangsa dalam cerita, serangan ini nampaknya kebanyakannya menyasarkan orang tua. Ini tidak menghairankan kerana warga emas adalah antara yang paling terdedah apabila melibatkan penipuan kewangan. Malangnya, mahkamah masih belum membuat keputusan sama ada syarikat boleh dipertanggungjawabkan atas bahaya yang disebabkan oleh penjana suara AI atau bentuk teknologi AI yang lain.