Pakar keamanan khawatir fitur baru Google ‘sangat berbahaya’

baru Google Fitur yang dimaksudkan untuk mengingatkan orang akan hal itu Trik Hal ini menimbulkan kekhawatiran dari aktivis privasi.

Alat ini menggunakan kecerdasan buatan untuk menguping panggilan telepon orang dan mencoba mendeteksi apakah panggilan tersebut terlihat seperti penipuan. Jika ya, akan muncul pop-up yang memperingatkan orang-orang tentang “potensi penipuan”.

Fitur ini diumumkan di Google I/O minggu ini, dan pada saat yang sama diumumkan sejumlah alat AI baru. Seperti kebanyakan fitur lainnya, Google belum mengumumkan kapan fitur tersebut akan benar-benar hadir.

Ini juga memberikan sedikit informasi tentang cara kerja sebenarnya fitur tersebut, seperti jenis percakapan apa yang mungkin mendorong AI untuk menunjukkan bahwa panggilan tersebut mungkin merupakan penipuan. Namun dikatakan bahwa itu bergantung pada Gemini Nano, versi AI yang jauh lebih kecil yang dirilis baru-baru ini dan dirancang untuk berjalan di ponsel.

Google menekankan bahwa semua mendengarkan dan menganalisis panggilan telepon akan dilakukan di telepon itu sendiri, sehingga percakapan pribadi tidak dikirim ke servernya. “Semua perlindungan ini terjadi di perangkat, sehingga percakapan Anda tetap bersifat pribadi,” katanya dalam pengumumannya.

Namun, pakar keamanan menunjukkan bahwa mendengarkan panggilan telepon dengan cara ini “sangat berbahaya” dan “mengerikan.” Mereka mencatat bahwa meskipun panggilan tetap ada di perangkat, membiarkan AI menguping panggilan dapat menyebabkan masalah lain.

“Panggilan telepon yang kita lakukan melalui perangkat kita dapat menjadi salah satu hal paling pribadi yang kita lakukan,” kata Albert Fox-Kahn, direktur eksekutif Surveillance Technology Project. Berita NBC. “Sangat mudah bagi pengiklan untuk mengekstrak setiap penelusuran yang kami lakukan, setiap URL yang kami klik, namun apa yang sebenarnya kami katakan di perangkat kami, ke mikrofon, secara historis tidak dipantau.”

“Ini sangat berbahaya,” kata Meredith Whittaker, kepala aplikasi perpesanan Signal. “Ini membuka jalan bagi pemindaian sisi klien terpusat di tingkat perangkat.”

Ibu Whittaker, yang bekerja di Google selama 13 tahun dan membantu mengorganisir protes internal terhadap kebijakan Google, mengatakan penggunaan teknologi dapat berkembang pesat.

Dari mendeteksi “penipuan”, ini adalah langkah singkat menuju “mendeteksi pola yang umumnya terkait dengan skema penipuan.”[ith] Mencari perawatan reproduksi” atau “umumnya dikaitkan dengan[ith] “Menyediakan sumber daya LGBTQ” atau “biasanya dikaitkan dengan pelaporan pelanggaran terhadap pekerja teknologi,” katanya.