Fitur AI khas Microsoft telah disebut sebagai “bencana” keamanan beberapa hari sebelum WWDC

Microsoft memiliki target di belakang Apple dengan model PC Copilot Plus yang berpusat pada AI. Ketika komputer tersebut diumumkan, perusahaan berulang kali mengklaim bahwa kinerjanya mengungguli M3 MacBook Air terbaru. Saat ini, kampanye iklan baru berupaya memikat orang yang berkonversi agar menjauh dari Mac.

Ternyata tidak semua aspek komputer Copilot Plus siap untuk penggunaan puncak. Fitur AI premium Microsoft yang sebelumnya dipamerkan, Recall, telah diungkapkan oleh seorang ahli sebagai bencana keamanan.

Panggilan pengadilan dapat membuat seluruh kehidupan komputasi Anda tersedia bagi peretas

Penarikan kembali ini adalah salah satu momen yang paling mengesankan, namun juga aneh, dari presentasi Microsoft Copilot Plus PC. Ini adalah fitur yang melacak semua yang Anda lakukan di komputer setiap saat dan mencatatnya. Setiap klik, setiap rapat Zoom, file yang dilihat dan dihapus, penekanan tombol yang diketik – semuanya disimpan oleh Recall.

Mengapa? Oleh karena itu, sistem yang didukung AI nantinya dapat memberi Anda informasi apa pun yang Anda butuhkan tentang aktivitas Anda di masa lalu. Recall memberi Anda memori fotografis tentang kehidupan komputer Anda.

Microsoft menggembar-gemborkan upayanya untuk memastikan penarikan kembali itu aman dan pribadi, namun kini, klaim keamanan fitur tersebut telah dibantah secara meyakinkan oleh pakar keamanan yang memperoleh perangkat lunak tersebut.

Beaumont menjelaskan hal ini lebih lanjut di blognya:

Q: Semua pemrosesan data dilakukan secara lokal di laptop Anda, bukan?

A. Ya! Mereka telah membuat beberapa keputusan cerdas di sini, ada seluruh subsistem kode Azure AI dll yang diproses di edge.

Q: Hebat, jadi hacker dan malware tidak bisa mengaksesnya kan?

J: Tidak, mereka bisa.

T: Tapi itu dienkripsi.

J: Saat Anda masuk ke komputer dan menjalankan program, semuanya akan didekripsi untuk Anda. Enkripsi saat tidak aktif hanya membantu jika seseorang masuk ke rumah Anda dan mencuri laptop Anda secara fisik – hal ini tidak dilakukan oleh peretas kriminal.

Misalnya, Trojan InfoStealer, yang secara otomatis mencuri nama pengguna dan kata sandi, telah menjadi masalah besar selama lebih dari satu dekade — dan kini dapat dengan mudah dimodifikasi untuk mendukung penarikan kembali.

Ambil 9to5Mac

Ini merupakan gambaran yang sangat buruk bagi Microsoft, namun mudah-mudahan perusahaan tersebut akan segera mengambil tindakan untuk mengatasi masalah keamanan Recall, meskipun hal tersebut berarti penundaan peluncuran fitur tersebut ke publik secara signifikan. Seperti yang disoroti oleh penelitian Beaumont, kelemahan keamanan ini akan menjadi bencana besar bagi Microsoft dan penggunanya jika kelemahan tersebut mulai menyebar ke khalayak luas pengguna PC Copilot Plus.

Laporan ini membuat saya semakin tertarik untuk melihat bagaimana Apple berencana menekankan pendekatannya yang mengutamakan privasi terhadap fitur AI di WWDC minggu depan. Perusahaan ini telah lama mempromosikan dirinya sebagai perusahaan yang mengutamakan privasi pengguna, dan kini dengan iOS 18 dan platform perangkat lunak lainnya, perusahaan memiliki peluang untuk membuktikan nilai tersebut lebih jauh lagi di era kecerdasan buatan.