Googlers mengatakan Bard AI ‘lebih buruk daripada tidak berguna’, masalah etika diabaikan – Ars Technica

Dari luar, Google Bard terlihat seperti produk yang terburu-buru untuk dicoba dan bersaing dengan ChatGPT, dan beberapa Googler berbagi sentimen tersebut. Laporan baru dari bloomberg Dia mewawancarai 18 pekerja saat ini dan mantan dan muncul dengan setumpuk komentar dan kekhawatiran tentang tim etika AI yang “demoralisasi dan demoralisasi” sampai Google dapat mengeluarkan Bard.

Menurut laporan tersebut, karyawan Google yang melakukan pra-pengujian versi Bard diminta untuk mendapatkan umpan balik mereka, yang sebagian besar diabaikan agar Bard dapat diluncurkan lebih cepat. Diskusi internal yang dilihat oleh Bloomberg menyebut Bard “layak mundur” dan “pembohong patologis”. Ketika ditanya bagaimana cara mendaratkan pesawat, dia memberikan instruksi yang salah yang akan menyebabkan pesawat jatuh. Seorang anggota staf meminta instruksi menyelam dan mendapat jawaban bahwa mereka berkata “kemungkinan akan mengakibatkan cedera serius atau kematian”. Seorang karyawan menyelesaikan masalah Bard dalam posting Februari berjudul, “Dingin Lebih Buruk Daripada Tidak Berguna: Tolong Jangan Dipecat.” Bard diluncurkan pada bulan Maret.

Anda mungkin bisa mengatakan banyak hal yang sama tentang pesaing AI yang dikejar Google, ChatGPT OpenAI. Keduanya dapat memberikan informasi yang bias atau salah dan berhalusinasi jawaban yang salah. Google tertinggal jauh di belakang ChatGPT, dan perusahaan terkejut dengan kemampuan ChatGPT untuk menjawab pertanyaan yang mungkin diketik orang dalam pencarian Google. OpenAI, pencipta ChatGPT, telah dikritik karena mengambil pendekatan yang longgar terhadap keamanan dan etika AI. Sekarang Google menemukan dirinya dalam posisi yang sulit. Jika satu-satunya perhatian perusahaan adalah menenangkan pasar saham dan mengejar ketinggalan dengan ChatGPT, kemungkinan besar perusahaan tidak akan dapat melakukannya jika lambat untuk mempertimbangkan masalah etika.

Meredith Whitaker, mantan direktur Google dan ketua Signal Foundation, mengatakan kepada Bloomberg bahwa “etika AI telah mengambil kursi belakang” di Google dan mengatakan bahwa “jika etika tidak dalam posisi untuk mengambil prioritas atas keuntungan dan pertumbuhan, maka itu akhirnya tidak akan berhasil.” Beberapa pemimpin etika AI Google telah dipecat atau keluar dari perusahaan dalam beberapa tahun terakhir. Bloomberg mengatakan bahwa tinjauan etika AI saat ini “hampir seluruhnya bersifat sukarela” di Google.

Meskipun Anda dapat melakukan sesuatu di Google untuk mencoba dan memperlambat rilis karena masalah etika, itu mungkin tidak ada gunanya bagi karier Anda. Laporan tersebut mengatakan: “Seorang mantan karyawan mengatakan bahwa mereka diminta untuk bekerja melakukan keadilan pembelajaran mesin dan secara rutin merasa frustrasi – sedemikian rupa sehingga memengaruhi tinjauan kinerja mereka. Para manajer memprotes bahwa hal itu menghalangi ‘pekerjaan nyata’ mereka. “