Grup mengganti hotline dengan chatbot, dan chatbot ditarik karena saran yang buruk

Ini adalah langkah yang mungkin menyenangkan siapa pun yang khawatir tentang potensi efek mematikan pekerjaan dari alat AI. menyukai BBC Menurut laporan, Asosiasi Gangguan Makan Nasional Amerika (NEDA) harus menghapus chatbot “Tessa” setelah mulai merekomendasikan strategi diet yang berpotensi berbahaya bagi orang dengan gangguan makan. Ini terjadi hanya seminggu setelah NEDA memilih untuk menggunakan robot daripada saluran bantuan langsung yang dijalankan manusia. Masalah dengan Tessa diumumkan oleh grup Instagram pos, per keberuntungan. “Telah menjadi perhatian kami…bahwa versi Tessa Chatbot saat ini…mungkin telah memberikan informasi jahat,” tulis postingan tersebut. “Kami sedang menyelidiki ini segera dan telah menangguhkan program itu sampai pemberitahuan lebih lanjut untuk penyelidikan penuh.”

menyukai NPR dilaporkan Rabu, NEDA telah beralih ke AI setelah menjalankan saluran bantuan langsung untuk orang dengan anoreksia, bulimia, dan gangguan makan lainnya selama lebih dari dua dekade. Organisasi nirlaba dilaporkan memberi tahu karyawan saluran bantuan kurang dari seminggu setelah membentuk serikat pekerja. NEDA mengatakan perubahan itu tidak ada hubungannya dengan serikat pekerja langsung dan segala sesuatu yang berkaitan dengan lonjakan panggilan dan SMS ke hotline selama pandemi COVID-19. Peningkatan volume panggilan ini, menurut kepemimpinan NEDA, berarti peningkatan tanggung jawab, dan dengan demikian “fokus perluasan penggunaan teknologi yang dibantu AI.”

Adapun perilaku buruk Tessa, CNN Laporan CEO NEDA Liz Thompson menyalahkan “aktor jahat” yang dengan sengaja mencoba membuat chatbot memberikan saran yang berbahaya atau bahkan tidak relevan kepada pengguna. Sebelum mengumumkan masalah bot, mantan karyawan helpline kicauan Sebuah pernyataan yang mengatakan bahwa chatbots tidak dapat “menggantikan empati manusia, dan kami yakin keputusan ini akan menyebabkan kerusakan yang tidak dapat diperbaiki pada komunitas gangguan makan.” (Baca lebih banyak cerita AI.)