ChatGPT mendapatkan ‘mata dan telinga’ dengan plugin yang dapat berinteraksi antara AI dan dunia – Ars Technica

Pada hari Kamis, OpenAI mengumumkan Sistem plug-in untuk asisten AI ChatGPT-nya sendiri. Plug-in memberi ChatGPT kemampuan untuk berinteraksi dengan dunia online yang lebih luas, termasuk memesan penerbangan, memesan bahan makanan, menjelajahi web, dan banyak lagi. Plug-in adalah potongan kode yang memberi tahu ChatGPT cara menggunakan sumber daya eksternal di Internet.

Pada dasarnya, jika pengembang ingin memberi ChatGPT kemampuan untuk mengakses layanan jaringan apa pun (misalnya: “mencari harga saham saat ini”) atau melakukan tugas apa pun yang dikontrol oleh layanan jaringan (misalnya: “memesan pizza online”), Sekarang dimungkinkan , asalkan tidak bertentangan dengan aturan OpenAI.

Secara tradisional, sebagian besar Language Large Models (LLM) seperti ChatGPT telah dikurung dalam gelembung, bisa dikatakan, hanya dapat berinteraksi dengan dunia melalui percakapan tekstual dengan pengguna. Seperti yang ditulis OpenAI dalam pendahuluannya posting blog Di plugin ChatGPT, “satu-satunya hal yang dapat dilakukan bahasa sampel di luar kotak adalah mengirim teks.”

Bing Chat mengambil model ini lebih jauh dengan memungkinkannya mencari web untuk informasi yang lebih terkini, tetapi sejauh ini ChatGPT masih terisolasi dari dunia yang lebih luas. Meskipun ditutup dengan cara ini, ChatGPT hanya dapat mengandalkan data dari set pelatihannya (terbatas hingga 2021 dan sebelumnya) dan informasi apa pun yang diberikan oleh pengguna selama percakapan. Selain itu, ChatGPT cenderung membuat bug dan bug waktu nyata (yang oleh peneliti AI disebut “halusinasi”).

Untuk mengatasi keterbatasan ini, OpenAI meledakkan gelembung dan menciptakan Antarmuka plugin ChatGPT (apa yang disebut OpenAI sebagai “mata dan telinga ChatGPT”) yang memungkinkan pengembang membuat komponen baru yang “terhubung” ke ChatGPT dan memungkinkan model AI untuk berinteraksi dengan layanan lain di Internet. Layanan ini bisa Melakukan perhitungan dan merujuk ke informasi faktual untuk mengurangi halusinasi, dan mereka juga dapat berinteraksi dengan layanan perangkat lunak lain di Internet – jika pengembang membuat plug-in untuk tugas ini.

Jenis plug-in apa yang sedang kita bicarakan?

Dalam kasus ChatGPT, OpenAI akan memungkinkan pengguna untuk memilih dari daftar plugin sebelum memulai sesi ChatGPT. Mereka menampilkan dirinya hampir seperti aplikasi di App Store, dan setiap plugin memiliki ikon dan deskripsinya sendiri.

OpenAI mengatakan putaran pertama plug-in telah dibuat oleh perusahaan berikut:

• Expedia (untuk perencanaan perjalanan)
• catatan keuangan (untuk data pasar waktu nyata)
• Instacart (untuk memesan bahan makanan)
• Kayak (Pencarian Penerbangan & Penyewaan Mobil)
• Clarna (Toko bandingkan harga)
• Milo (Asisten orang tua bertenaga AI)
• OpenTable (untuk rekomendasi dan reservasi restoran)
• Shopify (untuk berbelanja di situs ini)
• Kendur
• berbicara (Untuk pembelajaran bahasa yang didukung oleh kecerdasan buatan)
• Wolfram (untuk komputasi dan data waktu nyata)
• Zapier (platform otomatisasi)

Secara khusus, plug-in Zapier tampaknya sangat kuat karena memberi ChatGPT akses ke sistem otomasi perangkat lunak yang ada, atau Zapier Dia mengatakannya: “Anda dapat meminta ChatGPT untuk melakukan salah satu dari 50.000 tindakan Zapier (termasuk menemukan, memperbarui, dan menulis) menggunakan lebih dari 5.000 aplikasi yang didukung Zapier, dan mengubah obrolan Anda menjadi tindakan. Itu dapat menulis email, lalu mengirimkannya untuk Anda. Atau Temukan kontak di CRM, lalu perbarui secara langsung. Atau tambahkan baris ke spreadsheet, lalu kirim sebagai pesan Slack. Kemungkinannya tidak terbatas.”

OpenAI juga menampung tiga plugin, browser web (yang dapat mengambil informasi dari web dengan cara yang mirip dengan Bing Chat), juru bahasa kode untuk menjalankan program Python (di kotak pasir), dan alat pemulihan yang memungkinkan akses ke ” sumber informasi pribadi atau organisasi” dihosting di tempat lain (Pada dasarnya, mengambil informasi dari dokumen).

Sementara OpenAI menyebut proses pemilihan pluginnya sebagai “toko plugin”, perusahaan belum mengumumkan rencana untuk menjual masing-masing plugin. Tetapi dengan label “toko”, hasil itu tampaknya mungkin terjadi di beberapa titik.

Memang, para pengembang dengan akses awal juga demikian Plugin terbentuk dengan cepat untuk ChatGPT. Dibandingkan dengan pendekatan lain untuk pengembangan plugin, cara kerja ekstensi ChatGPT patut diperhatikan. Alih-alih menggunakan proses yang tidak jelas “kode lemUntuk membuat antarmuka API dengan ChatGPT, pengembang pada dasarnya “memberi tahu” ChatGPT cara menggunakan layanan mereka menggunakan bahasa alami, dan ChatGPT melakukannya.

Selain itu, pengembang menggunakan ChatGPT dan GPT-4 Untuk menulis data plugin ChatGPT (manifes adalah “deskripsi yang dapat dibaca mesin tentang kemampuan plugin dan cara memanggilnya,” menurut OpenAI), semakin menyederhanakan proses pengembangan plugin.

Tampaknya kemampuan pengembangan diri majemuk semacam ini Area yang tidak ditandai di peta untuk beberapa programmer. Dalam satu contoh, seorang pengguna Twitter bernama Rohit Kekhawatiran yang keras“,”pemuda. krisis eksistensial. Apakah OpenAI baru saja menyelesaikan programnya? Apa yang tersisa untuk dilakukan selain membersihkan dan menyapu?“

Sam Altman, CEO OpenAI, dijawab“TIDAK.”

Apakah ini aman?

Mengingat bahwa OpenAI sebelumnya telah menguji model AI-nya sendiri (seperti GPT-4) untuk melihat apakah OpenAI memiliki kemampuan untuk mengubah, meningkatkan, dan menyebarkan dirinya sendiri di antara sistem komputer di dunia, tidak mengherankan jika OpenAI menghabiskan hampir setengah dari ChatGPT-nya. plugin posting blog Bicara tentang keamanan dan efek. “Plug-in berpotensi memiliki konsekuensi sosial yang luas,” perusahaan itu dengan santai menyebutkan di salah satu bagian Tentang Efek yang mungkin terjadi pada pekerjaan.

Di luar pekerjaan, ketakutan berulang di antara beberapa peneliti AI melibatkan pemberian akses model AI tingkat lanjut ke sistem lain, yang dapat menyebabkan potensi bahaya. Sistem AI tidak perlu “sadar” atau “sadar”, itu hanya didorong untuk menyelesaikan tugas tertentu yang dianggap perlu. Dalam hal ini dengan plugin, OpenAI tampaknya melakukan hal itu.

OpenAI tampaknya menyadari risikonya, dan sering menunjukkannya Kartu sistem GPT-4 Ini menjelaskan jenis pengujian skenario terburuk yang kami jelaskan di artikel sebelumnya. Di luar skenario kiamat hipotetis, bahaya yang didukung AI dapat datang dalam bentuk versi yang dipercepat dari bahaya online yang ada, seperti cincin phishing bot, kampanye disinformasi, Pemasaran yang licikatau serangan pribadi.

“Ada risiko bahwa plug-in dapat meningkatkan tantangan keamanan melalui tindakan jahat atau tidak disengaja, dan meningkatkan kemampuan aktor jahat yang mungkin menipu, menyesatkan, atau menyalahgunakan orang lain,” tulis OpenAI. “Dengan meningkatkan jangkauan kemungkinan aplikasi, plug-in dapat meningkatkan risiko konsekuensi negatif dari tindakan yang salah atau tidak kompatibel yang dilakukan model di domain baru. Sejak hari pertama, faktor-faktor ini telah memandu pengembangan platform plug-in, dan kami telah menerapkan beberapa pengamanan.”

Salah satu tindakan pencegahan tersebut tampaknya adalah penyebaran progresif akses ke plugin. Juga, saat menggunakan plugin ChatGPT ditutupi oleh selimut OpenAI Kebijakan penggunaan Yang dilarang digunakan untuk menghasilkan informasi yang menyesatkan dan bentuk konten yang dilarang, sebagaimana ditentukan Aturan ekstensiSeperti memblokir otomatisasi percakapan dengan orang sungguhan. Selain itu, plugin yang menggunakan konten yang dibuat oleh ChatGPT (seperti email) harus menafikan bahwa konten tersebut dihasilkan oleh AI.

Masing-masing plugin OpenAI memiliki penafian keamanan, termasuk kemampuan untuk memilih keluar dari perayapan web ChatGPT dengan robots.txt dan fakta bahwa penerjemah kode Python berjalan di kotak pasir “firewall”. Tetapi apakah pembatasan ini berlaku untuk plugin layanan lain yang dapat mengeksekusi kode? Ini adalah pertanyaan yang harus dijawab oleh OpenAI dan pengembang dan bekerja sama dalam beberapa hari, minggu, dan bulan mendatang.

Saat ini, plugin ChatGPT hanya tersedia berbasis alfa untuk memilih pengembang dan pemberi sertifikasi dari sebuah file Daftar tunggu. “Sementara kami awalnya memprioritaskan sejumlah kecil pengembang dan pengguna ChatGPT Plus, kami berencana untuk meluncurkan akses secara luas dari waktu ke waktu.”