Kemitraan Microsoft OpenAI lahir dari rasa iri Google

Ternyata lanskap AI saat ini dapat ditelusuri kembali ke ketakutan, kecemburuan, dan ambisi kapitalis yang kuat. Email pertama kali terungkap dalam kasus antimonopoli Departemen Kehakiman terhadap Google tersebut oleh Tertarik pada perdagangan, menunjukkan para eksekutif Microsoft mengungkapkan kekesalan dan rasa iri mereka terhadap kemajuan Google dalam kecerdasan buatan. Hal ini menciptakan urgensi yang menyebabkan pembuat Windows tersebut melakukan investasi awal sebesar $1 miliar pada mitranya yang kini sangat diperlukan, OpenAI.

Dalam seri email tahun 2019 yang banyak disunting berjudul “Pemikiran tentang OpenAI,” CEO Microsoft Satya Nadella mengirimkan surat panjang dari CTO Kevin Scott kepada CFO Amy Hood. “Email yang sangat bagus menjelaskan mengapa saya ingin kami melakukan ini… dan juga mengapa kami akan memastikan staf infrastruktur kami melakukan hal ini,” tulis Nadella.

Scott menulis bahwa dia “sangat prihatin” dengan kemampuan AI Google yang berkembang pesat. Dia mengatakan dia awalnya menolak “permainan gameplay menarik” dari perusahaan tersebut, yang kemungkinan besar mengacu pada model AlphaGo Google. Salah satunya mengalahkan juara dunia Go Ke Jie pada tahun 2017, sebuah prestasi yang mengesankan saat itu. (Model Google selanjutnya melampaui model ini, menghilangkan kebutuhan akan pelatihan manusia sama sekali.)

Namun Scott mengatakan mengabaikan kemajuan Google dalam game adalah sebuah kesalahan. “Saat mereka mengambil alih seluruh infrastruktur yang mereka bangun [natural language] “Model yang tidak dapat kami tiru dengan mudah mulai dianggap lebih serius,” tulis Scott. “Saat saya menggali lebih dalam untuk mencoba memahami di mana kesenjangan kemampuan antara Google dan kami dalam hal pelatihan modular, saya merasa sangat, sangat prihatin.”

Scott menceritakan bagaimana Microsoft berjuang untuk meniru model BERT besar Google, model AI yang menerjemahkan makna dan konteks kata dalam sebuah kalimat. Scott menyalahkan lompatan infrastruktur yang dilakukan oleh pesaingnya, namun Microsoft tidak melakukannya.

“Ternyata mereplikasi model BERT besar tidaklah mudah bagi kami. “Meskipun kami sudah memiliki modelnya, kami memerlukan waktu sekitar 6 bulan untuk melatih model tersebut karena infrastruktur kami tidak mampu menjalankan tugasnya,” CTO Microsoft. menulis. “Google telah memiliki BERT setidaknya selama enam bulan sebelum ini, jadi dalam waktu yang kami perlukan untuk meretas kemampuan untuk melatih model parameter 340 juta, mereka memiliki waktu satu tahun untuk memikirkan cara memasukkannya ke dalam produksi dan bergerak maju. ke model yang lebih luas dan lebih menarik.

Dia juga mengungkapkan kekaguman dan rasa irinya terhadap kemampuan pelengkapan otomatis Gmail Google, dan mengatakan bahwa kemampuan tersebut “menjadi sangat bagus”. Dia berkomentar bahwa Microsoft “tertinggal beberapa tahun dalam persaingan dalam hal… [machine learning] Volume.” Dia mengomentari pertumbuhan “menarik” di OpenAI, DeepMind, dan Google Brain.

Scott memuji orang-orang Microsoft yang “sangat cerdas” dalam tim pembelajaran mesinnya, namun mengatakan ambisi mereka terkendali. “Tetapi tim inti pembelajaran mendalam di masing-masing tim besar ini sangatlah kecil, dan ambisi mereka juga dibatasi. Artinya, meskipun kami mulai memberi mereka sumber daya, mereka masih harus melalui proses pembelajaran untuk meningkatkan skala pekerjaan mereka,” Scott menulis. “Dan kami tertinggal beberapa tahun dalam persaingan dalam hal skala pembelajaran mesin.”

Setelah Hood menyatakan bahwa kekhawatiran Scott adalah “mengapa saya ingin kita melakukan ini,” yaitu berinvestasi di OpenAI, perusahaan tersebut melaksanakan keinginan CEO-nya. Microsoft menginvestasikan $1 miliar pada startup yang dipimpin Sam Altman pada tahun 2019, dan sisanya adalah sejarah yang berubah dengan cepat. (Sekarang mereka telah menginvestasikan $13 miliar.) Ini adalah teknologi yang melakukan hal-hal luar biasa namun mengancam untuk menghancurkan pasar kerja dan memberikan para pengkhotbah alat mereka yang paling ampuh di era dimana misinformasi merajalela.