Pengembang AI generatif Tiongkok bergegas meningkatkan bot obrolan untuk menangani teks super panjang

Pengembang kecerdasan buatan (AI) generatif terbesar di Tiongkok, termasuk Baidu dan Alibaba Group Holding, segera memperbarui bot obrolan mereka sehingga mereka dapat menangani teks super panjang hingga 10 juta karakter Tiongkok.

Langkah ini mengikuti Google, yang pada bulan Februari meluncurkan versi terbaru dari model bahasa besar Gemini (LLM) yang mencapai “jendela konteks” yang panjang, jumlah teks maksimum yang dapat dipertimbangkan LLM saat menghasilkan respons, hingga 1 juta token. , atau sekitar 700.000 kata bahasa Inggris.

Tidak seperti Google, yang hanya membuat pembaruan tersedia untuk “sekelompok pengembang dan pelanggan perusahaan terbatas” karena “intensif komputasi”, menurut blognya, Baidu pada bulan April akan meluncurkan versi baru Ernie Bot yang dapat memproses hingga 5 juta karakter Mandarin gratis, menurut laporan media Tiongkok Chinastarmarket.cn pada hari Jumat.

Baidu tidak segera menanggapi permintaan komentar pada hari Senin.

Raksasa teknologi Tiongkok memuji kemajuan model AI dalam upaya mengejar ketertinggalan

Demikian pula, Alibaba mengatakan pekan lalu bahwa bot obrolan Tongyi Qianwen miliknya, yang kini mampu menangani teks yang terdiri dari sekitar 10 juta karakter Tiongkok, akan tersedia untuk semua pengguna secara gratis. Alibaba memiliki South China Morning Post.

Juga minggu lalu, startup AI generatif yang didukung Alibaba, Moonshot AI diumumkan pembaruan besar pada bot obrolan Kimi yang kini dapat menangani hingga 2 juta karakter China dalam satu perintah. Fitur baru ini saat ini sedang dalam pengujian beta yang terbatas pada pengguna yang diundang sebelum diluncurkan secara lebih luas.

Moonshot AI adalah salah satu startup AI yang paling banyak ditonton di negara ini, setelah mengumpulkan dana terbesar dari perusahaan AI Tiongkok sejak saat itu. OpenAIChatGPT dirilis pada akhir tahun 2022, menghasilkan lebih dari US$1 miliar dalam putaran bulan lalu yang dipimpin oleh Alibaba dan perusahaan modal ventura HongShan, yang sebelumnya merupakan unit Sequoia Capital di Tiongkok.

Ketergesaan untuk memperluas jendela konteks mencerminkan betapa raksasa AI Tiongkok sangat ingin mengejar ketertinggalan dari para pemimpin teknologi Barat. Baidu dan Alibaba termasuk yang pertama di Tiongkok yang meluncurkan bot obrolan mereka sendiri, masing-masing empat dan lima bulan setelah ChatGPT.

Moonshot AI mengumumkan pembaruan besar pada bot obrolan Kimi-nya yang kini dapat menangani hingga 2 juta karakter China dalam satu perintah. Foto: weibo

Kemampuan memproses teks panjang dapat membantu meringkas makalah penelitian, membandingkan resume, dan mempelajari kode komputasi, menurut Alibaba dan Moonshot AI.

Namun lompatan ke jendela konteks yang lebih besar dapat dibatasi oleh terbatasnya daya komputasi. GPT-4 OpenAI mendukung jendela konteks 32.000 token, tersedia untuk pelanggan berbayar dengan harga 6 sen AS untuk setiap 1.000 token sebagai masukan dan 12 sen AS untuk keluaran dengan ukuran yang sama.

Kepala eksekutif OpenAI Sam Altman mengatakan pada bulan Mei, sebelum GPT-4 Turbo diluncurkan, bahwa memperluas akses ke model 32k bukanlah prioritas bagi perusahaan karena “sumber daya terbatas”, menurut sebuah blog oleh Joe Reda, chief technology officer. di BitBakery Software, yang berbicara dengan Altman di sebuah acara di Toronto.

Pada bulan November, OpenAI meluncurkan versi pratinjau GPT-4 Turbo yang lebih bertenaga, yang hadir dengan jendela konteks 128,000 token, atau sekitar 96,000 kata dalam bahasa Inggris.