Buletin Petang AI｜20 Oktober｜DeepSeek menjadikan rangka kerja inferens dalaman DeepInfer sumber terbuka

Perkembangan paling menarik petang ini ialah langkah DeepSeek menjadikan rangka kerja inferens dalamannya, DeepInfer, sumber terbuka. Buat pertama kalinya, lapisan yang membolehkan model besar “beroperasi dengan kos rendah” didedahkan kepada umum. Satu lagi tumpuan utama ialah permintaan terhadap kuasa pengkomputeran dan cip: Kementerian Perindustrian dan Teknologi Maklumat China mendedahkan bahawa kapasiti pengkomputeran pintar meningkat 146% tahun ke tahun, manakala Montage Technology dan pengeluar memori sama-sama meraih manfaat daripada lonjakan pelayan AI.

Berita utama hari ini: DeepSeek menjadikan rangka kerja inferens DeepInfer sumber terbuka

Apa yang berlaku. Menurut laporan IT Home, DeepSeek mengumumkan bahawa rangka kerja inferens dalamannya, DeepInfer, dijadikan sumber terbuka sepenuhnya [1]. Rangka kerja inferens ialah lapisan perisian yang membolehkan model yang telah dilatih digunakan sebagai perkhidmatan dalam talian. DeepSeek menyatakan bahawa dengan berasaskan DeepInfer, pihaknya telah menyediakan perkhidmatan inferens berskala besar untuk DeepSeek V4.1 Flash dengan daya pemprosesan tinggi dan kependaman rendah [1]. Penerangan projek di GitHub menyatakan bahawa DeepInfer ialah rangka kerja inferens berprestasi tinggi yang menyokong perkhidmatan produksi berskala besar DeepSeek. Versi sumber terbuka ini menyediakan fungsi teras yang diperlukan untuk inferens luar talian dan perkhidmatan berskala besar, serta menggunakan lesen Apache 2.0 [2].

Latar belakang. Dalam artikelnya, DeepSeek menyatakan bahawa keupayaan model ditentukan oleh model itu sendiri, tetapi keupayaan untuk menyediakan perkhidmatan pada skala amat besar dengan kos yang munasabah turut bergantung pada lapisan perantaraan yang sekian lama kurang diketahui umum, iaitu rangka kerja inferens [1]. Sebelum ini, komuniti sumber terbuka kebanyakannya hanya memperoleh pemberat model, manakala sistem inferens yang benar-benar digunakan oleh penyedia terkemuka untuk perkhidmatan dalam talian jarang didedahkan kepada umum.

Kesan. Bagi pembangun dan penyedia awan, ini bermakna mereka boleh merujuk terus kepada amalan kejuruteraan perkhidmatan dalam talian DeepSeek, bukan sekadar memperoleh model. Perlu diberi perhatian bahawa perkakasan yang disenaraikan sebagai disokong dalam penerangan projek merangkumi GPU NVIDIA SM100 dan NPU Huawei Ascend 950 [2]. Ini mempunyai kepentingan praktikal bagi perusahaan yang mahu menggunakan model besar pada infrastruktur pengkomputeran buatan China.

Perkara yang belum pasti. Data prestasi dalam penerangan projek diukur menggunakan konfigurasi tertentu: 4 GPU SM100 digunakan untuk prapengisian dan 64 untuk penyahkodan [2]. Kebanyakan perusahaan sukar menghasilkan semula keputusan tersebut secara langsung dengan skala perkakasan yang mereka miliki. Pada masa ini, satu-satunya model yang disokong ialah DeepSeek-V4.1-Flash [2]. Sama ada komuniti dapat menggunakannya untuk model lain masih memerlukan masa untuk dibuktikan.

Rajah: Prapengisian: daya pemprosesan input tanpa cache berbanding kependaman (Sumber: DeepSeek (GitHub))

Berita penting

Kementerian Perindustrian dan Teknologi Maklumat: Kapasiti pengkomputeran pintar mencecah 2592 EFLOPS, lebih 100 peranti AI mencapai tahap L3

Menurut data Kementerian Perindustrian dan Teknologi Maklumat China, setakat akhir September 2026, kapasiti pengkomputeran pintar China mencecah 2592 EFLOPS, meningkat 146% berbanding tahun sebelumnya [3]. EFLOPS bersamaan satu kuintilion operasi titik terapung sesaat dan digunakan untuk mengukur kapasiti pengkomputeran. Pada hari yang sama, kementerian turut menyatakan bahawa lebih 100 produk peranti kecerdasan buatan telah memenuhi keperluan keupayaan bantuan tahap L3, yang membolehkannya memahami niat yang kompleks dan memberikan perkhidmatan secara proaktif kepada pengguna. Produk ini merangkumi telefon, komputer, televisyen, cermin mata, kokpit kereta dan fon kepala [4]. Jumlah keuntungan industri pembuatan elektronik dan teknologi maklumat bagi Januari hingga Ogos ialah RMB847.5 bilion, meningkat 109.9% berbanding tahun sebelumnya [4].

Mengapa ini penting: Jika dilihat bersama, angka kapasiti pengkomputeran dan peranti menunjukkan bahawa AI sedang memacu pelaburan infrastruktur serta penggantian peranti elektronik pengguna secara serentak. Data rasmi ini menyokong gambaran permintaan terhadap syarikat perkakasan berkaitan.

Imej: Imej iringan laporan Kementerian Perindustrian dan Teknologi Maklumat mengenai prestasi industri telekomunikasi (Sumber: People's Posts and Telecommunications News (Sina Tech))

Montage Technology: Keuntungan bersih suku ketiga dijangka meningkat sehingga 175%

Montage Technology mengumumkan bahawa keuntungan bersih yang boleh diagihkan kepada pemegang saham syarikat induk bagi suku ketiga 2026 dijangka antara RMB1.20 bilion hingga RMB1.30 bilion, meningkat 153.6% hingga 174.7% berbanding tahun sebelumnya [5]. Menurut syarikat itu, perkembangan pesat inferens AI dan aplikasi ejen telah mendorong pertumbuhan permintaan untuk CPU pelayan, manakala jumlah penghantaran cip antara muka memori DDR5 dan cip sokongan modul meningkat dengan ketara [5].

Mengapa ini penting: Ini merupakan bukti langsung bahawa permintaan AI sedang meluas daripada GPU kepada CPU dan cip sokongan memori. Aplikasi inferens dan ejen pintar sedang mengubah komposisi pembelian perkakasan pelayan.

Tencent WorkBuddy mencatat 32.35 juta pengguna aktif bulanan, mendahului produk produktiviti pejabat AI

Kuai Keji, yang memetik data kedudukan, melaporkan bahawa Tencent WorkBuddy mencatat jumlah keseluruhan 32.353 juta pengguna aktif bulanan, meningkat 647.1% berbanding suku sebelumnya [6]. Baidu Dazi berada di tempat kedua dengan 9.77 juta pengguna aktif bulanan dan pertumbuhan 1567.5% berbanding suku sebelumnya, yang tertinggi antara semua produk; Alibaba Qianwen Office berada di tempat ketiga dengan 7.905 juta pengguna aktif bulanan [6].

Mengapa ini penting: Produk produktiviti pejabat AI daripada syarikat teknologi gergasi sedang berkembang pesat. Perbezaan kedudukan dan kadar pertumbuhan juga menunjukkan bahawa persaingan dalam segmen ini masih belum muktamad, menjadikannya wajar diberi perhatian oleh perusahaan yang memilih produk serta para pembangun.

Imej: Tangkapan skrin kedudukan produk produktiviti pejabat AI mengikut pengguna aktif bulanan (Sumber: Kuai Keji (Sina Tech))

Kesatuan pekerja Micron Taiwan merancang mogok untuk menuntut bahagian daripada keuntungan memori AI

The Next Web melaporkan bahawa rundingan bonus antara pekerja Micron Taiwan dengan syarikat itu telah menemui jalan buntu, dan kesatuan pekerja merancang untuk mogok [7]. Menurut laporan itu, pertikaian tertumpu pada bonus, bukannya gaji pokok; pesaing Micron dari Korea Selatan, Samsung dan SK Hynix, telah mengaitkan bonus dengan keuntungan syarikat [7]. Kesatuan pekerja Taichung masih belum mengadakan undian mogoknya sendiri [7].

Mengapa ini penting: Kenaikan harga memori yang dipacu AI telah melonjakkan keuntungan pengeluar cip. Pekerja kini menuntut bahagian daripada keuntungan tersebut, dan hubungan perusahaan mungkin menjadi faktor baharu yang mempengaruhi bekalan memori.

Angka sepintas lalu

• 2592 EFLOPS: Kapasiti pengkomputeran pintar China setakat akhir September, meningkat 146% berbanding tahun sebelumnya [3]
• Lebih 100 produk: Produk peranti AI yang memenuhi keperluan tahap bantuan L3 [4]
• 1.20–1.30 bilion yuan: Anggaran keuntungan bersih Montage Technology yang boleh diagihkan kepada pemegang saham syarikat induk bagi suku ketiga [5]
• 32.353 juta: Jumlah pengguna aktif bulanan Tencent WorkBuddy [6]
• Kira-kira AS$1.1 bilion: Had maksimum bayaran pencapaian dalam kerjasama METiS Tech dengan Eli Lilly [10]

Berita ringkas

• Nomura Securities: Mengekalkan saranan beli bagi Samsung Electronics dan SK Hynix, dengan harga sasaran masing-masing 670,000 won dan 4.7 juta won, serta berpendapat kebimbangan terhadap pengeluar memori China yang semakin mengejar adalah berlebihan [9]
• Elice: Saham syarikat awan AI Korea Selatan, Elice, jatuh pada hari pertama penyenaraiannya di KOSDAQ; sambutan hangat terhadap langganan saham tidak berterusan di pasaran sekunder [8]
• METiS Tech: Menjalin kerjasama dengan Eli Lilly dalam teknologi penghantaran LNP dipacu AI, dengan bayaran pendahuluan melebihi AS$10 juta dan bayaran pencapaian sehingga kira-kira AS$1.1 bilion [10]
• Kementerian Pengangkutan: Menerbitkan garis panduan kumpulan pertama senario aplikasi AI dalam sektor pengangkutan air, serta senarai 10 ejen pintar dan 10 model khusus sektor yang dirancang untuk disiapkan pada 2027 [11]
• Pentadbiran Ruang Siber Guangdong: Guangdong menambah 7 perkhidmatan AI generatif yang telah melengkapkan pendaftaran, menjadikan jumlah keseluruhan 108 [12]
• Kementerian Luar Negeri: Sebagai respons terhadap arahan kerajaan AS supaya agensi menghentikan penggunaan DeepSeek, kementerian menyatakan bantahan terhadap tindakan mempolitikkan isu sains, teknologi, ekonomi dan perdagangan [13]
• Metis: Bekas penyelidik Google DeepMind menubuhkan syarikat AI di London, dengan pendekatan yang menolak laluan “model lebih besar, belanjawan latihan lebih tinggi” [14]
• GMO: Syarikat keselamatan Jepun itu menyatakan bahawa ia telah mengesan 6 pelayan yang melancarkan serangan dipacu AI; kerajaan Jepun menyeru syarikat memperkukuh pertahanan siber [15]

Pemerhatian editorial

Apabila beberapa perkembangan hari ini dilihat secara bersama, kami berpendapat bahawa tumpuan persaingan AI sedang beralih daripada “model siapa yang lebih hebat” kepada “siapa yang boleh menjalankan model dengan lebih murah dan lebih stabil”. Tindakan DeepSeek membuka sumber rangka kerja inferensnya dan penekanan Metis terhadap kecekapan pengkomputeran menjurus kepada persoalan yang sama: kos inferens. Pada masa yang sama, permintaan inferens telah memberi kesan kepada CPU, cip antara muka memori dan storan. Prestasi Montage Technology, penilaian Nomura mengenai kekurangan bekalan memori serta pertikaian buruh Micron semuanya mencerminkan kesan sepanjang rantaian ini. Yang menarik perhatian ialah DeepInfer menyokong kedua-dua NVIDIA dan Ascend. Dalam keadaan sekatan luar semakin bertambah, keserasian pada lapisan perisian mungkin menjadi kunci kepada penggunaan kapasiti pengkomputeran buatan China dalam aplikasi sebenar.

Perkembangan yang perlu dipantau

• 22 Oktober: Tarikh mogok yang dirancang oleh kesatuan sekerja Micron Taiwan; pantau sama ada mogok berlangsung seperti dijadualkan serta kesannya terhadap pengeluaran [7]

Sumber rujukan

1. DeepSeek mengumumkan rangka kerja inferens dalamannya DeepInfer akan dijadikan sumber terbuka sepenuhnya, dengan matlamat meluaskan akses kepada model berskala besar — IT Home, diakses pada 2026-10-20
2. deepseek-ai/DeepInfer — DeepSeek (GitHub), diakses pada 2026-10-20
3. Kementerian Perindustrian dan Teknologi Maklumat China: Kapasiti pengkomputeran pintar meningkat 146%, rangkaian persendirian 5G industri melebihi 26,000… Industri telekomunikasi berkembang stabil — People's Posts and Telecommunications News (Sina Tech), diakses pada 2026-10-20
4. Kementerian Perindustrian dan Teknologi Maklumat China: Telefon dan komputer AI model perdana kini mampu melaksanakan tugas secara autonomi pada peranti, terminal AI beralih daripada "respons pasif" kepada "perkhidmatan proaktif" — Red Star News (Sina Tech), diakses pada 2026-10-20
5. Permintaan CPU pelayan meningkat, Montage Technology: Keuntungan bersih suku ketiga dijangka meningkat 154%–175% berbanding tahun sebelumnya — Caiwen (Tonghuashun), diakses pada 2026-10-20
6. WorkBuddy Tencent menduduki tempat pertama: Pengguna aktif bulanan melebihi 32 juta, melonjak 647% berbanding bulan sebelumnya — MyDrivers (Sina Tech), diakses pada 2026-10-20
7. Pekerja Micron di Taiwan akan mogok selepas rundingan bonus dengan pengeluar cip itu gagal — The Next Web, diakses pada 2026-10-20
8. Saham Elice merosot pada penampilan sulung di KOSDAQ selepas IPO bernilai AS$151 juta — TechNode Global, diakses pada 2026-10-20
9. Nomura mengekalkan saranan beli untuk Samsung dan SK hynix, menjangkakan kekurangan memori berterusan hingga 2028 — Seoul Economic Daily, diakses pada 2026-10-20
10. METiS Tech menjalin kerjasama strategik dengan Eli Lilly untuk memajukan teknologi penghantaran LNP khusus tisu generasi baharu — Caiwen (Sina Finance), diakses pada 2026-10-20
11. Garis panduan pertama bagi senario aplikasi kecerdasan buatan dalam sektor pengangkutan air diterbitkan — Yicai (Sina Finance), diakses pada 2026-10-20
12. Wilayah Guangdong menambah 7 perkhidmatan kecerdasan buatan generatif yang telah melengkapkan pendaftaran — Jiemian News (Sina), diakses pada 2026-10-20
13. Kementerian Luar China mengulas arahan kerajaan AS supaya agensi menghentikan penggunaan DeepSeek: China menentang pempolitikan isu teknologi, ekonomi dan perdagangan — IT Home, diakses pada 2026-10-20
14. Bekas penyelidik terkemuka Google DeepMind melancarkan syarikat AI “cekap pengkomputeran” di London — Tech.eu, diakses pada 2026-10-20
15. Alat AI China digunakan dalam serangan siber di Jepun, menurut firma keselamatan — The Korea Times, diakses pada 2026-10-20