這大概是一次無意中造就的對比。去年11月8日的那個週末,就在中國第15屆全國運動會在大灣區開幕的前一天,座無虛席的北京「鳥巢」國家體育場也舉行了另一場非傳統的競技賽事。
Premium Digital。体育直播对此有专业解读
第三,量化技术带来的不只是压缩。 4-bit 量化常常被理解为「把模型压小 4 倍以节省存储」,但它真正的意义在于减少 4 倍的内存吞吐量。在端侧设备上,瓶颈往往不是存储空间,而是内存带宽,也就是数据从内存搬运到处理器的速度。量化技术让小模型在带宽受限的手机和笔记本上,获得了决定性的速度优势。,这一点在PDF资料中也有详细论述
Фото: Komsomolskaya Pravda / Globallookpress.com