广和通:“轻量级”小模型如何发挥“重量级”作用?

Release time:2024-07-30
author:AMEYA360
source:广和通
reading:1584

  当大家都还在钻研参数规模达百亿甚至千亿级的大模型时,精巧且兼具性能的小模型已逐步应用于边缘智能终端与嵌入式系统,以“小身板”发挥大作用。相较于大模型,小模型更便于在计算能力和存储空间受限的智能终端运行,在边缘侧即完成计算。

广和通:“轻量级”小模型如何发挥“重量级”作用?

  端侧AI模型的趋势,变得“越来越小”。

  大模型指的是参数量巨大的机器学习模型,参数数量通常在数百亿到数千亿之间,具有强大的计算能力和推理能力,获得更好的性能。“小模型”则是参数量在数亿到数十亿之间,存储和计算资源方面的需求相对较低,能够在端侧进行部署和推理。

  为达到更好的训练效果,小模型的训练语料库可能比大模型更强大,使每一个参数更具价值。另一方面,以大模型为基础,通过知识蒸馏(Knowledge distillation)、量化、剪枝等模型压缩方法也是打造高质小模型的方式之一。今年4月,Meta发布了最新一代大模型Llama 3,其小参数模型效率高于Llama 2的大参数模型。如何让更小的模型具备更好的效果,已然是大模型公司的竞争焦点。

  相比于不得不部署于云端的千亿参数大模型,小模型可在边缘侧实现快速部署和运行,提高终端边缘计算能力和效率。这种“瘦身型”AI算力部署,将提高智能终端的运算能力,实现更多自我学习、自我工作、自我决策的功能。

广和通:“轻量级”小模型如何发挥“重量级”作用?

  广和通基于高通QCM6490处理器的解决方案搭载了8核高性能处理器,其最高达13TOPS的算力可高效地进行数据计算与处理,运行各类0.5B/1.8B/3B/7B的开源大语言模型,为智能支付、自助服务机、工业检测、具身智能等终端提供了边缘计算的能力。此外,该解决方案还可运行精简小模型,帮助客户在成本、性能、存储、效率上达到平衡。

广和通:“轻量级”小模型如何发挥“重量级”作用?

  无论是大模型,还是小模型,应用的根本是打造离用户更近的模型,助力各类场景智能化。面向端侧AI部署需求,计算效率高、资源占用少、快速迭代的小模型更能定制化地实现边缘计算能力,充分发挥“高效率”的大作用。


("Note: The information presented in this article is gathered from the internet and is provided as a reference for educational purposes. It does not signify the endorsement or standpoint of our website. If you find any content that violates copyright or intellectual property rights, please inform us for prompt removal.")

Online messageinquiry

reading
再添新将!基于三星Exynos Modem的广和通5G模组Fx550正式全球量产
  3月31日,广和通宣布:基于三星Exynos Modem平台开发的5G模组Fx550(包含LGA封装的FG550及M.2封装的FM550)已正式实现规模化量产。该产品的推出及量产不仅标志着广和通与三星战略合作的深度落地,更将为全球5G FWA(固定无线接入)及泛IoT领域,如无线固话、MiFi、行业网关等提供兼具极致性能与卓越可靠性的连接方案。  强强联手:共筑5G连接新高度  此次量产是广和通与三星达成深度战略合作的核心成果。三星5G芯片方案历经全球市场的海量出货验证,以其高度的稳定性、卓越的射频性能及广泛的全球兼容性著称。双方通过技术整合,旨在发挥各自在芯片底层架构与行业应用积累上的优势,共同推动5G技术在全球垂直行业的深度渗透与普及。  三星电子执行副总裁兼系统LSI 调制解调器研发团队负责人Jungwon LEE:  三星很高兴能深化与广和通的战略合作,共同推进面向全球市场的下一代 5G 连接解决方案。 广和通Fx550 模块的成功量产,印证了双方在为固定无线接入(FWA)和宽带物联网(IoT)应用提供前沿连接时,对创新、性能和可靠性的共同承诺。在AI时代,我们正共同构筑更智能、更互联的行业基石。    广和通无线解决方案事业群副总裁兼MBB事业部总经理陶曦表示:  非常荣幸能与三星电子达成独家合作,并率先实现大规模量产,并实现市场验证进入泛IoT领域。随着Fx550-EAU、JP、MEA等多个区域版本的同步推进,广和通将助力全球企业在高速连接的赛道上跑出‘加速度’。    核心优势:Fx550 赋能行业数字化转型  Fx550模组依托三星Exynos Modem平台,在先进制程、传输标准及组网灵活性上树立行业新标杆:  • 支持 Rel.16 标准,赋能高可靠通信  Fx550全面兼容 3GPP Rel.16 标准,凭借低时延、高带宽的特性,精准满足FWA与泛IoT领域对实时数据交互与大容量传输的需求。  • 多载波聚合技术,突破速率上限  在SA模式下,Fx550支持最高 NR 5CC 载波聚合(200MHz频宽),下行峰值速率达 4.67Gbps。在较窄的射频带宽内灵活、高效聚合离散化频谱的差异化能力,为全球运营商提升用户体验提供了独特的商业价值,最终赋能行业和家庭客户。在NSA模式下,Fx550最大支持 NR 2CC + LTE 5CC 聚合,下行速率高达 6.47Gbps。在LTE网络下,Fx550最大支持Cat.20,完美覆盖全球4G实网能力。多载波聚合技术突破能有效助力运营商提升频谱利用率,在复杂网络环境下确保极速连接。  • 开放架构,优化系统成本  Fx550 采用高性能 Modem 架构,已完成与行业主流 AP(应用处理器)方案,如博通、瑞昱等的深度适配。这种深度兼容性赋予了开发者更灵活的设计选择空间,在保证整机性能的同时,实现开发成本的最优控制,更为全球ODM提供了多样化的产品选择,助力终端客户打造产品差异化优势。此外,Fx550还兼容Linux、OpenWRT、RDK-B、PrpIOS等OS,有利于FWA整机快速开发、复用软件资产,且能够快速升级到最新的Wi-Fi Mesh版本、提高CPE设备的Wi-Fi兼容性。  全球布局:多版本覆盖主流市场  为满足不同地域的入网标准,Fx550 同步推出了 FG550-EAU(欧洲/亚洲/澳洲)、FM550-EAU(欧洲/亚洲/澳洲)、FG550-JP(日本)、FG550-NA(北美)以及 FG550-MEA(中东/非洲) 等多个区域版本。目前,Fx550可为全球多个地区提供产品服务与技术支持。  Fx550 实现量产是广和通构建 5G 全球生态的关键一步。未来,广和通将继续携手三星等全球产业伙伴,深耕 5G 技术创新,通过不断迭代的连接解决方案,加速 5G FWA 及IoT应用在全球范围内的繁荣与普及。
2026-04-01 09:34 reading:254
广和通×高通 | 直播揭秘:基于高通X85的无人智控终端如何告别“失联”焦虑?
广和通携手高通:以基于高通X85的解决方案赋能无人智控移动终端
  从人机协作到具身智能的爆发,2026年机器人热潮正席卷全球。从穿梭于城市街道的无人配送车到能熟练分拣的机器人,物理世界的移动智能体正从“特定封闭场景”向“全域无人控制”演进。“连接的确定性”已成为衡量无人控制移动终端成熟度的核心指标和生命线。广和通基于高通X85的5G-A平台,推出可应用于无人智能控制场景的模组及解决方案,为具身机器人、无人机、无人出租车(Robotaxi)及 AGV 提供了集高速率、双链路并发、安全冗余与实时感知于一体的通信方案。  物理级安全冗余:DSDA 带来“双链路并发”  在无人控制领域,单链路连接意味着单点故障风险。基于X85的广和通方案成功调通了 NR DSDA(5G双卡双通) 技术,实现无人智能设备在移动过程中的无感联网:  • 业务隔离: 无人机巡检或 Robotaxi 行驶时,广和通模组可同时支持两个运营商联网。一条链路锁定控制指令(C2),另一条链路负责传感器数据回传,互不挤占带宽。  • 链路备份+无感切换: 面对复杂城区或高空信号盲区,X85 的DSDA能力,可在主链路波动时实现微秒级的跨运营商无感切换,最大程度保证数据和指令不掉线。  极致带宽:高清图像与感知的实时回传  无人化场景不仅需要“走得稳”,更要“看得清”。广和通方案基于高通X85平台的5G-A超大上行能力(T+T ULCA),突破了数据传输瓶颈(理论最高上行速率可达3.7Gbps)  • 多路高清回传: 支持多路 4K/8K 超高清视频流实时上传。在远程接管 Robotaxi 或无人机应急救援时,后方指挥中心可获得实时的视觉反馈。  • 这让地面控制站能够进行实时 AI 图像分析,实现高精度的避障与目标识别。  智慧工厂的精准协同:AGV 的高可靠进化  在智慧物流中心,成百上千台 AGV 的高频调度对网络容量和稳定性提出了严苛要求:  • 抗干扰与确定性时延: 广和通 X85 模组支持 URLLC(超高可靠低延迟通信),在金属遮挡严重的工业环境中,依然能保持极低的时延扰动,确保 AGV 毫米级的同步精度。  • 端云协同:5G高带宽使得AGV全量的状态数据(电机、电池、传感器日志)得以实时上传至云平台。结合云端AI分析,可实现预测性维护,在故障发生前提前预警,变“被动维修”为“主动维护”  DSDA技术在X85平台上的成功调通,意味着终端客户无需在多模组方案(增加体积和功耗)与单链路风险之间做权衡。广和通以单模组方案实现了双倍的连接保障。随着5G-A商用的全面展开,广和通为全球合作伙伴提供更高功率、更强韧性的连接基础。
2026-03-23 10:53 reading:357
AI赋能5G-A智驾新时代:广通远驰车规模组AN778再进阶
  • Week of hot material
  • Material in short supply seckilling
model brand Quote
MC33074DR2G onsemi
CDZVT2R20B ROHM Semiconductor
RB751G-40T2R ROHM Semiconductor
TL431ACLPR Texas Instruments
BD71847AMWV-E2 ROHM Semiconductor
model brand To snap up
TPS63050YFFR Texas Instruments
BP3621 ROHM Semiconductor
BU33JA2MNVX-CTL ROHM Semiconductor
STM32F429IGT6 STMicroelectronics
ESR03EZPJ151 ROHM Semiconductor
IPZ40N04S5L4R8ATMA1 Infineon Technologies
Hot labels
ROHM
IC
Averlogic
Intel
Samsung
IoT
AI
Sensor
Chip
About us

Qr code of ameya360 official account

Identify TWO-DIMENSIONAL code, you can pay attention to

AMEYA360 weixin Service Account AMEYA360 weixin Service Account
AMEYA360 mall (www.ameya360.com) was launched in 2011. Now there are more than 3,500 high-quality suppliers, including 6 million product model data, and more than 1 million component stocks for purchase. Products cover MCU+ memory + power chip +IGBT+MOS tube + op amp + RF Bluetooth + sensor + resistor capacitance inductor + connector and other fields. main business of platform covers spot sales of electronic components, BOM distribution and product supporting materials, providing one-stop purchasing and sales services for our customers.

Please enter the verification code in the image below:

verification code