群联电子执行长潘健成接地气 一圆普世AI梦

群联期待与其他人一起建立地端生成式AI生态系，告诉大家这会赚钱。 图／颜谦隆

群联电子执行长潘健成 摄影／颜谦隆

小档案 潘健成

人工智慧（AI）风起云涌，四大云端服务供应商（CSP）大厂包括亚马逊（Amazon）、微软（Microsoft）、谷歌（Google）和脸书（Meta）纷纷投入巨资，抢食AI云端运算大饼，群联电子执行长潘健成选择从地端AI运算与储存系统切入，以全新的「平民AI」，打造家用运算（Home Computing）新世界。

潘健成说，四大CSP厂打是天上的军备竞赛，动辄数十万美元至数百万美元起跳，但广大的企业及个人，无法负担这笔昂贵的支出，却又想快速跨入AI领域，提升自己的竞争力，该怎么办？群联提出的「平民AI」，就是答案。以下为潘健成接受本报独家专访摘问。

AI要平民化 需微调训练

问：在储存市场上，生成式AI对记忆体带来很大的改变，您怎么看这个趋势？

答：生成式AI是什么？一个是训练（training），另一个是推理（inference），训练和推理是机器学习和深度学习中不可或缺的两个步骤。

其中，训练是从无到有、深度学习重要的策略，这包括预先训练（pre-training）：即设计一个方程式，通过大量数据进行学习，这需要GPU及高频宽记忆体（HBM），HBM就等同32条高速公路，运算才跑得快，但这是四大CSP厂投入巨资，去做的云端运算生意，不是群联的领域。

而微调训练（fine-tuning）：企业、金融机构及政府单位通过AI，完成特定任务，答案要标准化与精准化，所以通用型AI模型需要fine-tuning，这必须依靠应用场景单位组织自己微调通用型AI模型，以达到自己想要的目的。

AI模型微调训练涉及隐私、资讯安全、甚至法规约束，许多企业、金融机构、与政府单位，不可能将自己的机密敏感资料，上传到云端，委由CSP厂商进行AI模型微调训练，因此产生了AI落地应用市场上的解决方案供给缺口。

群联看好此一市场潜力庞大，推出地端的AI模型微调运算解决方案，也就是该公司的AI人工智慧运算服务「aiDAPTIV+」技术方案，透过群联独家的专利客制化SSD，将SSD当作DRAM来使用，亦即群联ai100方案，扩充现有的AI伺服器与工作站（Workstation）的DRAM空间，甚至提升运算效能。

并把整体AI模型微调运算的硬体价格降下来，让产官学等各种机构与行业，都能够以「平民化」的方式，进行AI模型落地微调运算，扩大AI应用的普及率。

在群联AI方案公布后，已经引起很多人注意及询问，包括律师、会计师、银行、软体服务商、甚至IP公司等。

aiDAPTIV+ 能自主AI

问：「aiDAPTIV+」方案，在AI市场的优势是什么？

答：在AI产业，最大利益是美国人拿走了，第二大利益是韩国人（SK海力士的HBM毛利率75％），第三是台积电，再来是台湾组装厂，毛利率从3％，变成10％。

但目前台湾的AI，都是被动式的，美国人叫你做什么，你就做什么，有主动式的吗？群联的「aiDAPTIV+」方案，就是主动式AI，也是所谓的「平民AI」，因为我要做到便宜又好用，可以符合广大企业及个人的运算及储存需求。

很多人问我，什么是创新，我的回答是：市场有需求，但是供应商没有方案，所以我要找出方案。

群联的「aiDAPTIV+」，是群联AI小组研发人员自主开发而成，他们是一群打电动小子。2023年他们想要花200万美元，建构群联内部使用的GenAI模型微调训练设备，但由于2023年景气状况不佳，群联的AI研发团队，就决定自己动手做。

在群联擅长的SSD领域，研发创造出独家专利的ai100技术方案，将SSD与现行的AI伺服器与工作站进行无缝整合，扩充AI伺服器与工作站里的DRAM，提升AI模型的运算规模甚至效能，让群联内部的AI研发团队在低成本的条件下，成功打造出群联内部自用的生成式AI助理。

群联了解市场上对生成式AI的落地应用的迫切需求，因此，将此方案进行产品商业化后，开始大力推广。

AI要普及 便利是必需

问：为什么地端的生成式AI模型微调训练有商机？

答：因为现在生成式AI运算硬体产品门槛很高，我们都知道很贵，但我的AI方案「价格很平民」，且可以符合现代商业环境中Home Computing的封闭不连网路的安全使用场景。

只要用二家（辉达及超微）的GPU卡，加上我的固态硬碟（SSD），就可以把价格大幅往下降，并做到一模一样的事。大家不需要买最贵的，最高级的GPU，因为开Toyota，或BENZ去高雄，都会到达目的地。

其次是「使用者便利性」，在PC DOS时代，只有工程师会用编码，但有了win 95，小孩也会用。我已解决了生成式AI运算成本太贵的问题，现在要解决的是，只有工程师会使用的问题。

所以，群联积极寻找合作伙伴加入，要找系统整合（SI）、软体公司，整合各种AI模型微调训练的上下游伙伴，让终端使用者滑鼠拉一拉，跑一跑，就可以自己进行AI模型微调训练，接着在电脑萤幕画面上，问一问，就可以得到终端使用者自己专业领域想要的精确答案。

生成式AI 活化PC产业

群联期待与其他人一起建立地端生成式AI生态系，告诉大家这会赚钱，完成台湾客制化生成式AI，这是主动式AI，不是被动式AI，想想看，这可以造就多少就业机会，而且可以迅速让生成式AI应用迅速全球普及。

台湾的PC产业曾创造辉煌纪录，但这群人现在比较辛苦，毛利比较差，我们现在做的是类PC的概念，重新定义Home-computing概念，站在PC的基础上，向上冲刺生成式AI商机。

我大学毕业时，政府在推动工业2.0政策，补助工厂投资智慧机械手臂，进行生产自动化，当时的智慧机械手臂，一个要花费新台币1,500万元，20年后，一个机械手臂只要15万元，现在半导体全工厂都是智慧机械手臂。

我预期，在群联的「平民AI」推出后，生成式AI运算从天上到地下，可以更快普及。

过去几年市场，曾出现一些让人很兴奋的题材，像AR、VR，但我觉得不兴奋，因AR、VR不够具有利基条件，也不是「必要」产品，但生成式AI是「必要」产品，企业愈早进入生成式AI领域，将愈有竞争力。