资料失真 为生成式AI大硬伤

目前生成式AI最著名的就是ChatGPT，而Google、微软、百度等网路企业，也都积极研发不同种类的生成式AI，尽管方向稍微不同，但是功能都差不多，就是让使用者输入问题后，立刻搜寻云端资料库，产生出具有人性化、有情绪性、有组织的摘要或文章。

IDC指出，知识管理是生成式AI最重要的使用范例，可搜寻整个企业中不同类型的图像、文档、语音等讯息。

另外，程式工程师也可用生成式AI来创建、优化、测试程式码，提高工程师的生产力和程式代码的质量。

连服务业也可以使用生成式AI，来提供销售人员高度订制化的营销内容，甚或创建针对搜寻引擎的优化内容。

不过生成式AI是靠捞云端资料库的内容来重新编写文案，因此云端资料库内容的正确与否将影响最后产出的正确性，成为生成式AI发展过程中最大的硬伤。

IDC亚太地区研究部大数据和人工智能研究主管Deepika Giri指出，生成式AI可能以全新的方式重新构想组织格局，但仍须仔细评估实施相同方法的内在复杂性和风险。

Giri认为，生成式AI技术现仍处于早期阶段，供应商尚无法完全解决围绕这项突破性技术的隐私、安全、准确性、版权、偏见和滥用问题。

全球也非常关注目前尚不受到监管的生成式AI应用，包括数据隐私和安全、智慧财产权、滥用产出内容等等问题。例如日本即成立一个委员会，要在生成式AI技术上跟国际接轨，而中国国家互联网信息办公室则提出对生成式AI的评估，但目前亚太地区还未有政府针对生成式AI制定任何形式的法令规范，恐成为数位经济创新发展上的阻碍。