《科创板日报》9月7日讯（特约记者 陈俊清）这波AI是不是泡沫？AI的下半场到底应该卷哪个领域、哪个方向？如何规避AI带来的风险？

本届外滩大会首设科技智能创新大赛，在该赛事套论坛的圆桌论坛环节，蚂蚁集团副总裁、蚂蚁数字科技首席技术官王维、同济大学计算机科学与技术系副主任、CCF数字金融分会秘书长卫志华、MiniMax副总裁刘华、钉钉首席运营官傅徐军、复旦大学计算机科学技术学院副院长彭鑫就以上问题发表各自见解。

▍这波AI是不是泡沫？

关于这轮AI是不是泡沫这回事，复旦大学计算机科学技术学院副院长彭鑫的回答是：“肯定不是”

他认为，一方面，确实要承认AI进步是突破性的进展，而且确实对于各行各业都会带来非常大的变化。另外一方面，不要把AI神话，最终产生的价值一定是渗透到各个领域，和不同领域本身的规律、专家经验相结合，慢慢进行赋能。

与彭鑫持相同观点，同济大学计算机科学与技术系副主任、CCF数字金融分会秘书长卫志华也表示AI不是泡沫，但他认为AI还有很长的路要走。

“最近大模型是很火，但是大家可能并不真正了解其性能好到哪里，可能只是被很多宣传有些影响。泡沫肯定不是，但是也没有现在说得那么好，需要踏踏实实地下来，把数据做好。数据是最重要的输入，如果输入有问题，输出肯定有问题。”

蚂蚁集团副总裁、蚂蚁数字科技首席技术官王维分享了两个观点：“我倾向于严格意义上说AI有一点泡沫，但我认为泡沫在合理的范围内”。他认为，每个创新、每个技术变革都需要一条曲线，都需要有从繁荣到脚踏实地的过程，最终通过产品和技术的成熟逐步发挥更大的社会价值或者经济价值。

另外一个观点是，AI发展到现在经历了多轮热潮，每隔一个时代都会急需很多对人工智能的想象和憧憬，所以这轮通过OpenAI为代表的一些公司，把更多行业对这里面的期待点燃了。

MiniMax副总裁刘华对看法是没有泡沫，“我们认为这波以大模型为代表的人工智能技术引领了这波科技革命，不是像上一波互联网处于技术层面，是对社会方方面面影响更加深刻的一次全面的革命。大模型技术现在还是处于非常早的早期，我们对现在大模型的准确率也不是特别满意。

钉钉首席运营官傅傅徐军认为大模型技术并非泡沫，而是因为技术发展的现实与期望之间的差距造成了这种错觉。尽管存在挑战，但大模型相较于之前的技术如元宇宙、AR/VR等发展更快，预计3-5年内将带来显著变化。

▍大模型应该卷什么？

“大模型很多地方都是可以卷的，答案并不唯一。”王维指出，传统的计算架构在能耗、算力精度和成本等方面难以满足大模型的需求，导致现有基础设施在大模型时代存在诸多不适应。尽管如此，大模型技术使许多原先无法实现的应用成为可能，但目前仍存在投入产出比不高的问题。未来三到五年内，各行业将在不同层面上经历由大模型带来的变革，这意味着许多领域值得重新审视和探索，机遇众多且答案并不唯一。

面对激烈的竞争，企业要想脱颖而出，关键在于发挥自身的优势。企业应充分利用其行业理解、技术储备、团队实力以及数据积累。特别是数据质量对AI算法效果至关重要，拥有优质数据集的企业更具竞争力。因此，企业需找到适合自身的发展方向，充分发挥自身优势，以实现创新和突破。

卫志华认为，产业界的大模型发展目前处于粗放阶段，数据未经精细处理便直接使用，模型效果也缺乏明确标准。为提高效率，应重视精细化的数据标注和模型设计，而非一味增加算力成本。

彭鑫指出当前大模型存在同质化严重和资源浪费的问题。应减少基础大模型的数量，专注于深耕特定领域。大模型的应用应像教育体系一样分层，企业应在各自的专业领域内发挥大模型的价值。

具体而言，企业需要有整体的系统观，将大模型与软件结合，应用于企业级的深层场景。大模型不仅是浅层消费级应用，还需与行业知识和专用算法相结合，才能更好地赋能各行各业。

当前大模型同质化严重，资源浪费，应减少基础大模型数量，专注于深耕特定领域，彭鑫这样说道。大模型应用应分层，如同教育体系中的小学、中学和大学，企业应在各自领域内发挥大模型的价值。企业需具备系统观，将大模型与软件结合，应用于深层场景。在特定领域，大模型需与行业知识和专用算法结合，才能真正赋能。企业应先做好数字化和知识化积累，再结合大模型，才能实现更大价值。

▍AI风险如何规避？

如何让AI真正地向善，让AI技术实现普惠是当下热点话题。

卫志华表示，大模型的安全问题比传统计算机安全更为复杂，包括数据可靠性和价值观对齐等问题。数据中存在的歧视和价值观偏差难以完全过滤，如性别和种族歧视等，这使得大模型的安全管理变得困难。此外，大模型的广泛应用降低了犯罪分子的作案成本，增加了信息安全风险。防范措施往往滞后于攻击手段，使得安全防护处于被动状态。

虽然大模型安全问题复杂，但王维表现态度较为乐观。他引用“明枪易躲，暗枪难防”和“魔高一尺，道高一丈”的说法，强调通过红蓝攻防对抗可以有效应对技术漏洞。大模型时代需要产学研各界合作，共同举办攻防比赛等活动，提高公众意识。

刘华赞同王维的观点，认为科学技术是双刃剑，既能成为助手也能成为犯罪工具。大模型技术在提升图像和视频生成质量的同时，也可能被用于Deepfake诈骗。

技术演进不能停止，但必须遵循科技向善的原则，加强对技术使用的监控和监测，并对不当用途进行严惩以威慑犯罪分子。闭源模型相对更安全，因为模型代码不可见，调度平台自建，能了解客户及其应用场景，从而确保技术的安全使用。

傅徐军则表示应当设计一些隐私计算：“为了保障隐私和安全，大模型需在特定域内部署，数据不得流出，并且不允许用于进一步训练。钉钉采取了多种措施，包括私有化部署、审计机制和端到端加密，确保数据安全。虽然这些措施增加了成本，但能更好地为客户服务”。