光之树科技张佳辰：“四管齐下”确保AI数据安全合规 | 聚焦WAIC

7月8日下午，以“智联世界·生成未来”为主题的2023世界人工智能大会（WAIC）在世博中心闭幕。

2023世界人工智能大会于7月6日至8日在上海召开，本届大会吸引了众多领域的专家、学者和企业家参会。作为科技行业的一名企业家，这是光之树科技创始人兼CEO张佳辰第三次参加大会，她在现场接受《国际金融报》记者采访时对大会的专业度给予了充分肯定，同时，她还向记者分享了参加本届大会的感受和对生成式AI目前发展现状以及未来的看法。

“本次大会的第一大看点是大模型，尤其是国产大模型正在进入百舸争流的状态，各个厂商都在分享技术路线和商业化的实践；第二大看点是关于算力如何与模型结合的讨论；第三大看点则是如何解决AI带来的安全可信和伦理问题。”张佳辰表示。

(相关资料图)

谈及未来AI的发展，张佳辰还表示，科技的发展之路总是充满了偶然性，天才和机遇都很重要。

科技并非是线性发展

科技的发展总是突然迎来一段小爆发，从2014年的AlphaGo（人工智能围棋软件）到去年底的ChatGPT（通用聊天机器人）。

“这是一个正常的现象，科技的发展往往不是一个线性的过程，而是由一些关键的发现驱动技术的发展。”张佳辰向记者表示。

张佳辰回忆称，上一次整个AI行业突然大热并被外界充满期待，还是在AlphaGo刚出现的时候，深度学习神经网络的模型出现了大幅提升。去年AGI（通用人工智能）的出现对于整个TMT行业所带来的冲击非常大。

但现在的ChatGPT与AlphaGo有着明显不同。“AlphaGo的出现确实有很大象征意义，围棋被称为‘人类智慧圣杯’，但它可以战胜高水平棋手，大家当时进行了进一步推演，觉得它已经达到了极高的智能水平。不过，AlphaGo只是针对特定任务进行的深度学习，比如围棋、人脸识别和车辆识别等，但它没有进行一个范式的演化，由于传统算法限制并不能达到更通用的智能水平。”张佳辰表示。

她进一步分析称，“对于通用智能的追求，一直都是大家对于AI终局的一种预期。所以当ChatGPT出现之后，大语言模型可以在更广泛的任务中体现出更好的智能，离通用智能似乎更近了一步，用同样的方法能比较范化、多模态地去解决问题，包括最近可以开始证明数学定理。”

事实上，ChatGPT的出现让外界对AI的期待又上了一个新台阶，而在张佳辰看来，AI确实每一次都会在某个阶段出现大发展，类似“寒武纪生命大爆发”，“它的发展趋势是一浪接着一浪的”。

对于AGI的影响，张佳辰认为，首先，在成本端，它能帮助人类大幅降低在文字、图片处理上所花费的时间和成本；其次，它展现出了发掘新知识的可能性，可以帮助TMT行业发现一些新的商机和领域。但目前AGI还处在一个探索的过程，国内很多应用还在关注如何帮助企业降本增效，与当前经济运作周期有着密切关系。

数据隐私安全很重要

“大模型”是本届世界人工智能大会的重点话题，但它的进步需要海量的数据支撑，有关数据隐私的问题也被业界所担忧。

“生成式AI的出现对数据隐私带来的挑战非常大”，作为一名科技和AI的从业者，张佳辰在5年前选择了隐私计算技术这一赛道，创办了光之树科技有限公司，她认为，随着AI技术的发展，数据很重要，但更关键的问题是AI的可信和安全。

“隐私计算能够在AI中充当重要的支撑性技术，它能让AI在不暴露底层数据的情况下，完成联合的模型开发和数据预测等，它和需要海量数据的大模型是一个伴生的关系。”张佳辰表示。

如何做好隐私数据的保护预案，张佳辰表示要注意以下四个方面：

第一，个人信息的保护，这其中有两个问题，一个是AGI提供的信息是否都获得了个人相应的知情同意和授权，数据能否有合法性；另一个是，AI在运算的过程中是不是进行了充分的数据保护，尤其是隐私方面的数据。

第二，除了个人隐私，公司的商业机密数据同样重要，尤其是员工在使用ChatGPT时，需要注意网络安全，基于数据安全法来使用内容。

第三，ChatGPT是海外的大模型，不可避免会牵扯到数据跨境的问题，这需要有非常严格的审核机制。

第四，大模型上线后会有大量的关于算法公平性的一些要求，要做好相关评估和备案，防止出现危害性和不公平性的服务。

数据兼具风险和机遇

在她看来，目前的大模型发展对于中国以及隐私数据而言，既有风险也有机遇，这取决于如何建设一个健康可持续性的底层框架。

从风险角度来看，她认为，确实出现了很多公司在未经用户授权的情况下，将大量的用户数据投入到大模型中，不管是微观还是宏观层面，很多隐私数据都可能存在泄露的风险，严重时甚至出现个人人身安全风险。

“目前中国在内的很多国家已经建立了相关法律框架，来做好数据处理的合规管控。但难点在于，目前大部分公司的法务和IT部门对法规的要求不是特别了解。针对这些问题，我们开发了一整套自动化数据合规的系统，将这些法规对于企业的要求都变成一个标准流程。”张佳辰表示。

从机会角度来看，张佳辰表示，在数据资产合法的前提下，大模型给数据变现和流转提供了一个平台和机会。对于企业和个人而言，这提供了特别好的变现渠道，把数据变成财富。

“金融行业拥有较好的数据基础，很多AI功能会在金融行业先进行应用的开发。比如在浅层的营销或者偏深层的投资策略等。”张佳辰表示。

虽然合规限制可能会降低AI创新的速度，但张佳辰认为，最重要的是找到正确的发展方向和制定正确的发展框架。

AGI能胜任程序化工作

当AI离通用人工智能更近一步，在张佳辰看来，整个赛道就会变得更加火热，但与此同时，对一些行业而言更像是一把带着机遇和风险的“双刃剑”。

她认为，大语言模型的本质是让人机协同的范式发生了一次转变和改造，现在机器可以胜任一些文本编辑、图片处理等工作，但它还不能取代人类带来的创意性、结构性的想法。

从企业新的机会角度来看，她认为，AGI可以创造出全新的数据交互跟数据中台的模式，在业务层面上帮助企业实现数字化转型。

从工作岗位的角度来看，她认为，未来AGI会取代客服、营销、图片处理等工作，但同时也会让一些人借助AI功能实现想法。

“我其实比较期待是否有可能通过这样的一种模型的方式可以发现一些新的知识，而这些新的知识可以产生新的产品和服务，创造一些新的领域。”张佳辰表示。

未来还会有更强AI

“未来有可能出现比生成式AI更厉害的技术。”张佳辰认为，按照科技发展的规律，大家对生成式AI的预期有一些透支，但很多预期需要时间来消化。

从预期的角度而言，她认为AGI目前确实进入到了过热的阶段，未来两到三年，行业会重新恢复冷静，有些想法会被证伪，有些会成为行业的新应用。

“AGI离真正意义上的通用智能更近了一步，但它远远还没有做到，所以如果大家再一次失望也会很正常的，但是不能否认它还是经历了很大的发展。”张佳辰表示。

展望未来，她认为AI行业肯定还会冒出一些新的名词，或者新的想法。

“大模型目前真的是训练AI的最好方法吗？大模型真的需要基于大量数据来学习吗？能不能像小孩子一样，基于一些小的数据就能更快学习新的东西呢？”张佳辰表示，不管通用人工智能未来如何发展，效率和效果是驱动科技发展的核心指针。不过，人类在科技发展的道路上充满了偶然性，“天才和机遇都很重要”。

（文章来源：国际金融报）