中兴首席崔丽：AI无善恶，人类需担责

本文给大家分享的是中兴首席崔丽：AI无善恶，人类需担责的相关内容！

中兴首席崔丽曾说过：“AI无善恶，人类需担责。”这句话引发了人们对于人工智能的深思。

那么，我们如何看待人工智能的发展？它将会给我们带来哪些机遇和挑战？我们又该如何应对这些挑战？

这些问题值得我们深入探讨。

《财富》在上海举行了一年一度的商业女性峰会。本次活动以“女性智慧，引领复苏”为主题，邀请顶尖企业家、优秀企业家和意见领袖共同讨论最紧迫、最受关注的话题。

ZTE首席开发官崔丽应邀参加“建立负责任的人工智能”圆桌论坛，并讨论了如何建立负责任的人工智能，如何克服人工智能发展造成的“幻觉”现象，以及为什么更多的女性需要参与人工智能技术的发展。

峰会还举行了2023年《财富》中国最具影响力的商业女性名单和未来名单颁奖典礼。崔丽凭借其卓越的领导能力和对移动通信产业发展的积极贡献，第三次登上了未来名单。

技术本无善恶，应负责人工智能的建设、使用和监督

关于如何建立负责任的人工智能，崔李认为，大型或生成人工智能仍处于技术发展的早期阶段，技术、生态、市场迭代迅速，只有通过预测和思考提前解决未来可能出现的问题非常困难，她提倡“摸石头过河”，在底线，在开发中，结合应用场景继续解决问题。

“技术没有善恶，善恶在人。”崔李强调，人工智能的本质仍然是硅基、无机、数学，人类是碳基、有机生物，除了自然科学和社会科学，其认知、决策和行为具有深刻的文化、历史、价值观背景，人工智能本身甚至可能不明白什么是“责任”，更不用说“责任”，她提倡负责任的建设、使用和监督人工智能。

关于负责任的定义，崔丽表示，针对当前人工智能的主要挑战，行业为人工智能设定了3H的理想目标：Helpful帮助用户解决问题，Honest不捏造信息或误导用户，Harmless不能对人或环境造成身体、心理、社会伤害，符合人类价值观。

“这些原则非常广泛，我们需要更具体地考虑当前的挑战，如幻觉、黑盒子、隐私、偏见、滥用和资源消耗带来的无法解释和无法控制的问题。”崔丽指出，为了应对这些挑战，我们需要在安全、公平、透明和高效四个方面努力工作。

还需要结合应用场景来考虑这个问题。

例如，大规模公共应用程序需要更加关注安全和公平，而特定领域的应用程序需要同时关注准确性、安全性、透明度和效率。

“对抗”AI“幻觉”

关于如何对抗人工智能发展造成的人工智能“幻觉”，崔李提出了三个建议：

一是“同理心，根据学生的才能”，如我们的虚拟概念或对齐要求，进入其背景，压缩空间或联合概率，完全回到更有效的工作模式，根据学生的才能，提高输出更准确内容的概率；

二是“原型知识提取，加强数据治理”。

例如，我们在给出虚拟概念时需要谨慎。同时，要提高常识或原型知识的优先级，而不是完全平等地考虑精调；

最后，“用魔法打败魔法”，我们可以使用Agent或多个优秀的大型模型来制衡它们。合理的组织设计可以减少错误的次数。

建设负责任的人工智能需要工业、企业、政府和个人的协同努力

崔丽呼吁建立负责任的人工智能需要行业、企业、政府和个人的合作。在行业方面，各方应共同努力，继续优化和创新数据集治理、算法优化、测试和审计、攻击防御、合规测试和保护等技术手段；在企业方面，加强自律，避免动机缺陷，从数据集、算法、模型测试、人工审计、监控迭代构建负责任的大模型。

在立法和监管方面，人工智能生成的内容可以被迫识别，客观问题和主观问题应该区别对待，如幻觉、黑盒子和其他客观问题、隐私、IPR、滥用等主观问题。法律法规也应与时俱进，加强对部分主观问题的约束。对于部分客观问题，应给予一定的容错空间，促进创新。我们可以尝试将现有的大模型纳入立法建设，尊重大模型的知识，赋能现有的监管体系；对于用户来说，我们不应该过度依赖，保持独立思考和批判性思维。

在促进人工智能发展的过程中，女性是不可或缺的力量

崔丽强调，在促进人工智能发展的过程中，妇女是不可或缺的力量，可能发挥更大的作用：“这是一个不确定性正常化的变化时代，感知和适应性行动比预测要好。

无论是数据治理、算法制定还是最终应用，都要充分发挥女性的优势。

例如，女性敏感性带来的高感知往往来自常识，女性通常更加宽容和同理心。

如果这些特征能有效地与男性的优势相结合，就能共同促进人工智能向更好的方向发展。”

这次，和中兴首席崔丽：AI无善恶，人类需担责有关内容就为朋友们整理到这里，更多优惠活动资讯信息可查看本站其他栏目。