如果我们问人工智能系统要如何消灭新冠病毒，而系统给出的答案是“杀死所有人类”；如果有一天，人工智能自我学习能力增强，创造出自己的语言，人类都不知道它们在想什么……我们该怎么办？

　　“为之于未有，治之于未乱”，发展负责任的人工智能，这是2020世界人工智能大会治理论坛给出的方案。7月10日下午，2020世界人工智能大会治理论坛在线上举行，数十位国内外专家围绕人工智能发展中出现的问题及如何解决难题，发表了精彩观点。

　　中国科学院院士何积丰介绍，人类社会和人工智能技术目前的关系可以被概括为四类：辅助关系、人机合作、互动关系和竞争关系，其中暗藏人工智能给人类社会带来的风险。例如在人机合作中，主刀医生在计算机上看到达芬奇机器人视觉系统反映的情况，但有时机器人视觉系统受到污染，就可能出事故。

　　图灵奖获得者约翰·霍普克罗夫特（John Hopcroft）举例解释了人工智能“不近人情”的一面。如果我们问人工智能系统要如何消灭新冠病毒疫情，系统可能给出的答案是“杀死所有人类”。“这显然不是我们想要的解决方案”。

　　人工智能看似独立公正，事实上却隐含着各种歧视，这是众多与会专家关注的焦点。约翰·霍普克罗夫特表示，当前大多高层职位都由男性担任，人工智能程序在执行高层职位人员选聘流程时往往会选择男性。清华大学苏世民书院院长薛澜提及“算法黑箱”，也就是俗称的“大数据杀熟”，这使得企业对用户歧视可以采取更加高明的手段，损害很多用户的利益。

　　此次论坛上，上海国家新一代人工智能创新发展试验区专家咨询委员会，发布了“协同落实人工智能治理原则的行动建议”（上海AI治理协同行动9条），提出了“一平台、四工作、四体系”的行动方案建议，落实人工智能治理原则。

　　“一平台”即构建全球合作网络和交流平台，推动全球人工智能治理研究和协作共同体的形成；“四工作”是推进人工智能治理标准规范的制定、推动建立行业自律、总结推出最佳实践、推动安全可信技术研发；“四体系”是致力于建立人工智能治理的评估体系、监管体系、人才体系、保障体系。据悉，这是国内第一次提出的系统落实国家人工智能治理原则的行动建议方案，将为进一步推进人工智能治理提供参考