在前不久落下帷幕的2019世界人工智能大会上，IBM首次全面阐述了如何通过构建“可信AI”系统来赋能城市建设的方方面面。IBM副总裁，大中华区首席技术官谢东指出，“可信人工智能城市模式将成为未来智慧城市的新形态。”

先从一个故事说起。50年前，为了帮助人类登上月球，IBM参与了阿波罗计划所有的计算任务，包括发射、航行、降落、着陆、与安全返回地球。

“在阿波罗11号抵达降落点上空约120米处，登月舱里突然警报声大作；NASA指挥中心也收到机载仪器故障、无法继续引导登月行动的信号。这时，NASA与阿姆斯特朗面临一个艰难的决定：“Go? Or No-go?”牵动着人类太空梦想的里程碑时刻，让所有人捏了一把汗。这时，身处控制中心里的IBM团队，根据无数次模拟测试的结果，坚定地给出了“继续执行降落任务”的建议。最终，阿姆斯特朗步出登月舱，在月球表面留下载入史册的脚印。NASA的飞行指挥官Gena Kranz事后评价：如果没有IBM和IBM所提供的系统，我们就无法登上月球。”

关键时刻的“一锤定音”，源于IBM计算机的可信，更源于IBM计算机系统基于数据理论和物理原理而得出的精确轨道预测。

从那之后，IBM与探索太空有了不解之缘。IBM的ThinkPad在1993年登上美国奋斗号航天飞机，参与修复哈伯空间望远镜的任务；2018年，IBM和空客合作，开发出人类历史上第一个宇航员交互式移动伙伴Project CIMON（Crew Interactive MObile CompanioN），像人类一样帮助宇航员完成许多太空任务。

从计算机到AI，IBM矢志不渝的投入，并将源源不断的科技成果应用到行业中，解决城市、民生和社会的各种问题，成就了“科技向善”的使命担当。

智能城市的憧憬

智能化让人憧憬，IBM从未间断过在智能领域研究和实践，而且总能洞察先机。在2008年11月IBM就率先提出“智慧地球”概念，前瞻性的预测世界正在变得物联化、互联化，所有的事物将变得智能化。

早在1956年达特茅斯会议提出“人工智能”概念之前，IBM在1952年就开发出了第一款会下国际跳棋的人工智能程序；1997年战胜国际象棋冠军卡斯帕罗夫的深蓝，开拓了“人机对战”的先河；2011年在益智类问答节Jeopardy!战胜两位人类冠军的Watson；人工智能辩手Project Debater，能准确理解人类的自然语言，并进行有效地辩论。IBM在智能化的先人一步，不断将人工智能推向一个个里程碑。

进入通用人工智能（AGI）的新纪元，AI延伸到城市、民生和社会的触角越来越广，也越来越深。AI能够改善人们的生活，创新商业模式，打造个性化的服务，优化各项城市设施和服务等等。

目之所及，AI已经扩散到城市的方方面面，例如电子商务、无人超市、自动驾驶、智能楼宇、智能工厂、智能医疗等等。

在交通，IBM Watson Assistant技术开发的改变城市驾驶方式的解决方案，来缓解交通拥堵，提供用户个性化的最优出行建议；

在医疗，Watson Health覆盖了肿瘤与基因、医学影像、生命科学、健康管理、医疗支付等多个分支领域，帮助医生有效地实现 “标准化医疗”、精准医疗”、“智能医疗”。同时，助力“普惠医疗”；

在制造，IBM就利用人工智能缺陷检测技术，帮助进行显示面板生产线检测良率，毫秒级内检测出面板是否有划痕或者别的缺陷，判读准确率高达97%以上。

在食品安全，IBM人工智能传感器技术可以更方便快捷地对食品上可能会出现的病菌进行实时检查。

真实的世界的智能化场景远比“人机对战”或“益智挑战”复杂的多，随着人工智能应用在各行各业的广泛使用，“可信”越来越成为一个严峻的问题。

IBM副总裁，大中华区首席技术官谢东

“对于现代化城市来说, ‘城’(城市建设)与‘工’(工业、行业)的应用升级都很重要。正所谓，行业不智能, 城市何以智能。而一个可信的AI基础对于‘城’与‘工’的智能化来说，也是至关重要。”IBM副总裁，大中华区首席技术官谢东说。

“AI可信”的拷问

人工智能是一把双刃剑，一边是AI和数字化技术结合，给我们的生活和工作带来福祉；一边也给道德准则、价值观带来冲击。AI换脸“ZAO”一夜爆火，在成为现象级APP的同时，也引发了公众对数据隐私，肖像权的担忧和思考。

再比如，全球首例无人驾驶车撞死人案，其原因是行人并未走人行横道，无人驾驶车也就没有刹车；此外，在没有人工和技术介入的前提下，人工智能算法甚至可以产生无法识别少数裔的偏见。

所以，今天人们对“AI可信”有了更深层的拷问。

因为随着AI技术和应用的成熟，如何将人类规范和道德价值观嵌入AI系统中？能否和现实的规范和价值相一致、相兼容；AI的行为是否是可控的？大量AI产品应用的落地，达到什么标准的应用产品才是可靠的，安全的？随着AI的自主性越高，这样的拷问势必会越来越多。面对真实场景，AI医生给出的诊疗方案和疾病预测准确吗？AI分析师给的投资建议能采纳吗？

与IBM计算机准确计算出登月轨道不同，今天AI更为复杂，特别以深度神经元为代表的算法，先天就有不可解释性。

“要正确的发展人工智能，就必须提出可信赖的人工智能。人工智能的未来在于信任，如果想要驱动业务成功，人工智能就不能隐藏在“黑盒子”中”，IBM副总裁，大中华区首席技术官谢东说。

如何让AI更加可信？

前不久，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。该《治理原则》强调要确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体。2019年4月，欧盟委员会也正式发布了《可信人工智能的道德准则》，宣布启动人工智能道德准则试运行。

从全球来看，在顶层设计上，可信AI已经成为人工智能规模化发展的基础。

IBM不仅秉持可信AI的价值观，还在方法论和工具层面都取得了很大的进展。IBM将可信人工智能的维度定义为科学和工程目标，不仅概述实现这些目标的各种方法论，还推出了各种工具以确定在整个人工智能应用程序生命周期中集成它们。

IBM将企业级AI划分为三个维度：先进AI（Advance AI）、可扩展AI（Scalable AI）和可信AI（Trusted AI）。简单概括, 先进的AI是让AI更加强大；可扩展性的AI是让AI更广泛应用到行业中；可信AI，即确保AI的公平性、可解释性、健壮性和透明性，是为了让AI能够被人们所信任，真正成为人类的助手和伙伴。

“IBM正在大力开展这方面的研究和实践工作。让AI更加可信透明，安全可用而可靠。针对可解释性、公平性、透明性和健壮性，IBM还提供工具和技术来识别和减轻风险及违规行为，帮助理解与信任有关的人工智能模型的影响和挑战，并帮助开发人员和数据科学家轻松构建可信、安全和可解释的人工智能系统”，谢东强调。

首先，IBM认为一个可信任的AI系统，需要遵循几个基础原则：公平性（Fairness），比如AI系统应该采用不带偏见的数据集和模型，从而避免对于特定群体的不公平；可解释性（Explainability），比如AI系统所提供的决策或建议不是一个不可解释的黑箱，应该能够被用户和开发者所分析、理解；健壮性（Robustness），比如AI系统应该安全和可靠，不会被篡改，也不会受被“污染”的训练数据集影响；透明性（Transparency），比如AI系统可以被透明化管理，其开发、部署、维护等可被追踪，能够在生命周期范围内被审核等。

其次，IBM提供了工具和技术来识别和减轻风险和违规行为，帮助理解与信任有关的人工智能模型的影响和挑战，并帮助开发人员和数据科学家构建可信、安全和可解释的人工智能系统。

AI fairness 360是一个全面的开放源码工具集，包含度量和算法，用于检查和减轻AI中不必要的偏见，帮助社区建立对AI的信任；

AI Explainability 360是2019年8月9日发布的一个开源的最先进算法集合，它使用一系列技术来解释AI模型决策；

在AI的健壮性/鲁棒性方面，IBM研究院推出了Adversarial Robustness 360 Toolkit，这个工具包是IBM研究团队开源的用于检测模型及对抗攻击的工具箱，为开发人员加强AI模型被误导的防御性，让AI系统更加安全。

此外, IBM正在提高AI的透明度，并推出工具让数据科学家以及企业高管寻找模型中的不足。AI OpenScale是IBM提高所谓的“黑箱方法”透明度的一部分,从而加速AI的规模化发展。

其中，在AI的可解释性和可追踪方面，AI OpenScale技术平台，可以在各种AI应用程序运行时，检测并解决其中的偏见问题；无论AI应用程序在何种环境中构建或运行，AI OpenScale都可让企业在人工智能的整个生命周期中实现透明化管理，记录每项预测、每个模型版本、所有使用的训练数据及各种指标，帮助企业遵守欧盟GDPR等法律法规。

结语

智能城市的“诗和远方”离不开可信AI的数字化基础设施，IBM将塑造可信AI的价值观与打造丰富可信AI工具“知行合一”，来保障城市和人们受益于AI。