12月9日在“第三代人工智能产业论坛”上，学界和业界内多位专家就人工智能的安全、可控等问题展开了深入的探讨。
在本次论坛中，清华大学人工智能研究院院长、中科院院士张钹关注的是人工智能技术产业，即利用人工智能的技术，在应用行业里发展出新的产业，比如智慧医疗、智慧城市和智慧交通等。他指出，目前这方面的发展正遭遇瓶颈，“当前在全球排名前40的人工智能‘独角兽’企业，几乎遍布所有领域，包括交通、金融、医疗和社区服务等等。但一个估值100亿的企业，销售量却不到一亿，占不到估值的10%，也就是说它没赚钱。”
张钹直言，这些企业未能实现盈利，问题主要出于算法（模型）和数据的不安全性。他首先解释了数据的不安全性所带来的影响：人工智能的发展需要大量数据，但由于产业发展初期的无序竞争，忽略了其中涉及到的知识产权和个人隐私的问题，“现在才开始整治，这些企业就不好受了。”
而人工智能算法的不安全性主要源于两个方面，一是算法的推广能力很差，这就意味着如果将算法运用到与训练场景区别很大的场景中，就会存在安全问题。二是噪声攻击带来的威胁，在过去，噪声攻击只能降低信息处理的质量，但现在可以改变算法的行为，“过去的噪声攻击可能会让它看不清一匹马，但现在的攻击可以让它将一匹马看成是一块石头。”
张钹坦言这些问题是导致企业难以做大做强的关键要素：企业要做大必须扩大算法应用的场景，要做强则必须保证算法的安全性和鲁棒性。
那么，如何克服这些问题呢？张钹就此介绍了“第三代人工智能”，即建立鲁棒的、可解释的人工智能理论，并在这个基础上发展安全、可信、可靠和可扩展的人工智能技术，从而促进应用的创新。
“基本的思路就是一句话，把知识驱动和数据驱动加起来，” 张钹说，计算机的优势在于处理数据的能力，如果能够把人处理知识的能力教给机器，就可能做出来比人还强的机器。但现在处理知识的办法不多，问题很多，所以就要利用好知识、数据、算法和算力这四个要素。
最后，张钹针对产业和学界的分工与合作提出了具体的建议。他说，企业必须把知识处理能力加到系统里，才有可能克服现存的问题，并扩展应用场景。但他不建议企业去做长远的研究，“长远的研究是非常困难的，应该让研究所和学校去做，所以需要强调产校合作，（研究所和学校）可以研究一些新的办法，（企业）可以研究一些当前需要解决的问题，把两个结合起来，可以把这个工作做好。”
