姚期智院士在2025国际基础科学大会(ICBS 2025)上的发言强调了人工智能(AI)发展和安全的重要性,并指出这两者实际上是同一个问题。以下是他的主要观点:
1. AI安全问题:姚期智提到了"AI幻觉"等现象,强调在使用AI进行关键应用时,安全性至关重要,因为无法承受任何风险。需要理解为什么会出现这种不安全的现象。
2. 发展与安全的统一:很多人认为AI发展和安全之间存在矛盾,需要取舍平衡。但姚期智认为,两者实际上是同一个问题。如果能设计出最安全的AI技术,就能赢得市场。
3. AI安全研究的重要性:姚期智强调,未来对AI安全的研究至关重要,这既是为了防止AI被恶意使用,也是为了商业成功。
4. 基础科学奖项的意义:姚期智认为,基础科学终身成就奖及前沿科学奖的颁布非常重要,因为要研究AI安全,就需要从根本上理解AI,这与获奖者的贡献是一致的。
5. AI人才问题:姚期智指出,在人工智能领域,有很多年轻学者做出了重大贡献。主要原因是最近大模型的出现改变了人工智能学科的形式。这条路线不像数学、物理那样需要复杂的数理基础,使得人工智能前沿研究更容易着手。所以很多年轻人在学完本科课程后,就能看到人工智能的前沿。
6. 中国AI发展的前景:姚期智表示,这件事情非常令人兴奋,它使得人工智能这个学科在中国有了非常有利的地位。
综上所述,姚期智院士强调了AI发展和安全的统一性,以及对AI安全研究的重视。同时,他也指出了年轻学者在AI领域做出贡献的原因,并对中国AI发展的前景表示乐观。这些观点对于理解当前AI领域的发展趋势和挑战具有重要意义。