切换到宽版
  • 778阅读
  • 2回复

[数码讨论]AI如何平衡发展和安全?中科院院士姚期智:如果能设计出最安全的AI,就会赢得市场[1P] [复制链接]

上一主题 下一主题
在线jjybzxw

UID: 551814

 

发帖
210610
金币
601550
道行
2006
原创
2438
奖券
3180
斑龄
40
道券
1167
获奖
0
座驾
设备
摄影级
在线时间: 46250(小时)
注册时间: 2008-10-01
最后登录: 2025-12-13
— 本帖被 兵马大元帅 执行加亮操作(2025-03-24) —

3月21日,2025国际基础科学大会(ICBS 2025)在清华大学举行新闻发布会,公布2025年度基础科学终身成就奖及前沿科学奖获奖名单。会上,图灵奖得主、2024基础科学终身成就奖得主、中国科学院院士姚期智在回答记者提问时表示,人工智能(AI)的发展和安全最终是同一个问题。

▲中科院院士姚期智

对于AI的安全问题,姚期智表示,“AI幻觉”等现象使得在使用AI来进行关键应用时会带来危险,因为在这种情况下无法承受任何风险,所以需要搞清楚为什么会出现这种不安全的现象。

实际上,姚期智重视AI安全研究有着另一个重要理由。很多人觉得AI的发展和安全之间存在着矛盾和冲突,必须作出取舍或者平衡。相反,姚期智认为,两者最终是同一个问题:“如果你能设计出来最安全的AI技术,你就会赢得市场。”

所以,姚期智认为,未来,对AI安全的研究至关重要,这既是为了防止AI被恶意使用的问题,也是为了商业成功问题。

姚期智同时指出,在这个意义上,基础科学终身成就奖及前沿科学奖的颁布也非常重要。因为要研究AI安全,就需要从根本上理解AI,这和奖项获奖者的贡献是一致的。

姚期智同时回答了关于AI人才的问题。从OpenAI到DeepSeek,公司团队中很多是“90后”甚至“00后”。为什么在人工智能领域,有这么多年轻学者做出一些非常大的贡献?

对此姚期智认为,最主要的原因是,虽然人工智能这门学科已经存在了很多年,但是最近大模型的出现改变了人工智能学科的整个形式。这条路线从技术上说不像数学、物理科学需要那么多复杂的数理基础,这使得人工智能前沿研究在知识层面比较容易着手。所以很多年轻人在学了大学本科课程以后,就可以看到人工智能的前沿。

“这就是为什么DeepSeek的年轻人能够做出这些工作。这件事情非常令人兴奋,它使得人工智能这个学科发展的前景,尤其在中国有了非常有利的地位。”姚期智说。

红星新闻记者 胡伊文 北京报道

编辑 张寻 责编 官莉

1条评分金币+10
兵马大元帅 金币 +10 鼓励讨论 03-26
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
在线jjybzxw

UID: 551814


发帖
210610
金币
601550
道行
2006
原创
2438
奖券
3180
斑龄
40
道券
1167
获奖
0
座驾
设备
摄影级
在线时间: 46250(小时)
注册时间: 2008-10-01
最后登录: 2025-12-13
只看该作者 沙发  发表于: 03-22
  姚期智院士在2025国际基础科学大会(ICBS 2025)上的发言强调了人工智能(AI)发展和安全的重要性,并指出这两者实际上是同一个问题。以下是他的主要观点:

  1. AI安全问题:姚期智提到了"AI幻觉"等现象,强调在使用AI进行关键应用时,安全性至关重要,因为无法承受任何风险。需要理解为什么会出现这种不安全的现象。

  2. 发展与安全的统一:很多人认为AI发展和安全之间存在矛盾,需要取舍平衡。但姚期智认为,两者实际上是同一个问题。如果能设计出最安全的AI技术,就能赢得市场。

  3. AI安全研究的重要性:姚期智强调,未来对AI安全的研究至关重要,这既是为了防止AI被恶意使用,也是为了商业成功。

  4. 基础科学奖项的意义:姚期智认为,基础科学终身成就奖及前沿科学奖的颁布非常重要,因为要研究AI安全,就需要从根本上理解AI,这与获奖者的贡献是一致的。

  5. AI人才问题:姚期智指出,在人工智能领域,有很多年轻学者做出了重大贡献。主要原因是最近大模型的出现改变了人工智能学科的形式。这条路线不像数学、物理那样需要复杂的数理基础,使得人工智能前沿研究更容易着手。所以很多年轻人在学完本科课程后,就能看到人工智能的前沿。

  6. 中国AI发展的前景:姚期智表示,这件事情非常令人兴奋,它使得人工智能这个学科在中国有了非常有利的地位。

  综上所述,姚期智院士强调了AI发展和安全的统一性,以及对AI安全研究的重视。同时,他也指出了年轻学者在AI领域做出贡献的原因,并对中国AI发展的前景表示乐观。这些观点对于理解当前AI领域的发展趋势和挑战具有重要意义。

1条评分金币+10
兵马大元帅 金币 +10 鼓励讨论 03-26
如何不发帖就快速得到金币道行
 
离线姜谷粉丝

UID: 1569053

精华: 2
职务: 山庄囚徒
级别: 玉清道君

发帖
165308
金币
471100
道行
20030
原创
766
奖券
350
斑龄
0
道券
30
获奖
0
座驾
设备
摄影级
在线时间: 20200(小时)
注册时间: 2012-06-21
最后登录: 2025-12-13
只看该作者 板凳  发表于: 03-22
用户被禁言,该主题自动屏蔽!
1条评分金币+10
兵马大元帅 金币 +10 鼓励讨论 03-26
如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个