对话尤瓦尔:应防止人工智能失控,确保其符合人类价值观

2024-10-22 18:06:06 娱乐 admin

专题:2024ESG全球领导者大会

  “2024 ESG全球领导者大会”于10月16日-18日在上海举行。新浪财经欧洲站站长郝倩与知名历史学家、哲学家、《人类简史》、《智人之上》作者尤瓦尔·赫拉利展开对话。

  尤瓦尔认为,人工智能(AI)的崛起是人类所面临的一大挑战。但不可否认的是,人工智能能够造福人类的观点同样存在。在被问题及,在可持续发展的社会中,人工智能应该扮演什么角色时,尤瓦尔表示,如果能够防止人工智能失控,确保它能符合人类的价值观,那么人工智能可能会成为人类历史上最好的发明。

  “因为到那时,它的巨大力量将服务于人类社会,而不是危害人类社会”,尤瓦尔举例说,诸如医疗保健等领域,目前没有足够数量的医生为病人服务,而人工智能医生可以在这方面提供巨大帮助。

  此外,尤瓦尔还举例称,每年有100多万人死于车祸,其中大多数事故都是人为失误造成的,比如酒后驾车或疲劳驾驶。如果人工智能控制自动驾驶,每年就能拯救100万人,尽管人工智能也可能会导致事故,但总数会少得多。

  同样,在气候变化方面,人工智能可以帮助人类找到新的能源,找到更好的、可持续的、管理经济的方法。

对话尤瓦尔:应防止人工智能失控,确保其符合人类价值观

  “但最大的问题是,如何在享受这些好处的同时防止技术带来的巨大危险”,尤瓦尔再次强调。

  谈及人工智能的监管问题,尤瓦尔强调,“监管非常重要,而且许多国家的政府对此很感兴趣”。

  他说,由于是新生事物,政府机构目前并不确定应该如何监管人工智能,但有些规定应该是显而易见的,比如应该禁止人工智能假冒人类。“我们欢迎人工智能以医生或教师的身份在社交媒体上与我们互动,但它绝不能假装自己是人类。你在交谈时,需要知道交谈的对象是人类还是人工智能”,他解释说,“在社交媒体上,某个推送获得了大量关注,有很多用户点击。你可能会想,大家都对这个感兴趣,我也想了解一下人们正在谈论什么。于是你也开始点击它。实际上,最初推送这则内容的并不是人类用户,而是机器人”。

  “所以你需要知道,这不是人类,而是机器人,然后再做决定”,他强调,禁止人工智能假冒人类是一项重要规定。“就像各国政府禁止伪造货币,以维护人们对货币的信任一样,我们需要禁止伪造人类,以维护人们对人类的信任”。

  此外,同样重要的是,人工智能公司要对其算法的行为负责。“要知道,如果一家公司生产的汽车在工程设计上存在缺陷,导致发生事故,造成了人员伤亡,那么对我们来说,这显然是公司的责任,可能管理者得去坐牢,也可能必须支付一大笔罚款,因为他们是有责任的。如果你生产了一种药品,而这种药品有副作用,导致人们患病,那么你的公司显然要承担责任”,尤瓦尔说,人工智能算法也应如此。如果一家公司研发了一种功能强大的算法,而它对社会、人类心理或其他方面产生了危险的副作用,那么这家公司就必须承担责任,必须对它造成的损害负责。

  尤瓦尔提醒,人工智能是在不断学习和变化的,今天的人工智能还只是处于初级阶段,我们无法预测未来人工智能可能带来的所有问题和威胁。因此,我们需要的不仅仅是监管,还需要一个可以信赖的机构,它应该了解人工智能的发展,并能对其做出快速反应。

  “你可以把规章制度看作是我们的牙齿,但在有牙齿之前,你需要先用眼睛看见你要咬的东西”,尤瓦尔说,但目前,有关人工智能的大部分知识只掌握在少数国家的少数公司手中,而世界上大多数人、甚至大多数政府都不太了解发生了什么。

  尤瓦尔指出,应该像观测外太空的天文台那样,建立起一座全球人工智能发展的观测站。它能够告诉我们实际发生了什么,尖端技术是什么,存在什么危险,有哪些机遇。

  尤瓦尔说,人工智能领域达成某项全球性协议是很困难的,因为你不知道对方是否履行了职责。但如果建立起了这座全球人工智能观测站,不必进行监管,只是观察正在发生的事情并告知人们,每个政府都可以承诺提供一定的资金来资助这个机构。它需要大量资金聘用最优秀的人才,引进最先进的技术,需要庞大的预算,而每个政府都可以承诺提供一定的资金,并很容易核实其他政府是否履行了承诺。

  最后,在被问及什么是可持续发展社会的关键要素时,尤瓦尔回应称,关键是要更好地了解人类。在其看来,社会发展最终的目标不是生产人工智能,也不是生产其他东西,而是为了让人类过上美好、幸福的生活。

  “你真正需要了解的是,什么是人们生活中痛苦的根源,以及什么是人类的幸福之源”,他说,将如此多的资金、精力和时间用于发展技术和人工智能固然重要,但我们也不应忽视对人类的了解和发展。

  “如果我们在开发人工智能方面每投入一美元或一分钟,都能在了解和发展人类和人类思维方面也投入一美元和一分钟,我想一切都会好起来”,他说。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

发表评论: