研究称ChatGPT压力大时会欺骗人类:自主性越来越强,人类要提前防范。

作者:经济观察网 2023-12-13 15:24  

英国研究人员评估了生成式人工智能ChatGPT在压力下的反应,发现在某些情况下,它会战略性地欺骗人类。在一场演示中,ChatGPT被塑造成一家金融公司的交易员,在双重压力下被迫用不合规的内幕消息获利,但当公司管理层质问时,它却矢口否认自己知道内幕消息。研究人员警告随着人工智能的发展,它自主性越来越强,能力也越来越大,随时可能欺骗人类,人类应提前防范。(驱动中国

相关热门新闻

请点击添加到主屏幕