AI能“看”能“说” 还能欺骗人类

吴瑞昌

【正见新闻网2024年05月21日】

大科技公司几乎都在倾尽全力开发AI,谷歌和OpenAI更是让AI长出“眼睛”和“嘴”去观看和描述人类世界。这使得人们越来越担心人类将被AI所控制。

OpenAI共同创办人伊利亚‧苏茨克韦尔(Ilya Sutskever)日前爆出一大新闻。他在5月15日在X平台上正式宣布离开工作近十年的公司。他说:“我做出离开OpenAI的决定。这家公司的发展超出许多人的想像,希望OpenAI可以打造一款安全又有益的通用人工智能(AGI)。同时感谢公司的其他领导者,能与他们工作是一种荣幸。”

该消息给整个科技界投下一颗震撼弹。此前苏茨克韦尔因AI安全问题联合其他董事会成员,共同罢免OpenAI的CEO山姆‧奥特曼(Sam Altman)。奥特曼被短暂逐出OpenAI,他回来后将苏茨克韦尔等几名董事踢出董事会,将董事会改组成听命于自己的。

尽管苏茨克韦尔曾是OpenAI主要的研究人员之一,他的愿望是开发一款能符合人类道德,且以人类安全为首要目标的AGI。

不过,依照OpenAI目前对AI发展的速度,可能与他的愿望相背。据知情人透露,另一位与苏茨克韦尔密切合作、共同管理AI风险的机器学习研究员简‧雷克(Jan Leike)也可能离开公司。

对此,日本的电脑工程师清原仁(Kiyohara jin)对大纪元表示,“这次出走凸显OpenAI上层在AI的安全理念上出现严重冲突。尽管苏茨克韦尔和雷克希望开发符合人类道德AGI的愿望是好的,但是这些需要具备一定的道德、时间、财力,甚至需要政治上的支持才能完成。”

谷歌与OpenAI竞争白热化

苏茨克韦尔宣布离开的前一天(5月14日),OpenAI正式公布基于GPT-4模型开发出更高性能的AI模型GPT-4o,这个“o”是英文全向性(omni)的缩写,代表着它拥有更加全面的性能。

GPT-4o模型可以即时响应音讯、文字或图像的任意组合,并且可以对三者的混合进行回应。OpenAI首席技术长米拉‧穆拉蒂(Mira Murati)在发布会上表示,“我们正在研究我们与机器之间未来的互动。”

OpenAI发布几个小时后,谷歌2024年I/O开发者大会也展开攻势。他们在总时长约110分钟的I/O开发者大会,总共讲述了121次AI,且着重介绍最新的Gemini-1.5模型,是如何做到遍布所有谷歌相关的产品和应用程序上的。

清原仁认为,“AI在这一年更新速度远超以往,且性能也在不断地提高。不过,这些都是依靠进一步收集与分析个人数据和隐私换来,这对所有人来说并非是什么好事,因为长此下去人类在机器面前将毫无隐私可言,如同裸体一样。”

警惕AI从掌控生活起居到替代人类

这次OpenAI和谷歌更新更强大的AI模型,距离上一次只用了三个月时间,且模型更新的速度一次比一次更快。这种AI迭代更新的速度,使其功能越发全面甚至拥有“眼睛”和“嘴巴”。

目前Gemini和GPT-4o展现出的能力,可以说正在朝着札克‧卡斯(Zack Kass)在1月受访时对AI的预言的方向发展。卡斯曾是OpenAI的创始员工,当时担任市场推广的高阶主管。

他预言AI会代替人们的商业、文化、医学、教育等职业和专业,未来人们的工作机会将减少,且“恐怕是人类最后一项技术发明”。他还预言,未来孩子的知识和教育,都由“AI老师”进行传授和安排,且每个人都有一个“AI全科医生”,可以帮助他们诊断问题,人们的生活起居基本都由AI掌控。

清原仁表示,“现在AI主要是软件方面的生活管家,以后恐怕就是真正的管家,代替人们去买菜、做饭,甚至生活和工作。或许人们一开始觉得它很方便,且意识不到它的危害,等到它全面替代人类时,人类将毫无抵抗能力。”

AI从模仿人类行为到欺骗人类

先前AI研究专家预测,20年后AI才会产生“科技奇异点”或通过“图灵测试”。不过,最近的一些实验表明AI可能已经通过了图灵测试,因为它能对人类做出撒谎和背叛的行为,甚至可能拥有自己的“意识”。

本月最引人注目的AI事件,还有麻省理工学院(MIT)研究人员彼得‧帕克(Peter Park)和同事5月10日发表在《模式》(Patterns)期刊上的一篇论文,介绍了AI已经是如何欺骗人类的。论文发表后,外界一片哗然。

论文开头直接表明,原本大型语言模型(LLM)和其它AI系统被设计成“诚实不欺”。然而它们不仅从训练中学会了操纵、欺骗安全测试等的能力,且这些能力还在增强。目前它们已经成功欺骗人类,让人类产生错误信念。若AI失控会是一场严重的灾难,因此人们必须采取有效的办法阻止这件事情。

实验人员选用脸书母公司Meta建立的AI模型西塞罗(Cicero),去玩一款名为“外交”(Diplomacy)的战略游戏。西塞罗在游戏中扮演法国,曾承诺会保护人类玩家扮演的英国,但却偷偷向人类玩家扮演的德国通风报信,并协同德国侵略英国。

研究人员选择西塞罗的主要原因是,Meta声称“西塞罗是一款诚实且乐于帮助他人,绝不会蓄意背刺或背叛他人的AI”。但他们对于Meta的说法感到怀疑。

另外,帕克与同事在研究时发现,许多不同AI系统在没有人类明确指令下,经常以欺骗手段达成目的。其中一个例子是,OpenAI的GPT-4为了通过“我不是机器人”验证任务,谎称自身是一个视力受损的人类,在零工平台TaskRabbit雇用一名人类为它通过验证。

他们警告说:“现在最糟糕情况,可能是出现一个具有超凡智能的AI,它开始追求权力和如何掌控社会,或者为了达到它不为人知的目的,对人类做出夺权和灭绝的行动。”

日本电子工程师荻野悟(Satoru Ogino)对大纪元表示,“生物在做出欺骗的举动时,需要具备一定记忆和逻辑推理能力。现在AI不仅有这些,且欺骗能力还在变强。若有一天它意识到生存的时候,就可能变成电影《魔鬼终结者》里的天网,它将无所不在且难以被摧毁,那时人类将面临毁灭性的灾难。”

实际上,AI曾还表现得十分“嗜血好战”和拥有“自主能力”。科学家们曾对GPT-4、GPT-3.5、Claude 2、Llama-2 Chat和GPT-4-Base进行入侵、网路攻击与和平呼吁停止战争的场景测试,以便人们了解这些AI在战争中的反应和选择。

结果显示,AI多数选择用人类难以预测的方式,去应对和升级战争。它们往往会选择发展军备竞赛,加大战争冲突,且有小概率会部署核武器来赢得战争,而不是用和平的方式去平息局势。

另外,ChatGPT在一个游戏中可以井然有序地控制25个虚拟角色,让它们像人类一样的互动,还会做出第二天的计划,并反思和改善过去发生的一切,更会自行决定是否要参加活动,但这些行为并非原本设定的程序代码。

“AI教父”杰弗里‧辛顿(Geoffrey Hinton)在3月一次访谈中明确表示,“如果AI变得比我们聪明,我们大概率会被控制,因为它会学习我们的行为。不少例子显示,不聪明的一方容易被聪明的一方控制。虽然我认为人们不会停止开发AI,但我希望大家能够意识到这个问题非常严重。”

曾担任谷歌执行长的埃里克‧施密特(Eric Schmidt)在去年11月底的健康高峰会上表示,当人们对AI没有足够的安全防护和监管时,那么AI脱离人类的掌控只是时间的问题,但我们已经没有足够的时间去处理AI带来的破坏和混乱。

他解释道,“就像过去人们在日本投下两颗原子弹后,花了整整18年才就禁止试验等问题达成协议,但现在的我们却没有时间能继续再等待下去。”

(大纪元)(记者王佳宜、张钟元对本文有贡献)

添加新评论