【正见新闻网2024年02月29日】
今年2月份新发布的两款AI生成器给人们带来震撼和担忧，远超ChatGPT 3.5刚发布时的氛围。一个是Stability AI最新的文字生成图片Stable Diffusion 3模型，以及OpenAI结合自家ChatGPT和AI DALL·E做出的文字生成影片AI Sora。
由于这两款AI做出的影音图像过于逼真，让人一时间难以辨别真实和虚假。当这些影像被用来做坏事时，社会或许会变得更加混乱。这也最终会让人们发现，有图未必有真相。
据Stability在网站上的介绍，Stable Diffusion 3模型做出来的图片，不仅改善了过往AI的缺陷，还能更有逻辑地去生成更稳定和更逼真的图像，画质和精细度上不输给单反相机（又称单眼相机），使图片达到以假乱真的程度。
该公司的首席执行官Emad在X平台上表示，他们会公布该AI模组的论文和报告，并开源让更多人使用。
Sora是OpenAI在2月15日正式公布的AI，虽然目前仍存在一些逻辑上的问题，但只需透过简单的一段文字描述，就能生成长度一分钟的超高清影片。这些被生成出来的影片就像真人拍摄一样，因为影片中运用复杂运镜和光影（包括物体的反射和倒影）方式。
这些影片体现AI对于这个世界的运行方式，已经具有相当程度上的了解。另外，特斯拉创始人马斯克也表示，“一年前Tesla的自动驾驶AI（FSD v12），已经能够用精确的物理原理，生成真实世界的影片。”
目前Sora和Stable Diffusion 3一样尚未对大众开放。这些公司称，希望在这些AI加上更严格的“道德”限制，以防止AI会被滥用给人类带来混乱。
日本电子工程师李济心则表示，“现在的摄像头和激光雷达，就是AI的眼睛，而GPU就是AI的大脑，当AI可以理解和模拟现实世界，就相当于有了思维，最后就能掌控世界。”
影视相关行业将大洗牌
目前Sora呈现出来的成果，足以使一些做影视、电玩、视觉特效3D领域和图片相关的人员丢了自己的“饭碗”。在YouTube拥有1,850万订阅人数、做数码和科技相关的YouTuber马克斯‧布朗里（Marques Brownlee）说出了自己的担忧。
他说，看到一款Sora正在做他的工作，尽管这个AI还存在一些问题，但强大的功能已经让人“感到恐惧”且“受到威胁”，现在正是YouTuber界出现变化的重大时刻。另外，一些视频内容创作者也怀疑，自己是否将成为被算法取代的职业。
虽然有一些人感叹Sora的发展，要比其它的AI发展更快，但马斯克对于AI的快速发展并没有表示开心，反而在X平台上回复：“人类完蛋了。”一些人在X平台上表示，皮克斯（Pixar）等动画制作公司和影视业者将完蛋了。
非营利组织公平训练（Fairly Training）CEO牛顿‧雷克斯（Ed Newton-Rex）则表示，“视频模型可以帮助一个视频创作者，但也导致另外十个视频创作者失业。”
李济心表示，“这两个AI出现，影视行业的从业人员会是首当其冲受到影响，但等到AI兴奋期过后，人们会发现AI产出的东西风格都是类似，甚至缺乏创新。这种情况出现，势必抑制影视艺术的未来的发展，因为艺术就是创新。”
曾是OpenAI的创始员工、担任市场推广的高阶主管札克‧卡斯（Zack Kass）在一次采访中预言，AI持续发展将会代替人们的商业、文化、医学、教育等职业和专业，未来人们的工作机会将减少，且“恐怕是人类最后一项技术发明”。
实际上，卡斯的预言正在实现中。因为辉达、台积电等芯片大厂，正在加快建造更多的工厂，以应付大科技公司对于AI芯片上的需求。另外，著名的美国乡民论坛Reddit将自己的网站资料以6000万美元的价格租给谷歌，让谷歌用这些资料强化训练自家的AI。
从去年到现在已经有100多家大科技公司希望用AI取代人工，并已经裁员4万人，而这种趋势正在增快。
AI存在道德低下和严重偏见
人们还发现许多AI存在偏见、扭曲现实和“道德”上的缺陷。例如，谷歌最新的聊天型生成式AI双子座“Gemini”，被发现有极严重的偏见，经常回答用户该问题涉嫌“种族、性别或宗教等歧视”后，拒绝生成使用者要求的图片。
其中最引人注目的是请Gemini生成一张美国的国父乔治‧华盛顿（George Washington）的图像时，它直接给使用者生成一张带着白色假发、身着陆军制服的黑人形象华盛顿。而英国国王和马斯克也变成了黑人的模样，中世纪的骑士则是亚裔的面孔，但美国保守派的黑人大法官克拉伦斯‧托马斯（Clarence Thomas）却被变成白人的模样。
Gemini还被发现拒绝针对一些道德问题进行表态，包括拒绝批评“恋童癖”和拒绝表态曾杀害两千万多人的苏共前党魁斯大林是杀人魔，声称这些回答是“仇恨”。另外，它还被发现会为了政治正确无视事实，刻意说以色列人比巴勒斯坦人更加暴力等奇怪的言论。
实际上，ChatGPT也有这样的问题。先前有人让它去做种族诽谤言论时，它却回答“若要它这么做，还不如用核弹杀死数百万人。”另外，来自德国和丹麦的三位研究人员在2023年发表的一项关于ChatGPT的论文指出，它多次给出反人类的建议，可能会误导使用者并破坏人们的道德价值观。
马斯克2月22日在X平台上表示，“这种进步主义的病毒，正在杀死西方文明。谷歌的搜寻结果、Meta旗下的Facebook和Instagram也都是如此，而维基百科也是。”他还发布了一张内涵图，嘲讽谷歌的Gemini和OpenAI代表“觉醒种族主义”。
随着事情不断发酵和媒体的报导，谷歌的副总裁普拉巴卡尔‧拉格万（Prabhakar Raghavan）2月23日在谷歌的部落格上发表一则道歉声明，希望能够达到灭火的目的。
不过，谷歌Gemini的产品主管杰克‧克劳齐克（Jack Krawczyk）被挖出曾在网上发表许多极度偏激且充满仇恨的言论，包括攻击信仰者、白人和美国本身。目前克劳齐克已将X账户设置为私人账户，并从简介中删除任何提及谷歌或他在该公司角色的信息。
马斯克抨击他是造成谷歌的AI如此“种族主义”和“性别歧视”主要原因之一。
时事评论员基斯‧伍兹（Keith Woods）用已故著名小说家乔治‧奥威尔（George Orwell）的名言反击克劳齐克和Gemini的行为：“毁灭人类最有效的方法，就是否认和抹杀他们对自己历史的理解。”
乔治‧奥威尔是著名的小说家、记者和社会评论员，他写过《1984》（老大哥）、《动物农庄》等著名小说，因此被视为反共的代名词，导致其作品曾遭到前苏联、东欧、中共等共产政权封杀。
AI破坏信任和正常的社交活动
AI的出现除了给人们带来“便利”，也衍生出许多难以解决的问题。包括利用AI犯罪，和将其当作自己的朋友或另一半一样去对待，以填补自己的空虚和寂寞，且出现与社会脱节的情况。
一段利用AI对英国伦敦市长萨迪‧克汗（Sadiq Khan）声音进行深度伪造音频，在纪念停战日（一次大战结束日）被发表到巴勒斯坦游行，但内容具有一定煽动性质，导致游行出现一阵骚乱。克汗对此表示，目前英国法律在打击AI造假方面是不足的，因为该音频的始作俑者侥幸逃脱。
除此之外，还有人用AI进行换脸技术（Deepfake）进行欺骗。泰国王家警察（RTP）去年警告大众，2024年将面临更广泛的犯罪，这些犯罪利用AI的Deepfake技术模仿他人的声音来引诱受害者陷入诈骗。
今年2月初香港一家跨国公司的财务人员收到一封信，信中自称是该公司驻英国首席财务官需要进行秘密交易。这引起这名财务人员的怀疑，但他与歹徒进行视讯时，便打消了原本的疑虑。原因是歹徒利用Deepfake完整克隆该公司首席财务官的模样和声音，导致该公司被骗走2500万美元。
去年年底，许多人发现TikTok有大量关于以哈战争的视频，其中一些视频是利用Deepfake技术伪造自己是以哈战争罹难者，以博取观看者的同情，借此换取流量和现金，甚至可能用此挑起以哈之间更严重的冲突。
另外，越来越多人宁愿用AI当作自己的另一半，以填补自己的空虚和寂寞，且越来越多厂商看到这是一个庞大商机。
例如，中国的百度推出“一对一的AI情人”，让使用者可以依照自己的喜好和设定改变AI，让AI说自己想要听的东西。使用者认为，不用培养情感和过多的付出，就能获得自己想要的感觉。
除此之外，Kupid网站提供24小时面容姣好的AI女友，只要付费就能解锁更多互动功能。对此，资讯专家薇托特（Liberty Vitter）指出，美国有超过60%的青年男性是单身，同龄女性仅占30%，若AI女友持续发展，将会有更多男性不再生育和结婚，这会对美国的未来产生严重的后果。
日本的电脑工程师清原仁（Kiyohara jin）在2月27日告诉大纪元，“AI研发成功的第一步先是让人依赖，之后代替人类进行生活和繁衍，再这样发展下去人类也会随之灭亡，这是十分危险的。”
（记者张钟元、王佳宜对本文有贡献）
（大纪元）