AI教父发出警告：新版人工智能会让杀人机器人变为现实

2023-05-08 10:15:35 来源：C114 通信网

据美国《纽约时报》网站5月1日报道：人工智能之父离开谷歌并警告未来的风险

(相关资料图)

被视为人工智能(AI)之父的杰弗里·欣顿周一宣布离开谷歌。欣顿博士和他在加拿大多伦多大学的两名研究生在2012年创造了一项技术，该技术成为人工智能系统的奠基石，而人工智能现在被科技大企业视为未来的关键。

对毕生工作感到有些后悔

欣顿周一正式加入到人工智能批评者的行列。批评者们认为，那些积极开发基于人工智能的产品的企业是在加速走向危险。

欣顿说，他已辞去谷歌的工作，并对自己一生致力于人工智能开发感到有些后悔，欣顿已为谷歌效力长达十年。

欣顿从人工智能奠基人到末日预言者的转变，标志着科技产业的一个关键时刻，该行业正处于几十年来最重要的转折点。业界领袖认为，人工智能系统的重要性可与上世纪90年代初引入网络浏览器媲美，并可能给从制药到教育等一系列领域带来突破。

但许多业内人士担心，这有可能是一项危险的技术。人工智能已经成为生成错误信息的工具。很快，它就会带来就业风险。对人工智能感到最不放心的业界人士甚至认为，人工智能可能对人类构成威胁。

欣顿说：“很难找到防止坏人用它做坏事的方法。”

在旧金山初创企业开放人工智能研究中心(OpenAI)今年3月发布新版ChatGPT之后，1000多名技术领袖和研究人员签署公开信，呼吁在6个月内暂停开发人工智能新系统。

几天后，有40年历史的人工智能促进会的19名现任和前任领导人发表公开信，警告人工智能存在风险。

人工智能“变得越来越危险”

1972年，作为英国爱丁堡大学的一名研究生，欣顿接受了所谓人工神经网的概念，即通过分析数据学习技能的系统，并以研发该系统作为主要工作。

20世纪80年代，欣顿在卡内基-梅隆大学计算机系担任教授，但后来离开该大学前往加拿大，因为他不想接受五角大楼的经费资助。当时，美国的大部分人工智能研究都是由国防部资助的。但欣顿强烈反对在战场上使用人工智能，即他所说的“机器士兵”。

2012年，欣顿博士和他在多伦多的两名学生伊利亚·苏茨克韦尔和亚历克斯·克里舍夫斯基共同创建了一个人工神经网，它可以通过分析数千张照片建立自己识别物体的能力，比如认识花、狗和汽车。

谷歌斥资4400万美元收购了由欣顿博十及其两名学生创办的公司。他们创建的系统催生了越来越强大的技术包括聊天机器人ChatGPT和谷歌的巴德(Bard)。苏茨克韦尔后来成为OpenAI的首席科学家。

大约同一时间，谷歌、OpenAI和其他公司开始建立通过大量数字化文本学习的人工神经网。去年，谷歌公司和OpenAI公司开始利用更庞大的数据建立人工智能系统。欣顿博士认为，这些系统在某些方面仍然不如人脑，但在其他方面已经超过了人类智力。

他认为，随着企业逐渐升级人工智能系统，它们将变得越来越危险。

杀人机器人或会变为现实

现在，微软用聊天机器人加强了必应搜索引擎，谷歌也想采用同样的技术。欣顿说，科技巨头们已经陷入一场可能无法停止的竞争。他眼下最担心的是，互联网上将充斥着各种虚假照片、虚假视频和文字普通人“再也无法知道什么是真的了。”

他还担心人工智能会颠覆就业市场。目前，ChatGPT这样的聊天机器人还是人类的助手，但它们已经可以胜任一些死记硬背的工作。欣顿说：“这不仅会夺走工作机会，它会夺走更多。”

欣顿担心，新版本的人工智能会对人类构成威胁，因为它们往往会通过分析海量数据学会令人意想不到的本领。他说这会带来问题因为技术人员和公司不仅允许人工智能系统自己生成代码，而且还允许它们自行运行代码。他担心，有朝一日这会使杀人机器人变为现实。

他说：“过去，有人认为这种东西会变得比人更聪明，我认为这样想为时过早，成为现实至少还需要30到50年甚至更长时间。显然我现在不这么认为了。”

欣顿博士认为，谷歌和微软等公司之间的竞争将升级为一场全球竞赛，除非有某种形式的全球监管，否则竞赛不会停止。

但他说，监管不太可能，因为与核武器不同，目前无法知道企业或国家是否在秘密研发这项技术。最大的希望是世界顶尖科学家联手找到控制这项技术的方法。欣顿说：“我认为，不应再升级该技术，直到人们确定是否能控制住人工智能。”

关键词：

推荐内容

产业

查看全部

油气

河北深州警方打掉一暴力催债团伙 36名嫌犯被刑拘

寒潮降温破冰点如何保障温暖过冬？探访北京城管及供热

莆田致2死3伤案嫌犯拒捕并畏罪自杀经抢救无效死亡

福建福州一在建摩天轮发生垮塌事故原因正在调查中

为什么对张恒处3227万元罚款？其违法事实有哪些？

山西民政部门支出超2亿元捐款保障受灾困难民众基本生活

张恒被税务部门依法处以3227万元罚款

湖北赛武当国家级自然保护区监测到珍稀动物

首届“优秀长江协助巡护员”评选颁奖

今年火灾事故已超6000起！电动自行车为何频频爆炸？

查看全部

经济

国家一级保护动物梅花鹿误入羊群内蒙古警方及时救助

　　中新网通辽10月18日电 (记者张林虎)18日，记者从内蒙古自治区通辽市奈曼旗公安局获悉，国家一级保护动物--梅花鹿误入当地村民羊群，

浙江杭州西湖首次推“环湖游线” 重现灵隐天竺上香水路

　　中新网杭州10月18日电 (王题题胡燕婕)云天收夏色，浅秋正渐浓。10月18日，浙江杭州市西湖游船有限公司推出的惠民多站点“西湖环湖游

福建福州在建摩天轮事故续：安装过程中外围轮毂脱落无

　　中新网福州10月18日电 (记者龙敏王东明)福州市晋安区官方18日晚间通报，18日14时47分，晋安区岳峰镇化工路爱摩轮商业广场项目摩天

【母亲河畔的中国】黄河润泽甘肃：沿岸城市兴文旅

　　中新网兰州10月18日电 (闫姣艾庆龙吉翔)“红山白土头，黄河向西流。”不少人疑问，天下黄河向东流，为何甘肃永靖县这段黄河却向西

《清华城市健康设施指数》：城市健康设施状况与其经济发

　　中新网北京10月18日电《清华城市健康设施指数》18日在北京发布。报告成果显示，城市健康设施指数领先城市以中心城市和东部沿海城市

查看全部