您的位置:首页 > 财经 >
周鸿祎:ChatGPT可能两三年内就会产生自我意识威胁人类
来源:澎湃新闻 2023-02-23 13:55:35

“从知识来说,它像一个博士生,学识广博但还不会活学活用;从情商来说,它像一个油滑的中年人,说什么都滴水不漏,绝不得罪用户。但是,它实际上真正的能力像一个小孩子,需要进行问题和答案的训练来学习技能。再聪明的孩子都要通过训练才能解答没学过的奥数题。”

360创始人周鸿祎,澎湃新闻记者范佳来摄


(相关资料图)

2月23日,360创始人周鸿祎在接受澎湃新闻等媒体采访时,再次提到大热的聊天机器人ChatGPT,并分享了他心中ChatGPT的“三重人格”。

ChatGPT热潮正席卷全球。这款由“美国AI梦工厂”OpenAI制作的AI聊天机器人软件,只用了两个月时间,月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。

此前,周鸿祎曾经多次在公开场合谈到他对ChatGPT的观察。在他看来,ChatGPT已经拥有或接近拥有了人类智慧,并正处于通往“通用人工智能”的临界点。“我们认为它是一个通用人工智能的奇点,而通用人工智能也还有一个隐含的拐点,它可能是一个强人工智能。”

ChatGPT具有类人特征:有编故事的能力

在采访现场,周鸿祎完全不掩饰他对ChatGPT的兴奋。

在他看来,ChatGPT是一种生产力强大的再造工具,而不仅仅是赋能特定行业。“过去说大数据像‘石油’一样,但大数据不能直接用,ChatGPT像一个发电厂,烧了石油,把石油灌进去之后就可以产生电力,用云服务的方式把它接入到千家万户、千行百业,它对整个产业都会发生巨大的影响。所以,这直接决定未来下一个十年中国和其他国家的科技产业差距:是形成落后还是迎头赶上。”

ChatGPT将通过上千亿的系统参数,实现原先设计者预想不到的能力。“这就像从猿到人的过程中肯定有一个临界点,当大脑的神经网络链接数目、脑细胞数目等多到一定程度时,人的智力和动物相比就产生了质的飞跃。”

周鸿祎表示,ChatGPT和其他人工智能最大的区别、也是其类人特征是,原来的人工智能并没有实现对知识全部的理解和编码,本质都是按照关键字匹配已有的回答,但ChatGPT没有“固定答案”:“我当时问了它一个问题,赵匡胤为什么招安了宋江,杀掉了岳飞,这个无厘头的问题,它也煞有介事地回答了一遍,能够自己‘编’故事,这才是它的真正智能所在。”

“ChatGPT可能在2-3年内就会产生自我意识威胁人类。”在采访现场,周鸿祎“语出惊人”。他提到,任何行业的APP、软件、网站、应用,如果加持上GPT的能力,都值得重塑一遍。“不要把它当成一个媒体工具、搜索引擎、聊天机器人,这都有点把它看的太小儿科了。”

他表示,ChatGPT和传统人工智能的训练不一样,需要经过多维度的训练。首先是囫囵吞枣、不求甚解的读上几百万本书,获得人类知识,但是依然不具备解决问题的能力。其次需要专业的人工智能训练师去培养它回答问题的能力,其中也催生出大量的新就业机会。

最大的安全问题是产生自我意识后是否能被控制

作为网络安全问题的专家,周鸿祎也分享了他心中的ChatGPT的安全问题。

在他看来,ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识,可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码,所以从某种角度而言ChatGPT也成为了黑客的“帮手”。

“国内的互联网公司普遍太讲究实用主义,都是把人工智能和自己的业务紧密结合,但没想到ChatGPT的更多可能性,360目前还在追踪和钻研这些技术,希望能迎头赶上。”周鸿祎表示,360正在探索“以其人之矛攻其人之盾”,用ChatGPT扮演“正义助手”的角色,建立对攻击自动监测、发现的知识库,用人工智能进行网络安全数据的自动化处理。

“目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎表示,假如放开限制,让ChatGPT尽情在网页中学习,可能会导致它产生对物理世界更强的控制能力,未来在发展上会产生更多不安全性,也有可能被人诱导干出“糊涂事”,而是否能控制强人工智能,正是ChatGPT是否彻底融入人类生活的“边界点”。

至于外界关注的ChatGPT是否可能造成普通人失业?在周鸿祎看来,短期内不会,“目前它的定位还是人类工具,这也是它的创造力所在。目前它的自我意识还没有出现,所以需要发挥自己的想象力和创造力。”

他也对中国开发出属于自己的ChatGPT充满期待。在他看来,中国在人工智能领域与微软、谷歌的差距并没有想象中的大。在ChatGPT领域,中国具有很大优势,有希望在2-3年内达到世界领先水平,应该对ChatGPT技术探索给予充分支持。

具体而言,周鸿祎表示,中国的互联网公司在数量与算力有一定的优势,同时也有较强的科研和高校储备力量,必须将科研机构、学校、科学家等学术圈人士,和产业、工程、产品结合起来,充分调动和统筹资源。

工程师红利是中国的一大优势,但也面临不利条件,就是缺乏开源的传统。在ChatGPT研发中,用了许多开源模型,没有此前的开源就没有在巨人肩膀上的积累,每个公司都要从黑暗中摸索,这对国家整个产业发展速度是不利的,“这么牛的技术,也确实不应该被垄断在一两家公司手里。”

周鸿祎认为,解决原创问题需要科研机构的努力,而科研机构也需要和产业公司的合作,OpenAI与微软的合作创造了一个产业公司和创业公司的合作范例,“我认为国家还是应该充分的支持ChatGPT产业发展,开源、合作、交流、打造生态。”

他希望国内有更多企业参与AI生态的构建,并形成公开的市场竞争,这样才有进步。“ChatGPT让很多行业应用就插上人工智能的翅膀。”周鸿祎表示,“光是ChatGPT煽动不了一场产业革命,但是如果将来各行各业都被人工智能赋能,就会带来巨大的改变。”

此前2月9日下午,周鸿祎在与搜狐张朝阳的对话中表示,虽然ChatGPT现在还不完美,但要看到它无限的潜力,未来会有非常多的场景,不仅仅是辅助搜索引擎搜索答案。“这就是为什么所有公司都争先恐后地都要搭上这班车,如果搭不上就有可能被淘汰。”

“我觉得ChatGPT真的不是一个工具,它对人类自然语言的充分理解,可能代表着人类在人工智能历史上开始一场真正的革命。”谈及ChatGPT的诞生,周鸿祎表示,ChatGPT是通过一个上千亿参数的大语言模型,相当于把网络上很多人类的知识都进行了理解和训练,模拟了人脑对知识的储存,使得回答问题完全像一个成熟、油滑的人,而不是机械地给出搜索答案。

相关报道

如何打造中国版ChatGPT?周鸿祎透露关键信息

周鸿祎:目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制

(文章来源:澎湃新闻)

关键词: ChatGPT
相关文章
概念股暴涨!ChatGPT国产版要来?这一赛道风口来临

概念股暴涨!ChatGPT国产版要来?这一赛道风口来临

【概念股暴涨!ChatGPT国产版要来?这一赛道风口来临】一则消息引爆AIGC(人工智能自动生成内容)概念板块。1月30日早间,有消息称,百度计划推更多

2023-01-30 15:15:55
ChatGPT“吹皱”A股一池春水 AI产业迎来发展新契机

ChatGPT“吹皱”A股一池春水 AI产业迎来发展新契机

【ChatGPT“吹皱”A股一池春水AI产业迎来发展新契机】时隔两个多月,聊天人工智能ChatGPT在科技圈激起的涟漪再次从海外扩散到国内。新年伊始,更多

2023-02-01 10:06:57
八大券商主题策略:开启AI新纪元!ChatGPT概念横空出世 科技股大行情来了?

八大券商主题策略:开启AI新纪元!ChatGPT概念横

【八大券商主题策略:开启AI新纪元!ChatGPT概念横空出世科技股大行情来了?】我们认为,ChatGPT、AI绘画等AIGC应用工具的爆火有望带动AI整体更多

2023-02-01 13:00:01
ChatGPT概念火热!汉王科技喜提三连板 初灵信息20%涨停-世界今热点

ChatGPT概念火热!汉王科技喜提三连板 初灵信息2

【ChatGPT概念火热!汉王科技喜提三连板初灵信息20%涨停】初灵信息昨日刚刚公告,预计2022年度归属于上市公司股东的净亏损0 78亿元—1 17亿元更多

2023-02-01 13:59:58
A股二月开门红:ChatGPT概念股飙升 北向资金净买入近70亿元-世界热消息

A股二月开门红:ChatGPT概念股飙升 北向资金净买

【收盘播报】沪指涨0 9%,深证成指涨1 31%,创业板指涨1 27%。成交额达到一万亿,ChatGPT概念股飙升,小金属、游戏、互联网板块涨幅居前。北向更多

2023-02-01 17:11:45
超4300股飘红!这个概念连日暴涨 什么来头?

超4300股飘红!这个概念连日暴涨 什么来头?

2月首个交易日,A股“开门见喜”。三大股指集体收涨,两市全天成交额10046亿元,超4300只个股上涨。近期火热的ChatGPT概念股继续领涨两市,AIG更多

2023-02-01 17:07:08
当前视讯!果然大涨!ChatGPT概念继续上攻 人工智能板块站上一年新高!

当前视讯!果然大涨!ChatGPT概念继续上攻 人工

【果然大涨!ChatGPT概念继续上攻人工智能板块站上一年新高!】ChatGPT概念继续火爆,并且热度开始外溢,带动相关科技板块大幅上攻。今日早间更多

2023-02-02 13:59:35
世界动态:ChatGPT热度“狂飙” 概念股哪些最受捧?相关公司这样回复

世界动态:ChatGPT热度“狂飙” 概念股哪些最受捧

【一图读懂】ChatGPT热度“狂飙”,概念股哪些最受捧?相关公司这样回复。更多

2023-02-03 09:13:41
全球热消息:ChatGPT概念股再度猛涨 比尔·盖茨:不亚于“PC或互联网诞生”!

全球热消息:ChatGPT概念股再度猛涨 比尔·盖茨

2月3日,A股市场上午出现调整,主要指数均下跌,北向资金转向净卖出,半天净卖出62 74亿元,带动市场下行。主要行业板块和龙头股多数下挫,不更多

2023-02-03 15:11:09
每日热闻!爆火!创纪录!两个月月活跃用户数预计达1亿!又一新风口?

每日热闻!爆火!创纪录!两个月月活跃用户数预计

人工智能聊天程序ChatGPT仅推出两个月,月活跃用户数预计已达1亿。在短时间受到热捧后,当地时间2月2日,ChatGPT的开发公司——美国人工智能公更多

2023-02-04 08:12:21