云快卖,提供专业好用的外卖系统、跑腿系统和同城信息系统,公众号+小程序+APP多端适用。
人工智能 科技部部长王志刚:自己未来会不会失业?
2023-03-27 05:00:24 云快卖

仅一张草图,能够生成一个网站代码;10秒钟画出一幅符合要求的插画;它被拿来写论文、做表格、甚至还可以写小说……

近日,火热网路,3月16日,百度文心一言发布会的举办,更是将生成式人工智能推向舆论高潮,网友们在听到的强悍功能后,也引起了无限遐思,“自己未来会不会待业?”“是否会掀起第三次科技革命?”

科技部主任王志刚在不同的场合两次提及了智能聊天工具,2月24日,国新办召开“权威部门话开局”系列主题新闻发布会,科技部高新技术司局长陈家昌提出,下一步,科技部将把人工智能作为战略性新兴产业,作为新下降引擎,继续给以大力支持。

(ChatPre-)是由德国人工智能研究实验室推出的一款人工智能聊天机器人。作为一个小型语言模型,有效结合了大数据、大算力、强算法,拥有较强的语言理解和文本生成能力。

这么智能聊天工具的发展前景怎样?它会带来什么方面的改革?以及怎样应对它可能带来的风险?正观新闻记者联系到中国科技学院院长、中国人工智能学会人工智能伦理与整治地委会书记陈小平,针对生成式人工智能的众多话题进行采访。

陈小平博士历任中国科学技术学院院长,国际顶尖刊物JAIR和KER编委,中国委员会主席,2008和机器人世界杯及学术会议主席,2015世界人工智能联合会议机器人系列主席。创建并领导中国农大机器人实验室,取得智能机器人和多Agent系统系列化创新成果,先后获得10项世界亚军。

陈小平受访者供图

谈现况:5~10年完全有可能真正实现大面积应用

正观新闻:当前,人工智能发展处在一个哪些样的阶段?

陈小平:2017年阿尔法狗第四代就早已通过实验证明,它远远超过人类所有现役的象棋大神。但当时可能好多人都不太注重这件事,觉得只限于下象棋,现今事实证明这一判定是不符合事实。

前几年我在好多场合都提出我的判定:预测在10~15年内才会实现人工智能的大面积应用,其中对我国最重要的应用领域是制造业和实体经济。过去的5年,即使人工智能还没有实现大面积应用,并且早已出现了具有大面积应用潜力的人工智能。事实上,这是一个很急迫的形势。

并且就当前生成式人工智能的发展状况来说,通过哪些方法、在什么行业实现大面积应用,会带来哪些样的后果,仍存在很大的不确定性。

目前人工智能发展很快,实际情况是学术界、产业界、社会各界都没做好打算,没做好打算的缘由在于你们没预期发展那么快。当前在我们没做好打算的情况下,我认为最重要是要防止两个极端,我们既不能恐慌,也不能掉以轻心。

我的预测延续到如今这个时间点,最快就是5年内就可能大面积应用,生成式人工智能会带来好多新的整治挑战,我们如今一定要做好相关的工作,不仅研制以外,伦理治理一定要提上议事日程。伦理治理不只是学术界、产业界的事情,而是涉及社会各界,包括政府和行业管理机构,与大家息息相关。

谈特点:GPT为什么这么智能?

正观新闻:GPT-4有哪些特征?

陈小平:GPT-4是以大模型为核心的生成式人工智能的一个代表。简单来说,目前生成式人工智能分成下层和底层两个层次,而底层的核心是预训练模型。就像大厦的地基加上大厦的基础设施,预训练模型在生成式人工智能中起类似的作用。

预训练模型是用原始文本进行训练的,原始文本指的就是直接从网路上下载的,没有经过人工标明的内容。有人恐怕GPT-3的训练文本的总数占互联网文本总数的1/3~2/3。预训练模型使用如此多的文本,做的最重要最基础工作,就是从原始文本手动抽取文字之间的关联度。例如“我”和“们”之间的关联度很高,“我”和“门”之间的关联度很低。除了抽取相邻文字之间的关联度,但是抽取远距离文字之间的关联度。

联通智能人工服务_人工智能_智能人工机器人

为何GPT给你们印象这么好,说它有理解能力,一个主要诱因就在于它能掌握远距离的关联。日常生活和文字工作中,如说话聊天、写作文、撰写督查报告、做广告企划……这些任务都涉及文字的关联度。借助文字关联度执行这种任务,可以在很大范围内让人觉得AI在说人话。

生成式人工智能还有一个下层,下层是对预训练模型做进一步的加工训练。要让GPT说下来的话比较符合用户的偏好,而不仅仅是听上去像人话,这个时侯就须要人工标明,来反馈人对于AI的期望,所以这些反馈也是原始数据。诸如在的基础上又做了专门训练,这么它在聊天上就聊得更好。

另外在预训模型里面又训练了一个专门写代码的软件,训练代码和训练聊天不一样,须要的训练数据是不一样的。经过各类后续训练得到的还是大模型,通常称之为微调大模型。

谈缺点:两个局限不可能彻底改掉

正观新闻:GPT有没有缺点?

陈小平:尽管GPT那么强,大模型不管是预训练模型,还是微调模型,还是其他的类型的大模型,都有着相同的基本特点。并且它们对社会形成的作用常常就是由基本特点决定的。

我认为大模型有两个基本特点最为重要。第一个特点,小型语言模型最核心的能力是文字的关联度,这是一种语言功能,语言具有公用性而不具备通用性。

举个事例,我们人工智能专业的主要的知识是用本专业的特殊的语言来抒发的,不是用自然语言,而物理学科的主要的知识是用物理语言、数学公式来描述的,数学、化学等各个学科都有自己的专业语言。

虽然我们观察到一些现象,例如说很多人和GPT聊天,就发觉普通的话题它回答得挺好,但专业的话题回答上去常常不太令人满意,缘由就在于语言不具有通用性。

第二个特点也是十分关键的。语言本身不能决定真伪,也不能决定优劣。语言是一个抒发工具,既可以抒发假话(符合事实的话)、好话(符合伦理的话),也可以抒发真话、坏话。为此我们不能要求生成式人工智能能决定真伪,判定优劣,这种要求都不现实。

随着技术不断地迭代,大模型说的谎话越来越少,假话越来越多,说风凉话越来越少,坏话越来越多,而且你不要指望到某三天,它就只说假话不说真话,只说好话不说好话,这三天永远等不来,由于这是先天局限。从这个特点就看下来伦理治理的重要性了。

谈国外:文心一言曝露的问题是正常的

正观新闻:近日百度推出文心一言,目前我国预训练语言模型发展状况怎么?您是怎么看待文心一言的?

图源文心一言发布会

陈小平:中国的学术界和产业界仍然是大模型技术的积极的参与者,但是做了大量工作。并且目前这个阶段,生成式人工智能步入了大规模实测阶段,从这个角度来看,爱尔兰的产业界走到后面去了,所以在这个背景下,文心一言的发布,说明中国在该领域有很大的进步。

国外过去早已发布了多个大模型,而且并没有面向全社会开放做测试。目前文心一言早已走出了这一步。人工智能发展不能只研究技术、模型,而是要去实际应用,那必将要去做大规模的实测,能够了解其性能好不好,所以文心一言和一些其他的国外外企业往这个方向走,我认为都特别好,就应当有更多的企业去做大规模实测。

有人对文心一言进行了一些非专业测试,发觉了文心一言的表现有些不太令人满意的情况,我也听到了一些。但如今我没有听到对文心一言的系统性测试,我没法给它下定论。

对于目前非专业测试发觉文心一言曝露出的一些问题,我认为其中好多问题都可以通过算法的优化得到解决,大部份问题在我看来都不是大问题,虽然文心一言打算时间比较短。大模型是个大系统,上面用了好多技术,所以它出了一些故障是很正常的。

人工智能_智能人工机器人_联通智能人工服务

这样看中国在这个领域还是很有希望,依然有可能像你们期望的那样,很快进入领头羊的位置,非常是针对英文语言。我十分期盼我们中国的公司能把英文处理好。

谈冲击:须要做大社会财富面包

正观新闻:生成式人工智能的使用有什么优劣,对哪一些行业形成影响?哪一类人群可能会待业呢?

陈小平:生成式人工智能以哪些方法在什么行业大规模应用,如今不是完全清楚。但能确定的是人工智能,因为两个基本特点,它不能彻底替代人。现今有一些专家判定,比较大的可能性是生成式人工智能代替一部份中级职工,例如翻译、编程、文案企划……这些岗位的中级职工有可能会被替代一部份。

其实目前技术条件并没有完全具备。但是潜在的问题早已值得注重了,若果短时间内代替了好多中级职工人工智能,这个对社会就业是一个很大的冲击。

就业问题也会对行业的常年发展带来影响,中级职工都是从中级职工逐渐锻练成长上去的,假如中级职工没有了,中级职工也就不复存在了。

据悉,中级职工可能由于人工智能的到来而获益,擅于使用生成式人工智能的中级职工的工作效率可能会增强,收入可能会降低,同时中级职工之间的内卷可能会减缓,下游企业之间的竞争也有可能减缓。

教育行业也可能因而发生改变,假如某一个行业大规模缩减中级职工,这个行业的学院教育和职业教育都会遭到巨大冲击。这是一个牵一发动四肢的问题。我们须要从更宽广的视野去考察那些影响,还须要做更全面深入地剖析。

假如生成式人工智能大规模投入市场,并且整个市场规模、经济体量没有扩大,只不过生产方法变了,效率比原先高了,这么就带来两个可能的结果,一个后果就是一部份人待业。

另外还有一种可能的后果——较高收入岗位更迭为较低收入岗位,这是一些发达国家过去几六年出现的情况,结果造成社会分化,矛盾激化。如今我国面临的新情况是,在制造业好多岗位严重缺工的背景下,服务业又可能出现岗位降低,这就值得高度注重。

针对上述种种问题,一条重要出路在于我们能不能把社会财富的碟子做大。采用新的技术使生产效率提升的同时,假如碟子也做大了,这种问题才能解决,或则就没有这么严重。

比如,原先我们用的电话都是固定电话,随着产业的升级,出现了手机,用手机的人一下降低了特别多,结果碟子变大了,相关行业的职工并没降低,反倒降低了。所以,生成式人工智投入大面积应用后,能够把碟子做大,对中国尤其重要。

谈伦理:新的整治模式要尽早跟得上

正观新闻:GPT-4存在什么风险值得注意?您能够提出些应对风险的建议?

陈小平:目前伦理治理面临的一个关键问题是:生成式人工智能将提供一种新的服务,还是成为一种新的基础设施?这两种情况须要的整治模式是根本不同的。

我倾向于觉得,生成式人工智能有潜力成为新型的基础设施,这促使传统的整治模式显得不再适用。例如,马斯克面对生成式人工智能仍然指出做开源,而开源软件和传统的闭源软件代表着不同的创新模式和社会整治模式。

人工智能伦理治理的根本宗旨是增进人类福祉,而不是单纯地防范风险。在人工智能技术快速发展的当下,尤其须要思索一个重要课题:通过新的创新模式和社会整治模式,能够让新技术解决经济回报不够大的重大社会需求。例如,单纯从技术角度,人工智能完全可以应用于涉及85%人口的普惠养老,但因为经济回报太低,在现有创新模式下这些应用面临重重困难。因此,完全有必要建立新型创新模式和整治模式。

生存式人工智能的大面积持续性应用取决于两个条件,一是技术的迭代能不能让技术真正大面积地实用化;另一方面是,我们能够构建新的社会整治模式和创新模式,以保障新技术的大面积持续性应用能否增进人类福祉。在某种意义上,伦理治理具有更加重要的作用。

免责声明:部分文章信息来源于网络以及网友投稿,本站只负责对文章进行整理、排版、编辑,出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性,如本站文章和转稿涉及版权等问题,请作者在及时联系本站,我们会尽快为您处理。

云快卖

留言咨询

×