视频 | AI狂飙 如何系好“安全带”

最近这段时间ChatGPT可以说是“风生水起”，一跃成为了人工智能界的“顶流”。但是ChatGPT也在经历一次又一次的质疑，先是全球有各种抵制的声音，现在又被曝光说有人操控ChatGPT来编辑假新闻。一开始是人人羡慕到现在是很多质疑，人工智能到底怎么了？

人工智能会“砸”了谁的饭碗

前段时间，国内某广告公司宣布，将无限期停止创意设计、方案撰写、文案撰写、短期雇员四类支出，改用生成式AI完成工作。随着ChatGPT横空出世，越来越多的岗位正在被人工智能取代。高盛发布的报告显示，全球将有3亿个岗位被人工智能取代，大约占到全球人力的四分之一。

于是，以创意能力著称的好莱坞编剧们无法淡定了。编剧们罢工的一个重点在于解决薪酬矛盾，另一个问题则在于人工智能的侵入，后者或许将决定娱乐行业未来几十年的发展。美国作家协会谈判委员会成员John August表示，编剧对人工智能主要有两个不满：他们不想让自己的作品成为喂饱AI的材料，也不想以后只能修改AI草率的初稿。

但实际上，AI在好莱坞已经占据了一席之地，比如帮助消除演员脸上的皱纹，或者绘制动画短片，或者生成逼真的图像等。与此同时，也确实有一些编剧已经开始用人工智能来编写故事。

人们的焦虑是否过度，面对AI“打工人”应该拿出怎样的态度？“大家能够看到现在的工作会消失，但是我们看不到什么新的工作机会会被创造出来。就像100年前、200年前那些人，看不到后来产生的新的工作机会一样。我个人是属于乐观派，我不担心大模型会导致人类工作机会减少、生活会变差。”在5月18日举办的天津智能大会上，百度CEO李彦宏给出了自己的答案。

上海人工智能研究院资深研究员邓志辉告诉记者，未来有三个方向的工作可能会受到影响，一是程序员、分析师，二是语音播报类或者是有声读物类的工作；另外，一些绘画师、插图师的工作也会成为“高危行业”。

不过，达观数据CTO纪达麒的解读是，技术进步是一个趋势，它可能会带来一些改变，但是不一定能够在短期内完全取代这些工作，有可能使这些岗位的工作效率大幅提升，也会催生很多新的机会。

在他们看来，技术革新带来的生产方式乃至生产关系的改变是必然的。一部分人的饭碗确实可能会被人工智能砸掉，但围绕人工智能技术，也将催生出一系列新的岗位、新的工种。比如，人工智能需要依靠大量信息“投喂”和训练才能实现迭代乃至进化，因此专门面向ai绘画的人工智能训练师在可见的未来将是大概率会出现的新职业。

人工智能“以假乱真” 我们该如何“打假”

近日，甘肃省平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。犯罪嫌疑人在全网搜索近几年社会热点新闻，通过ChatGPT软件将搜集到的新闻要素修改编辑后，发布了“甘肃一火车撞上修路工人致9人死亡”的文章，并上传至其多个账号进行非法获利，公安机关认定其行为已涉嫌寻衅滋事罪。

这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施后，甘肃省侦办的首例案件。说起来，这已不是ChatGPT第一次陷入假新闻风波了。此前，国际社会多个研究机构均对人工智能与生产虚假信息之间的关系做过测试。实验结果表示，“这个工具将成为网络上有史以来最强大的错误讯息工具”。

ChatGPT打开了人工智能的新大门，也打开了潘多拉的魔盒，一段时间以来，关于人工智能生成内容以假乱真、数据泄露以及侵权的风险被进一步放大。对此，邓志辉则指出，在监管层面上“内容服务商、内容生产者对内容的生成，到底运用哪些真实的数据，或者生成的数据内容可靠性进行必须担负起监管责任”。另外，人工智能浪潮滚滚而来，相关法律与伦理框架不仅不能落后，反而更要尽量赶在前面。相信随着法律法规的逐渐完善，相关权责会更加明晰，操作规范会更加具体。

与此同时，同济大学电子与信息工程学院副教授、上海市青年科技人才协会副会长齐鹏表示，生成式人工智能依托于大模型训练，在某些应用领域中发挥了重要的作用，甚至在一些情况下能够达到相对专业人员的水平，足以以假乱真。“生成式人工智能的监管也存在一些难点问题，比如平台方如何进行责任界定，内容如何确定到底出自真实的人类还是人工智能，以及取证难等。”齐鹏补充称，政策相对于技术总是存在滞后性，对待技术带来的新问题，不妨多多寻求“技术解”。比如，对于人工智能合成的文章进行识别、并打上不可抹掉的标签。

(看看新闻Knews记者 陈怡 )