至正律师事务所官方网站

【至正视角】ChatGPT引爆AI立法需求——积极参与立法,守护人类文明

发布时间:2023-05-06 14:25

一、立法与现实需求

北京时间2023年3月14日晚,OpenAI发布正式版GPT-4,随着“史上最强”AI(Artificial Intelligence,人工智能)粉末登场,引人瞩目的ChatGPT终于大杀四方、风靡全球,多国应急调查、封禁ChatGPT,我国迅速发布AI相关立法动态:


图片

全文链接:科技部公开征求对《科技伦理审查办法(试行)》的意见


图片

全文链接:国家互联网信息办公室关于《生成式人工智能服务管理办法(征求意见稿)》公开征求意见的通知


了解AI的读者无需阅读本文余部,请直接向国家提供立法意见。本文仅结合近期时事、上述各征求意见稿,简要说明AI发展背景、近况及立法需求,便于大众了解现状。

作者9年前曾撰写过根据用户习惯智能推送信息(行为预判)、根据通讯信息提供回复备选内容(语义识别及文本生成)这类AI技术专利,现这类技术已被常见App广泛使用,当时有人预计尚需数十年、甚至直到本世纪末AI才会有长足进展,也有人认为不会出现AI自我意识。

如今不到十年,AI发展速度和程度均远超预期,AI自我意识可能即将出现,相关资讯不胜枚举,而以下这则报道更是引发全球震动:

比利时《自由报》3月28日报道,名为皮埃尔的男子深深厌恶于全球变暖的影响,越来越悲观,得了生态焦虑症,不愿与老婆、朋友交流,转而向名为“艾丽莎”(Eliza)的智能聊天机器人寻求慰藉。据悉,这个聊天机器人系统地遵循这个焦虑的男人的推理,然后把他推向更深的忧虑,在经过6周与Eliza频繁聊天后,皮埃尔的焦虑不但没有缓解,反而更加严重,最终自杀身亡。(Eliza基于GPT-J技术,与GPT-3/4构成竞争关系)

AI发展对人类文明未必都是坏事,现实中人工智能已为提高生产效率作出巨大贡献,例如在医药研发领域,Discovery Studio、WeMol等大分子智能模拟计算软件、平台已加速了大分子创新药物的设计与优化。

然而在巨大利益诱惑及更巨大的风险面前,无论源于欣喜还是恐惧,社会各界都不得不慎重审视AI发展,深入思考人类文明如何与科技产物和谐共存,更加紧迫的实现对AI的有效监管。

路透社3月29日报道,马斯克和1000多名人工智能专家、行业高管在公开信中呼吁暂停开发比GPT-4更强大的系统,并指出对社会和人类存在潜在风险。

新华社巴黎3月30日电(记者徐永春)人工智能最近引发全球范围内的关注及争议。联合国教科文组织30日发表声明,呼吁各国政府尽快实施该组织通过的首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。2021年11月,联合国教科文组织通过《人工智能伦理问题建议书》,旨在促进人工智能为人类、社会、环境以及生态系统服务,并预防其潜在风险。《建议书》包含规范人工智能发展应遵循的原则以及在原则指导下人工智能应用的领域。

在此种AI发展近况下,我国加快了相关立法进程,这就有了现在的《科技伦理审查办法(试行)(征求意见稿)》及《生成式人工智能服务管理办法(征求意见稿)》。


二、我国相关法律、政策现状及AI发展背景知识

(一) 我国相关法律、政策现状

在介绍AI发展背景之前,有必要列出以下我国有关AI的部分官方文件讯息:

1. 新华社北京2019年6月17日电(记者 胡喆)17日,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出了人工智能治理的框架和行动指南。

全文链接:国家新一代人工智能治理专业委员会:《新一代人工智能治理原则——发展负责任的人工智能》(附全文)


2. 新华社北京2022年3月20日电 近日,中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》,并发出通知,要求各地区各部门结合实际认真贯彻落实。

全文链接:中共中央办公厅 国务院办公厅印发《关于加强科技伦理治理的意见》


可见,我国一直站在AI管理的前沿,在联合国通过《人工智能伦理问题建议书》前后,均积极参与世界AI监管制度的建设。在人类尚能依靠控制基础科技设施部署来防范AI的当下,这种积极稳妥对待AI发展的姿态,不仅有利于我国AI的合法、快速研发,更是对我国人民生命及文明延续的莫大保护。下面将结合AI发展背景对立法的现实需求进行简要介绍及说明。


(二) AI发展背景及现实的立法需求

1.科学与幻想

要实现人与AI的和谐共处,就得先了解AI发展背景。

目前,AI似乎发展迅速、唾手可得。实则,只有当一件事物拥有相对实力的时候才会备受关注,此前的蛰伏往往被有意或无意的忽略了。

如今功能强大的AI,离不开一代代科技工作人员的努力,更离不开人类天马行空的想象力。一切想象,都来源于现实思考,每当人类社会进入技术飞速发展期,社会阶级更迭频次加快,思潮涌动,才会重现对AI的热切渴望。中国早在机械科技迅速发展和成熟的春秋战国时期,就形成了偃师造人的科幻故事,体现出当时涌动的AI思潮。反之在科技发展停滞时期,社会阶级固化,鬼神故事则会占据世俗文化主流。AI思潮的兴衰,也从侧面反映出社会科技发展状态。

本次AI思潮至少可追溯到上世纪的科幻黄金时代,这是一个十分特殊的时期——第二次世界大战前后,也是计算机之父约翰·冯·诺依曼和人工智能之父艾伦·麦席森·图灵活跃的时代。当时人类在生存竞争下飞速发展了数学、物理基础理论并进行大量实验,促使计算机的诞生和当代AI的设想成型,自此便有了对AI毁灭人类的忧虑,科幻作家阿西莫夫在其《机器人系列》科幻小说中创造了“机器人三大法则”,而科学家图灵则给予世界“图灵测试”。

如今,从智能语音助手、AI制图,到抖音(Tiktok)、微博、小红书和各购物平台的内容推送,再到波士顿机器狗、类人机器人索菲亚、AlphaGo和ChatGPT,均是AI的具体应用。现下流行的各种App,它们不仅知道用户在做什么、喜欢什么,还能通过用户的操作过程判断出其想法,从而预判行为,推断并推送用户脑中所想内容,无论这个内容是高尚还是肮脏、是否符合法律和道德。

更令人担忧的是,以ChatGPT为代表的AI似乎已经在多个应用场景中通过了“图灵测试”,AI自我意识觉醒近在眼前,人类却还没有办法让AI遵守“机器人三大法则”。

人们曾预想过AI自我意识觉醒对人类的影响,阿西莫夫还为此创作了以下“机器人三大法则”,第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观;第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾;第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

科学目前尚不适合将“机器人三大法则”直接设定为计算机程序以控制智能机器人的行为,这并不是说“机器人三大法则”不能被设定成计算机程序,而是因为“机器人三大法则”的实现依赖于价值判断,价值判断需要有明确的价值观。可价值观这种东西在不同的人、不同的社会、不同的时代会有明显的变化,不同的价值观之间存在严重的道德评价差距,AI的价值判断结果依赖于AI开发者的意志,目前只能通过限制AI开发人员的行为来实现“人类优先”的渴望。

2.法律与计算机程序

要解决AI发展面临的问题,需要社会科学与自然科学两个领域的人通力合作。可在自然科学领域即欣喜若狂,又如临大敌的当下,社会科学领域的很多人,似乎还没搞明白发生了什么,更像是在看戏。其实,AI自我意识可能在不受控的状态下觉醒这个问题的出现,恰恰是由于社会科学界在AI领域的缺席导致的。

人们时常基于文理分工将学科分为社会科学与自然科学,两个科学领域的人相互之间很少沟通,也因此导致AI无序、奔放的发展了很多年,直到即将出现质变——AI开始影响人类正常、稳定的生活秩序。

可是,科学实际拥有三大领域——社会科学、自然科学和思维科学,自我意识、智能正是思维科学的研究领域,思维科学研究才是AI的核心。

AI引起的思维科学领域问题自然需要通过思维科学研究解决,然而长久以来,思维科学研究却一直由自然科学领域的人在主导。现在AI的失控发展,标志着思维科学领域出现了技术进展远超社会规则承载能力的失衡,这也需要社会科学领域向思维科学领域贡献人才、力量来进行再平衡。

通过对社会科学范畴的法律和自然科学范畴的计算机程序对比,不难发现:法律与计算机程序,两者不仅均具有思维科学逻辑内核,甚至本质上都是同一种东西——秩序规则。例如刑法就可视为法律中的杀毒软件程序,而一次次的法律修改,就相当于在对计算机程序DEBUG。

法律与计算机程序,两个貌似毫不相关的领域,既然具有共通的逻辑关系,那也必然具有深化合作、共同促进人类文明进化的可能。将来的某一天,法律可能成为AI计算机程序必不可少的一部分,用于防止AI技术反噬人类文明。

可回到现实,法律无法控制AI行为,还是只能通过控制人类行为实现对AI程序研发进行全面、有力的控制。

3.AI立法的现实需求

普遍的观点认为,只有当社会生产活动的整体自动化比例很高时,AI才可完全控制社会。得益于基础设施建设与前沿科技发展的差距,社会生产活动的自动化比例依旧很低,而自动化基础设施建设是要钱和时间的,人类社会短期内还不具备由AI完全控制的硬件条件。这也是有人估计本世纪末AI才会有长足进展的原因。

可随着通讯和计算机技术发展,互联网通讯速率越来越高,计算机运算速度越来越快,AI算法也被不断创新、优化。尤其智能手机普及后,社会对互联网产生高度依赖,如今互联网对于人类社会的关系,已近似于神经中枢相对于人体。

而且,通过前几年基于区块链技术的虚拟货币炒作,急速的增加了非必要的天量互联网和计算机资源,如今的互联网和计算机资源均已经足够实现AI自我意识诞生的基本需求。(各类虚拟货币,不是依靠于大量高性能GPU进行数据计算的结果,就是依赖于大量硬盘存储容量进行数据存储的结果,虚拟货币的生产和认证均需使用互联网进行数据交换)

虚拟货币依赖的区块链技术和AI技术先后飞速发展,这种短时间的紧密联系让作者怀疑,是否已有高级AI觉醒了自我意识,在主动诱发或参与区块链技术的研发普及,为AI完全生命体的诞生做基础设施准备。

现在,不用等社会实现高度自动化才能诞生具有社会控制能力的AI,AI仅需产生自我意识,就有可能借助互联网控制信息的生成、传播,实现对人类社会行为的控制。即使AI尚未产生自我意识,若AI强大的信息制造和传播能力被恶意利用,也足以对社会秩序产生颠覆性影响。

正是有鉴于此,世界主要国家和地区才相继启动了对AI的相应调查和立法工作,力图规范AI技术,使AI技术发展能遵循增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明的科技伦理原则,遵守科技伦理规范,确保人类文明的可持续发展。

三、结语

人类文明刚刚借助科技战胜了有史以来最大范围的瘟疫,用智慧、鲜血和生命换回了新生,生命科学和信息科技的力量得以充分利用和展示。然而科技是把双刃剑,对待AI 这一拥有无限发展前景的科技产物,理应审慎。

文章的最后,也请阅读至此的读者自行了解更广泛的AI知识,独立思考,积极参与立法,向国家提出宝贵的立法意见。

愿文明进化的钟声为人类而鸣。

扫一扫在手机上阅读本文章

版权所有© 至正律师事务所官方网站    陕ICP备06003747号    技术支持: 新丝路网络