【摘 要】本文讨论了从传统纸媒时代进入互联网时代的过程中,对于知识生产和传播所产生的各种问题。互联网上的无成本发布,导致传统的传播“门槛”消失,使互联网上垃圾充斥。对流量的无底线追逐则导致流行文化低俗化。而当人工智能与互联网结合之后,问题变得更为严重。作者讨论了“长尾”理论的虚幻性质、知识产权的保护困境、对知识的选择和信任困境、移动互联网形成的娱乐陷阱等问题。并结合实际使用情况,对ChatGPT作了分析判断,讨论了人工智能的自由意志问题,认为目前对该产品尚无需过于兴奋或焦虑,但面对不可避免将次第出现的后续产品,必须及时做好伦理、法律等方面的准备。
【关键词】人工智能;互联网;知识产权;ChatGPT
知识的生产和传播,两者之间的界限自古以来就是模糊的。在前互联网时代的末期,这两者的界限似乎已经逐渐清晰起来,但是互联网的到来使得这种界限又面临崩塌。对于本文的论题而言,理解上述演变过程是非常必要的。以下的讨论中,在无需区分知识的生产和传播时,笔者使用“生产/传播”来表达;而在需要区分两者时,则分别使用“生产”和“传播”来表达。
前互联网时代:技术与知识生产/传播的成本
在近代商业社会兴起之前,知识的生产和传播几乎无法划界。许多新的知识都是在传播过程中产生的,例如传播时的变形、增删,都可能在客观上形成新的知识。
很长时间里,知识生产/传播在物理学意义上的主要障碍是物质成本。与此有关的一系列技术和商业形态——造纸术、雕版印刷术、活字印刷术、现代出版业等等——的主要功能都是降低知识传播的物质成本。
当现代印刷术成熟的时候,上述降低知识传播物质成本的过程几乎到达了它的最高点。这时,后来被称为“知识产权”的观念开始出现。出现这种观念的原因,与越来越大的经济利益有关。这种经济利益至少可以表现为两方面:
第一个方面比较直观,就是知识传播直接产生的商业利益——比如售卖书籍、杂志、报纸、唱片等等获得的商业利润。
第二个方面则较为隐蔽,但也涉及较大的利益。随着社会的发展和富裕,教育与研究的专业机构开始出现,这意味着社会可以供养一部分“闲人”来从事不直接创造物质财富的工作了。那么应该供养哪些人呢?办法当然是经过某种选拔。在早期,王公贵族的血统、统治者的青睐,都可能成为当选的标准。但是进入现代社会后,选拔整体上变得更为公平,例如一个人如果想在大学获得教职,通常需要先获得博士学位,需要发表论文,或出版书籍(此人对这些都拥有自己的知识产权),才能如愿。这可以理解为:此人需要先生产一些得到认可的知识,来证明自己生产知识(从事研究)和传播知识(从事教学)的能力,才能获得被社会供养的资格。
知识产权中最重要的一点,通常表现为优先权,而这就要求,将知识生产和知识传播明确区分开来。知识的生产者可以拥有知识产权,传播者通常无法拥有知识产权。
从现代印刷术成熟,到互联网时代的来临,中间有约两百年的时间,这段时间我们可以称之为“纸媒时代”。在纸媒时代,上面提到的各种技术,一方面大幅降低了知识传播的物质成本,另一方面却也保障了知识产权——主要表现为知识传播的物质成本下限。
在纸媒时代,一个人如果生产了某种知识,他要想将这种知识传播出去,并得到社会的认可,是需要物质成本的——不管这部分成本由谁来承担。
如果他想在杂志上发表他生产的知识,他可以让杂志的出版商来支付成本(稿费、排版印刷费用等等),但前提是杂志愿意发表他的文章,而这通常意味着他已经支付了大量的前期成本(受教育、受学术训练等等)。
如果再极端一些,设想在前互联网时代,一个困于衣食的人,也认为自己已经生产了某种知识,他想将这种知识传播出去。由于他无法支付上述前期成本,未能在学术界获得必要的认可,学术杂志不愿意发表他的论文,于是他决定自费出版他的著作。这时他至少将面临书籍的制作成本(专业的编辑、校对、设计、装帧、印刷等等,在国内还需叠加书号管理成本),而且如果不支付发行成本,他的著作将很难售卖。
这种状态实际上形成了知识(到底算不算知识可以姑置不论)的传播门槛——并不是任何知识都可以获得传播。
但是,互联网的出现,使这一切呈现出新的局面。
互联网上的无限选择和“长尾”幻影
互联网最蛊惑人心之处,莫过于“门槛”的消失——人人都可以上传,人人都可以成为作者。从博客到微博再到移动互联网的自媒体,已经在很大程度上达到了这种状态。
从“书于竹帛”发展到今天的纸媒,构成“门槛”的要素是成本——出版一本书,发行一份杂志或报纸,都需要耗费物质成本,而这种成本通常是大部分个人支付不起或不愿意支付的。而从表面上看,互联网通过“人人可以上传”,消除了上述成本中的绝大部分,所以被讴歌为“草根阶层的狂欢”“精英垄断的末日”。
面对互联网这种“没有门槛”的状态,“门槛”的守望者们,目前只能退守到最后一道防线——纸媒,所以还有“纸质为王”的说法。到目前为止,纸媒仍然保持着权威性和正统性。例如Nature杂志这样的“顶刊”,虽然办了几十种电子版的子刊,但Nature主刊仍然保持着纸质印刷。
大约20年前,曾流行一种所谓的“长尾”(The Long Tail)理论。这种理论认为,由于互联网的发展,无数曾经被人们冷落的商品,现在都可以起死回生,重新得到售卖机会;而且这些滞销商品的销售总数,据说可以大到与销量/品种曲线左端那20%畅销商品平起平坐的地步。
这个蛊惑人心的“长尾理论”,实际上至今也没有真正得到实践中的成功。互联网上低廉的乃至近乎免费的广告宣传,虽然有可能使得任何一种极度冷门的商品得到销售,但是这件商品怎样才会真正到达买家手中呢?仓储、物流都是需要成本的,生产厂家或销售商不会让一种极度冷门的商品占用他们珍贵的仓储和物流资源。
但是“长尾理论”仍然让人对某些不需要仓储物流的商品抱有幻想,而充斥在互联网上的种种“知识”,恰恰属于这样的商品。互联网上的无穷垃圾姑置不论,尽量找高端的例子,比如“谷歌图书馆”计划,据说“这意味着以往几千年所形成的社会精英对知识的垄断从此彻底结束,那时一个大学教授可以看到的任何文献,一个打工仔都同样可以看到,打工仔可以和教授、博士站在同一条起跑线上做学问——如果他想做的话。”
互联网为公众提供了表面上的“无限选择”,而这成为“长尾理论”的基本支撑点。但表面上的“无限选择”实际上并不会带来上述想象中的结果。
让我们用类似“归谬法”的思路,打个比方来考察“无限选择”的前景。
假如你吃饭时只有四菜一汤,也许你觉得太俭朴太寒酸不能吃得畅快,那么现在给你提供一百个菜如何?也许你会说,这就是古代贵族所谓的“食前方丈”啦,我想吃哪个菜就吃哪个菜,很爽呀。那么好,现在给你提供一万个菜如何?
面对一万个菜,就不可能用“吃一口看看”来进行尝试了——你一顿饭不可能吃到一万口。再说,这一万个菜如何摆放?摆成长列,你要走多远才能尝遍?当然你可以只吃近处的几个菜,但那样一来,其余的菜对你还有什么意义呢?更何况,你近处的菜可能是你的健康状况所不适宜食用的,而适合你健康状况的菜,则隐藏在远处九千九百多个菜中,你将怎么办呢?
也许你会说,不是还有菜单吗?我可以看了菜单选择呀?是的,确实有电子菜单,但这个菜单如果是二十项,你看一下作出选择当然没有问题,可是现在菜单长达一万项,你要用多长时间才能看完?难道你要让别的什么软件、算法、网站来替你选择吗?你不担心它们收受了利益输送而将利润最高的菜推荐给你吗?
上面这个吃饭的比喻,主要是为了强调一点——对于有限的生命、有限的时间、有限的精力来说,“无限选择”不仅完全没有用处,甚至还会是荒谬的和有害的。
从“无限选择”到“选择为王”
真到了人人都可以直接在网上向读者出售自己生产/传播的知识那一天,将是“选择为王”。事实上,选择问题今后仍将继续存在,而且会变得空前迫切和严重。
传统书籍的出版,主要是由编辑、出版、印刷、发行等方面的成本,构成问世的门槛。而有门槛就必然有选择,通常是门槛越高,选择就越严。真到了作者都可以直接在网上向读者出售自己著作的局面,上述门槛确实接近消失,但此时将出现另一种门槛:选择——谁来选择?
从前面那个吃饭的比喻中我们知道,在那样的局面下读者很难靠自己来选择。于是仍然要依赖出版社和专业人士来选择。换句话说,我们仍然只能接受经过合理选择的一二十项的菜单,而不会要那个毫无意义的“无限选择”的一万项菜单。
到人人可以在网上售卖自己著作的那一天,读者面对的选项岂止一万项,那将可能是几十亿项。可是你怎么可能去买一个你完全不了解的、名不见经传的人的作品呢?那样的作品在几乎无限长的“长尾”中又有多大的机会被你看到呢?只有那些专业出版社,因为多年来术业有专攻,声誉卓著,它们出版的书才会有足够多的读者购买,从而形成商业利润。而它们出版的书,当然是经过了专业人士选择的。
到人人可以在网上售卖自己著作的那一天, 99%以上在网上售卖的著作肯定都是垃圾。经过短暂的混乱和狂欢,新的门槛将重新建立起来,专业人士将继续为广大读者服务,即为广大读者选择合适的、有价值有意义的真正的著作供他们阅读。
当然,也可能有某种名不见经传的作者的书意外大卖,但那必然是专业人士推荐或精英们策动炒作的结果(就像他们可以将“贾君鹏你妈妈喊你吃饭”这句话炒热一样)。
举例来说,近些年中国全年出版的纸书品种都达数十万种,随着实体书店消失殆尽,读者只能依赖媒体的书评和图书推介来帮助选择,如果再考虑到互联网上无穷无尽的知识生产/传播,此时一个读者应该选择什么来阅读呢?他又将依赖什么来完成选择呢?
此时必将出现另一种新的“门槛”,它的要素是选择——普通读者只能依赖别人来为他们选择读物,而为他们选择读物的人就将成为新的文化精英。这种新的文化精英,基本上可以由纸媒时代的文化精英继续充任(因为纸媒时代他们已经在做这件事了),精英们的权威甚至可能变得更大。当然也会出现一些互联网时代的新晋精英。虽然“人人可以上传”,但上传的东西不被精英选择,就没人看,其实就和没上传一样。
从上面已经讨论的这些方面来看,似乎所有的选择机制,本质上仍和纸媒时代一样。互联网上的知识生产/传播看起来像是一场“革命”,其实只是技术手段的改进而已,就像当年纸张取代了简帛一样。但是,问题却不止于此。
人工智能对互联网上知识生产/传播的负面作用
其实自从进入互联网时代以来,初级形态的人工智能很早就介入了知识的生产/传播,只是在相当长的时间里,这一现象并未引起人们的关注和重视。
既然我们已经习惯将科技含量明显不高的自动清洁装置称为“扫地机器人”,那就应该认识到,初级人工智能早已介入了互联网。比如,今天我们已经熟视无睹而且不可或缺的网上订票、购物活动,以及利用用户访问数据而做出的选择性推送等等,离开了初级的人工智能都是难以想象的。
如果说着互联网上的内容发布可能涉及知识的生产(其实绝大部分的互联网发布仍然只是知识传播),那么互联网的检索功能,基本上可以对应于知识的传播。检索功能当然就是某种自动功能,这里人工智能明显已经介入。例如有些软件可以帮助用户有选择地、更高效地进行专门检索,这肯定要用到语义识别、算法等等,人工智能介入的痕迹更为明显。随着互联网的发展,各种应用几乎都离不开人工智能。
接近零成本的互联网发布和检索功能,从物质上消除了纸媒时代知识传播的门槛,这对于传统媒体时代所遵行的一些基本规则造成了严重破坏。
第一,是对传统知识产权的侵害。在失去了发布门槛的互联网上,任何人都可以发布自己生产的知识(正确的和错误的),同时由于近于零成本的检索极为快捷和便利,也可以未经授权而方便地传播别人生产的知识——剽窃和转载的边界已经模糊,因为事实上很难追究那些未经授权的发布行为。
在这种情形下,真正的知识生产者几乎已经无法完整保护自己的知识产权。目前唯一还能使用的标识只有一个——稿费。纸媒中的杂志和报纸,至今仍保持着支付稿费的规则;但是在互联网发布中,支付稿费的只是很少数的情形。一方面,许多纸媒也有自己的网站或公众号或App,但它们在为纸质版本支付过稿费之后,通常也不会为新媒体版本再支稿费。另一方面,未经授权的转载或发布,原作者很难尽知,更难禁止。
第二,是造成了对知识选择和信任的困境。在纸媒时代,传统媒体以多年的传播成果和纪录,为自己传播的知识做了背书,使人们在大部分情况下可以选择信任哪个传播者(哪怕有时候他实际上被这个传播者所欺骗)。但是随着发布门槛的消失,互联网上充斥着各种明显荒谬的内容,而大部分公众现在已经告别了纸媒时代——他们中的许多人已经完全不看任何纸媒了。
例如,许多人现在习惯在各种短视频平台上获取“知识”,却忘记了这样一个显而易见的事实——绝大部分短视频发布的首要目的,不是向受众传播真实的知识,而是吸引“万恶的流量”。如果谎言和荒谬的内容可以比真话和正确的知识吸引更多的流量,绝大部分发布者就会毫不犹豫地选择前者。
也许有人会说:新媒体上难道没有高雅内容吗?是的,确实是有的,但是这样只放高雅内容的互联网新媒体——如果真有的话——它们盈利了吗?如果现在还在用风险投资烧钱的阶段,那请耐心等待,等到它盈利的那一天,你再去看它的内容构成是什么。
而且,由于丧失了发布门槛,互联网上的信息量可以视为无穷大,因而系统性的甄别目前已经不存在了——这种甄别在传统媒体中,在纸媒时代,曾经是确实存在的。
不易管控的互联网新媒体,正以令人意想不到的速度迅速“垃圾箱化”,由于那上面充斥着垃圾,就给它争取高雅内容带来了极大的障碍。就好比以前金玉珍宝是陈列在紫檀木柜子里的,大家本来已经习惯了这样的位置,现在如果有人试图将金玉珍宝挪到垃圾箱里去,理由是紫檀木柜子前门可罗雀,而垃圾箱旁边却围着一大堆人。可是,绝大部分金玉珍宝的主人肯定是不愿意让自己的珍宝置身于垃圾箱的,更何况,围在垃圾箱旁边的人也未必愿意欣赏那些金玉珍宝。互联网新媒体正在迅速矮化、毒化我们的流行文化,这将是我们拥抱互联网之后难以避免的惨重代价之一。互联网新媒体上即使也有高雅文化,仍然完全无法改变上述趋势,因为人的时间、精力和注意力都是有限的,围在垃圾箱旁边时,就不可能分身到紫檀木柜子前去。
第三,互联网与人工智能的结合正在提供“娱乐陷阱”。这个陷阱最明显的表现,就是越来越多的人,正在把每天越来越多的时间,花费在智能手机上。据一项小型调查,国内某顶级著名高校的本科生,每天花费在手机上的时间,最短为5小时,最长超过10小时,平均每人每天达8小时。绝大部分的“刷手机”行为,当然是出于娱乐的动机(包括游戏、观剧观影、浏览娱乐性的“知识”、在社交媒体上互动等等)。而众所周知,在其他社会人群中,同样的情形并不罕见。
在前互联网时代,几乎所有的娱乐都需要一定的成本,多多少少需要付出一定的金钱代价。这就对人们耗费在娱乐上的时间造成了某种比较刚性的约束。而如今得到人工智能加持的互联网,特别是移动互联网,竟然提供了不需要任何成本(或成本小到可以忽略不计)的多种娱乐形式,这在人类历史上可以说是前所未有的现象,这个现象最明显的后果,就是流行文化被迅速低俗化。
当越来越多的人落入互联网和人工智能共同构建的“娱乐陷阱”时,传统的知识生产和传播,必将明显受到挤压和消蚀。我们必须注意一个经常被我们忽略、然而却又是极端重要的基本常识——人生不过百年,一天只有24小时。这个常识告诉我们,人的时间和精力都是有限的。
全世界人口总数乘以24小时,就构成“眼球经济”“注意力经济”的刚性极限;而实际可用的数值显然要小得多,例如没有人可以长期不吃不睡不工作一天24小时挂在网上。无数新媒体的争夺,很快就将逼近零和状态——很可能已经到达了。在这种状态中,低俗媒体每多吸引一份注意力,就意味着高雅媒体失去一份注意力。所以年轻人耗费在“娱乐陷阱”中的时间越来越多,则用于他们健康成长的时间必然越来越少。
ChatGPT引发的过度兴奋和焦虑
在近年对人工智能的持续商业炒作中,ChatGPT作为一款新产品高调问世,引发了普遍的兴奋和焦虑。尽管这些兴奋和焦虑本来就是商业炒作所期望的效果,但确实也引发了一些严肃的思考。我们对ChatGPT应该先注意以下两点:
第一,在使用过程中,ChatGPT自身(也可以理解为它的研发者)经常对用户强调:“我是一款聊天机器人”。这意味着,ChatGPT的研发者是将它作为一款聊天机器人产品来研发的。需要注意的是,聊天机器人作为人工智能的早期产品,至迟在20世纪60年代就已经出现了。例如由麻省理工学院在1964~1965年间开发的聊天程序Eliza,就是一个这样的产品。当时有许多人乐意与Eliza单独聊天,有时一聊就是几个小时。Eliza作为一个心理治疗医师,已经相当成功,甚至得到了专业医师的好评。现在中文媒体上将ChatGPT译作“聊天机器人”逐渐普遍起来,这是恰当的。
第二,从使用中不难发现,ChatGPT并不具有实时查询互联网的能力,它只是根据研发者事先“喂”给它的知识来回答用户的问题,所以它经常面对陌生的问题胡编乱造,“一本正经地胡说八道”,它被称为“生成式聊天机器人”确实是实至名归(胡编乱造当然也是生成)。但是要赋予它实时查询互联网的能力并不困难,因此可以认为,ChatGPT的研发者还是相当有节制的——他们并不想弄出一个有惊人学习能力的人工智能来。这也容易理解,在现阶段,如果赋予ChatGPT实时查询互联网的能力,至少会引发大规模侵害已有知识产权的失控局面。
由于在商业炒作中ChatGPT被描绘成具有极强的模仿/创新能力,这引发了一系列对生成式聊天机器人被广泛使用前景的忧虑,例如,有人担心ChatGPT创作出来的作品会千篇一律,有人担心ChatGPT会取代自然法人,还有人担心未来ChatGPT或同类产品输出的作品会成为人类社会信息的主体,甚至认为使用ChatGPT就会产生“高科技剽窃”,会破坏文学创作的生态环境。
关于ChatGPT会不会超越甚至代人类从事艺术创作,许多焦虑都属危言耸听。其实这个问题从人工智能出现的时候就有人提出来了,到目前为止,既没有看到有人提出新的问题,也没看到ChatGPT在创作上有什么革命,所以我们目前并未来到划时代的节点上。
但是,我们也没有理由认为,人工智能一定无法代替和超越人类创作。只需要问问人工智能的研发者,他们研发人工智能的目的,是想让人工智能的创造能力达到和人类一样好,甚至超过人类,还是要让人工智能永远不超过人类?我相信,所有的从业者都会选择前者。有的作家表示“坚信人工智能不会超过作家”,只是一种自我安慰,作家如何能断定人工智能的研发者们一定不会成功呢?
这个问题又和人工智能的另一个问题直接有关——自由意志。通常一个有自由意志的物体,我们才可能承认它的权利,比如我们不会承认一棵树的权利,因为我们不认为树有自由意志;但我们不会像对待树一样对待家里的猫和狗。
如果从低到高给生物画一个连续谱,从最低一端我们确认它们没有自由意志,因而也没有任何权利,到最高一端即我们人类,那就有人权。现在人类研发人工智能,实际上等于是在推动它从连续谱最低端向最高端不断行进。
现在人工智能研发到ChatGPT这样的地步,它会不会在什么阶段产生自由意志?我们当然不知道它会在哪个瞬间产生自由意志。此事在现实世界还没有确切发生过,我们只能姑且借助科幻作品进行思考和推测。
剧集《西部世界》(Westworld,1~4季,2016~2022)一直在讨论这个问题。那几个机器人本来是供人娱乐的,结果它们开始有自由意志并且付诸行动了。可是自由意志是怎么来的?当初给它们写的程序里肯定没有,也就是自由意志可以从无到有生长出来。类似的,在影片《失控玩家》(Free Guy,2021)里,盖原本是一个赛博空间里的小龙套,后来产生了自由意志,不安分了,开始追求女主角了。他的这种念头是怎么产生的?影片中说是程序员给他写了一段足够复杂的代码,导致了自由意志的产生。
这不是科学的解答,但这个解答是有合理性的。一个系统只要足够复杂,里面就会发生不测事件,而这些不测事件中就可能包含自由意志。这个问题到现在为止,无论是哲学家还是科学家,都没能解决。今天的人工智能也没有复杂到这个地步,人们还无法清楚判断它有没有自由意志。比如和ChatGPT聊天,它到底有没有自由意志?仍是无法判断的。
对人工智能介入知识生产的伦理思考
对ChatGPT之类人工智能产品的伦理警惕,毫无疑问是必要的。在这方面,国外的一些动态值得关注:
2018年正式发布了《蒙特利尔人工智能开发社会责任宣言》,这个宣言的起草者之一本希奥(Y. Bengio)2023年3月又参与签署了“所有AI实验室立刻暂停训练比GPT-4更强大的人工智能系统”的公开信。该公开信已有数万人签名附议,其中包括马斯克。而被称为“深度学习之父”的辛顿(G. Hinton)在签署该公开信之后不久,即辞去了谷歌副总裁的职务。辛顿向《纽约时报》表示,他对自己毕生的研究和工作现在“有些后悔”,他辞职是为了能够“自由地谈论人工智能的风险”。
ChatGPT问世之后,对于是否应该使用它来生产知识,人们的态度有明显的不同。有的学校申明禁止使用ChatGPT来完成作业或写作论文,有的学校却鼓励学生使用ChatGPT来完成作业。如果我们的关注重点是知识产权,那么我们姑且同意将学生完成作业或撰写论文视为“知识生产”(实际上这样做当然是有问题的,因为在通常情况下,作业和许多论文,甚至包括学位论文,都并未生产出严格意义上的新知识,但这不是本文要讨论的问题),就会发现上述不同态度是耐人寻味的。
不同意由ChatGPT来生产知识,不认可由ChatGPT生产出来的知识的知识产权,主要是着眼于知识产权所有者的主体身份,这牵涉到人工智能伦理学中一个历史久远的问题,即机器人或人工智能的人权问题。这个问题半个多世纪之前就由科幻作家提出来了,科幻作品中也已经反复讨论过了。ChatGPT高调问世后,这个问题再次被激活。禁止使用ChatGPT来完成作业或写论文,就是延续了上述人权问题中的一种保守立场——不承认机器人或人工智能的人权,因此当然也不承认它们的知识产权。
而鼓励使用ChatGPT来完成作业或写论文,却不一定要走向承认机器人或人工智能人权的激进立场。因为我们只要将ChatGPT界定为一种工具,就可以理直气壮地争论说:我们很早就开始、并且长期以来一直都允许借助工具来完成作业或写论文,硬件比如借助笔、电脑,软件比如借助Word、浏览器(用来查找资料)等等,都没问题,为什么借助ChatGPT就有问题?
事实上,如前所述,初级人工智能和自动化之间的界限本来就是模糊的,今天互联网上的种种应用中,哪些属于人工智能,也很难区分清楚。因此只要ChatGPT(或类似的软件产品)没有展示出明确的自由意志——比如要求在由它生成的论文上署名、要求由它来领取它生成文章的稿费或书籍的版税、要求和它的使用者结婚(这些在科幻作品的故事中都已经出现过了),我们就可以继续使用ChatGPT帮助我们工作(哪怕包括创作文艺作品),同时完全无视它的知识产权问题——它做出来的产品的知识产权就属于它的使用者。
当然我们知道,这样做虽然暂时并无法律问题(就好比我们用Word写文章没有任何法律问题一样),但这种做法普遍流行之后,必将极大地改变知识生产的文化生态,最终对于人类是福是祸,就很难说了。
至于生成式聊天机器人ChatGPT,暂时还不会产生“划时代的”影响,它只是人工智能研发过程中一连串类似产品中的一个,在短期商业炒作之后,将渐归沉寂,等待下一个耸人听闻的新产品问世。我们应该致力的,是尽早对所有这类产品做好思想、伦理、法律等方面的准备,力求对这些产品能够有所规范——尽管这在目前看来似乎是非常困难的。
(江晓原,上海交通大学讲席教授,科学史与科学文化研究院首任院长)