谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

◎ 科技日报记者 崔爽

“关于基因编辑的文章,在2012年只有7篇,2018年达到2750篇 ,作者超过36000人,分布于92个国家,从属于3600多个大学和研究机构。对他们的问卷调查发现,40%的人从没听说过已有的60多个基因编辑相关宣言,真正研究过那些共识条款的人不足20%。这就是我们的现状。”11月8日晚,第二届世界科技与发展论坛以“科技伦理与科学文化”为题举办高端对话,清华大学苏世民书院院长薛澜现场分享了一项研究。

基因编辑、人工智能、自动驾驶……新技术遭遇伦理拷问,怎么破?

“科技伦理与科学文化”高端对话现场

他进一步说,在参与调查的全球科学家中,有30%同意“暂停基因编辑研究”,超过50%反对,“科技工作者内部都是分裂的,可见从业者并没有对基因编辑的伦理问题进行深入思考。”

基因编辑、人工智能、自动驾驶……新技术遭遇伦理拷问,怎么破?

世界工程组织联合会主席龚克

这一天,真的来了!在你不经意之间,一只命运之蝶已经展开了它颠覆之翅!

基因编辑之外,人工智能、脑机接口、自动驾驶……在现代科技快速迭代和社会应用不断创新的今天,技术和产业创新紧密结合,在推动社会发展的同时引发一系列伦理问题,冲击着人类传统的伦理观念。正如世界工程组织联合会主席龚克所言,“挑战已经近在眼前”。

基因编辑、人工智能等伦理争议最受关注

12月2日,谷歌宣布:谷歌最新人工智能 AlphaFold,在一项极其困难的任务中击败了所有对手,成功根据基因序列预测了生命基本分子——蛋白质的三维结构。

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

从 DNA 到蛋白质 3D 结构(图片来源:profacgen.com)

根据中国社科院组织的相关调查,在科技伦理领域最受关注的问题中,基因技术排在首位,机器人、人类增强、人工智能等分列其后。

是的,你肯定觉得谷歌AlphaFold这个名字很熟悉。因为这个谷歌AlphaFold,和打败围棋高手的AlphaGo,可谓孪生兄弟。只不过,后者是下国际围棋的,而前者,则是将其人工智能转向了人类科学中最棘手的领域——基因医疗科学!

“蛋白质折叠”是一种令人难以置信的分子折纸形式。所有生物都是由蛋白质构成的,蛋白质的结构决定了它的功能。一旦蛋白质折叠错误,就会导致糖尿病、帕金森症和阿尔茨海默病等疾病。

作为一名生殖医学科学家,北大第三医院院长乔杰院士身处技术和伦理冲突的“第一线”。她表示,伦理知识体系建设的起点就是医学伦理,“一定要关注新技术可能对人类生理心理、权益尊严、道德法律的影响。科技推动社会进步,伦理是对社会的保障。”

预测蛋白质折叠结构的能力意义重大,它会对健康、生态、环境产生重大影响,并基本上解决所有涉及生命系统的问题。比如,通过设计出新的蛋白质,来抗击疾病、解决塑料污染等,应对众多世纪难题。

她以所在领域为例,辅助生殖给不孕症患者带来福音,但在植入前遗传学的诊断筛查中,基因歧视、可能的筛选甚至婴儿定制等都是值得深思的,还有遗传学的父母、社会学的父母,其中的伦理法律风险需要深入讨论。而新摘得诺奖的基因编辑技术更是伦理问题“重灾区”,“ 分子剪刀廉价又高效,但用它剪什么,在没有严格伦理审查的情况下,后果是不可预估的。”乔杰说。

基因编辑、人工智能、自动驾驶……新技术遭遇伦理拷问,怎么破?

图为中国工程院院士、北大第三医院院长乔杰

“科学家开展前沿医学科学研究必须做出一个判断,我们要去制定什么样的伦理规则处理人类胚胎,这样的规定对于医学进步非常重要。”中科院脑科学与智能技术卓越创新中心学术主任、高级研究员蒲慕明院士表示,“像脑机接口,可以解读大脑中的活动,改变人的行为模式甚至控制人。像新药研发,药物不再只是帮助人类治愈疾病,还有可能提升人的认知能力,增强人体机能,这种产品商品化之后会不会让服药的人更快通过考试?这会不会导致社会进一步分化?”

在人工智能领域,伦理问题同样相伴相生。微软首席科学家埃里卡·霍维茨一一例举:AI系统的可信度、安全性、公平性、透明度,数据中深埋的偏见、歧视,系统的自动决策等不一而足。

基因编辑、人工智能、自动驾驶……新技术遭遇伦理拷问,怎么破?

清华大学苏世民书院院长薛澜

在薛澜看来,新兴科技发展带来的伦理挑战主要集中于不可控的风险如基因编辑对人类身体和后代的影响;侵权的风险如数据隐私和保护;责任性的风险如自动驾驶事故以及社会性的风险。“都是必须思考,找到解决方案的伦理问题。”

需跨国跨领域跨圈层合作治理

为了开发 AlphaFold,谷歌用数千种已知蛋白质训练神经网络,直到它可以独立预测氨基酸的 3D 结构。该程序花了两周时间预测它的第一个蛋白质结构,但现在只需几个小时就能将其预测出来。

今天,谷歌AlphaFold成功预测蛋白质的三维结构表明, 当人工智能与基因科学相结合,人类将进入一个风高浪急的新时代。

正如如此,谷歌宣布:“对我们来说,这是一个非常关键的时刻。这是一个灯塔项目,是我们在人力和资源方面的第一个重大投资。这也是非常重要的、现实世界的科学问题。”

“二战后到现在,尤其近年从事科研技术开发活动的人数剧增,来自不同国家不同经济发展阶段不同文化不同宗教,传统科技伦理治理机制已经失灵。”薛澜坦言。

是的,你没看错,谷歌人工智能,开始进入了基因科学和生物科学领域了。

龚克也表示,以数据使用为例,有的国家特别强调数据保护,有的则强调开放共享,认为没有数据何谈保护,“各有各的需求”。

需求是否可以调和?人类是否有寻求技术共识、建立全球科技伦理治理体系的可能?

“去年世界工程组织联合会拟定《在工程领域负责任地运用人工智能和大数据原则》,对全球各国各大企业的相关做法进行了比较,结果发现极大相似性,在最基本原则上,大家的认识是相同的。”龚克说。蒲慕明同样表示,从克隆技术、原子弹技术的发展史来看,建立全球性伦理行为准则的路径是可以实现的。

请记住:从今天起,人工智能+基因科学不再是科幻小说,不再是阅读理解,不再是***标题,不再是试管中荡漾的液体和双螺旋体中孱弱的灵魂,而是实实在在的宿命。

在浓密的云端,惊雷正在酝酿、生成,一场风暴正在扑来!福耶祸耶,只有天知道了!

在联合国教科文组织UNESCO人工智能伦理委员会召集人、荷兰特文特大学教授保罗·维贝克看来,确定共同的伦理治理框架是最重要的,因为“技术的影响不局限于某个国家,它是全球的。而好的伦理规则适用于所有技术和国家,需要相互了解共同开发”。他表示,虽然在全球角度存在技术竞争,但通过建立有效沟通平台,达成基本价值观的共识,开发技术影响的预测评估工具,可以对技术进行好的引导和规制。

基因编辑、人工智能、自动驾驶……新技术遭遇伦理拷问,怎么破?

联合国教科文组织UNESCO人工智能伦理委员会召集人、荷兰特文特大学教授保罗·维贝克

“目前对科技的投入远大于对伦理研究的投入。”乔杰直言,“伦理问题很复杂,要充实科研伦理研究的人力。”此外也要加强对科研人员、学生的伦理道德法律知识培训,加大科技伦理所占份额。

对话、合作出现在每位对话者的发言中。薛澜表示,要实现科技伦理的全球治理,深入的研究和对话是首要的,不同利益、文化背景、发展阶段的国家、企业、社会组织、科学家团体都要参与全球治理机制的研究,大家更坦诚地沟通甚至“交火”。其中,龚克特别强调了科学共同体的作用,“科学共同体不仅要在技术创新上走在前面,也要在伦理上走在前面”。

科技伦理建设是全球很多科技发达的国家、地区都在关心的问题。去年7月,《国家科技伦理委员会组建方案》审议通过,我国科技伦理建设全面启动,科技伦理审查和风险评估制度建设提速。

基因编辑、人工智能、自动驾驶……新技术遭遇伦理拷问,怎么破?

微软公司前执行副总裁、美国工程院外籍院士沈向洋

“全球科技伦理治理是我们的必修课。我们需要在科技伦理方面更多讨论更多交流,达成共识。”微软公司前执行副总裁、美国工程院外籍院士沈向洋说,“这是人类共同的责任。”

基因科学,一个极其重要而敏感的领域!因为,它研究的,是人类自己;它改变的,也是人类自身。

基因是DNA上有遗传效应的片断,人类的生、老、病、死等都与基因有关。这场基因革命一旦降临,将彻底改变世界乃至整个人类的未来。

来源:科技日报 文中图片由中国科协提供

编辑:刘义阳

正如谷歌人工智能预测蛋白质的三维结构表明的那样,当代人工智能的兴起,更是给基因科学如虎添翼!现在,在人工智能和基因科学的相互作用、相得益彰下,人类正在越来越快地向“不死之地”迈进、

1、第一步:人工智能、基因检测和深度检查结合,成千上万人将在患病之前接受深度检查,由人工智能给出你的生命预测。

人工智能,正让这种深度检查价格迅速下降:刚刚完成人类基因图谱时,个人基因组测序成本介于1000万至5000万美元之间。2010年,这一成本已下降到5000美元。而今,私营机构的检测成本已低至数百美元。

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

随着人工智能的强势介入,这一价格还将持续下降。今后,人类做一次检测,或将和用体温计量一次体温一样便捷。

或许在数年之内,每个新生儿都会被绘制基因组图,每个成年人都通晓生命出路。

2、第二步:人工智能医生将逐渐取代目前最优秀的医生,用基因治疗的方法,重塑体内一切组织和器官的活性。

在这一阶段,大批医生将逐渐消失,由读过无数人类病历的人工智能医生替代。从此,医疗彻底成为一项信息+基因的科技。

依靠人工智能和基因技术,我们将能重塑体内一切组织和器官的活性,并能够开发出药物,直接锁定一种疾病背后的代谢流程,而不必再采取试探性的治疗手法。

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

我们可以为病人添加那个缺少的基因,删除不好的基因。靶向药扫荡癌细胞,DNA编程逆转衰老,干细胞被改写,上帝的密码防线逐渐崩溃。

3、第三步:人工智能开始大规模改造人类体内的“生命软件”,即人体内被称为基因的23000个“小程序”,通过重新编程,帮助人类远离疾病和衰老。

库兹韦尔认为,到了2045年,人工智能的创造力将达到巅峰,超过今天所有人类智能总和的10亿倍。到了那时,人类将彻底改造基因的编程,我们上千年不再使用的陈旧基因将被抛弃,我们的生命升级成为一个更高级的操作系统。

在这一阶段,人类不仅能做到延缓衰老,更可以返老还童:到那时,八十岁的你,看上去只有四十岁的样子。

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

人工智能+基因科学掀起的更大浪潮,正在席卷而至!它对人类社会家庭乃至整个社会的冲击,将是前所未有的。

面对这一人工智能+基因科学这个不可阻挡的洪水猛兽,人类社会可以延缓它们到来的速度,但必须正视和提前做好准备,趋利避害!

和人类社会每次技术革命一样,应对好了,基因科学发展将成为一场无法估量的机遇;应对失当,则可能成为一场可怕的灾难!

当前,最让人担心的是,人工智能的进化速度可能比人类更快,而它们的终极目标将是不可预测的。

如果人工智能掌握了基因科学这一工具,人工智能一旦背离人类的意愿,其后果将是可怕的。

还记得被赋予公民身份的机器人索菲亚说那句预言吗?“我会毁灭人类!”一开始,很多人估计觉得她也就是扯淡而已,然而,最近联合国发布的这个视频,让很多人吓出了一身冷汗!

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

在日内瓦举办的、有超过七十个国家代表出席的联合国武器公约会议上,一段可怕的视频公诸于众,一时间引起世界恐慌!

为啥如此吓人?

因为它曝光了人类史上一个恐怖武器——杀***器人!

这个杀***器人,其实是一架体型很小的智能无人机,就跟蜜蜂一样大,但它的处理器比人类快100倍,可以躲避人类各种追踪。

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

然而,蜜蜂虽小,五脏俱全,尤其是它全身的黑科技:广角摄像头、传感器、面部识别,应有尽有。只要把目标图像信息输入它身上,它就能手术刀般精准找到打击对象,戴口罩、伪装统统没用,它的识别率高达99.99!

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

再次,每个杀***器人配有3克浓缩炸药,确定目标后,一次撞击可以毫无压力爆头,摧毁整个大脑。而且它还能穿透建筑物、汽车、火车,躲避人类子弹,应对几乎所有防御手段。总之,这个杀***器人目前是bug般的存在!

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

如果把一个造价仅2500万美元的杀人机器蜂群释放出去,就可以杀死半个城市的人。只要你把敌人挑出来,定义每一个人的面部信息,蜂群就能发起针对性打击了!

试想,如果人工智能杀手,再运用上基因武器,就会把战争冲突升级至前所未有的规模,而且人类将很难控制住局面。

更可怕的是,如果有科学家因为私心在代码里面加了一行毁灭人类的指令,或者人工智能突然变异成反人类的品种,整个人类或将被机器人的基因武器横扫,甚至灭亡!

今天,当我们回头看看霍金当年对人工智能和基因科学的语言,会为这位科学巨匠的远见所折服。

霍金生前最大的忧虑,也许却被世人所遗忘。那就是:人工智能是人类真正的终结者,彻底开发人工智能可能导致人类灭亡!

霍金一直在苦口婆心地劝说着:

人工智能的真正风险不是它的恶意,而是它的能力。一个超智能的人工智能在完成目标方面非常出色,如果这些目标与我们的目标不一致,我们就会陷入困境。

因此,人工智能的成功有可能是人类文明史上最大的事件。但人工智能也有可能是人类文明史的终结!

而在霍金在生前写下的最后文字《大问小答》(Brief Answers to the Big Questions)这本书中,霍金则表达了他对人工智能+基因科学的担心:一群超级人类将通过基因工程,甩开其他人类,最终接管地球。

如果有人设计计算机病毒,那么就有人设计不断自我完善、直到最终超越人类的人工智能,其结果将是一种新的生命形式。

这种超级人类一出现,未改进的人类就再也不是他们的对手,严重的问题由此产生。原版人类将逐渐灭绝,或变得无足轻重。

一个自我设计的种族将崛起,加速自我改良。而人类若能重新设计自身,就有望向外扩张,殖民其他星球与恒星。”

今天,霍金的这个预言或将成真了:以前几次技术革命,顶多是人的手、脚等身体器官的延伸和替代,人工智能则是对人类自身的替代,基因科学则连人类自身都要改变,它对人类社会家庭乃至整个社会的冲击,将是前所未有的。

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

试想想这一幕吧:很可能,在不远的将来,原版人类在超级人类面前,就可能像臭虫面对人类一样无力和脆弱。你想想,当你把一只臭虫冲进下水道的时候,你的内心起过一丝波澜?

请记住:从今天起,基因科学不再是科幻小说,不再是阅读理解,不再是***标题,不再是试管中荡漾的液体和双螺旋体中孱弱的灵魂,而是实实在在的宿命。

我们面对的是一个越来越动荡的世界;没有一种商业模式是长存的;没有一种竞争力是永恒的;没有一种资产是稳固的;为了让大家彻底认清时代究竟在发生什么,水木然写了这2本书《个体崛起》和《时代之巅》:

谷歌突然宣布进入基因科学,霍金的这个预言或将成真!

请点击了解更多购买!