曹建峰 李惠茗编译

12月3日，卡耐基国外和平基金会主席Mariano-Florentino Cuéllar、谷歌首席科学家Jeff Dean、著明计较机科学家David Patterson等东谈主撰写的长篇酬劳“Shaping AI’s Impact on Billions of Lives”发布，酬劳探讨了诈欺东谈主工智能增进民众福祉的带领原则和行为道路图。作家团队与来自各个限度的24位巨匠进行了深入访谈，包括诺贝尔化学奖得主John Jumper、前好意思国总统Barack Obama、前联接国大使兼前国度安全参谋人Susan Rice、谷歌前首席实施官兼慈善家Eric Schmidt以及科幻演义家Neal Stephenson等。本文是对该酬劳中枢内容的编译。

东谈主工智能（AI）看成一种颠覆性期间，既可能鼓动社会取得紧要跨越，也可能带来负面影响。在让AI目田发展和政府过度监管这两种极点之间，酬劳办法AI从业者应自愿且积极地为全球福祉起劲。通过与各限度的巨匠的平时交流，酬劳从中纪念出五条带领原则，这些原则组成了福祉型东谈主工智能框架的基石，引颈改日的筹商办法，带领负使命和适当谈德地部署AI。酬劳形貌了一种新的创新模式蓝图，包括18个具体的里程碑，用以鼓动AI筹商朝着福祉型东谈主工智能的办法发展。酬劳合计，现时AI的发展仍处于初期阶段，而从业者、策略制定者以特地他利益关系者的共同起劲，能够确保AI的发展最大末端地惠及社会，同期减少潜在的负面影响。

一、五个带领原则

1、东谈主机互助需聚焦东谈主类分娩力的栽培而非取代东谈主类

东谈主类与东谈主工智能联袂合作（即东谈主机互助），能够创造出比单打独斗更大的价值。将东谈主工智能应用于提妙手类分娩力，而非取代东谈主类，会带来更多积极的克己。那些使东谈主们行状着力更高的器用，不仅提高了东谈主们的服务才融合行状欢悦度，还为更多发展契机铺平了谈路。此外，当AI在练习不及的限度偏离预期时，东谈主类不错充任关键的安全保险。因此，鼓动东谈主类分娩力的AI发展能够终了东谈主机双赢。

2、AI栽培分娩力需聚焦“弹性需求”行业以促进服务

要通过AI促进服务，就需要聚焦那些因分娩力栽培而能够创造更多服务契机的行业。以好意思国为例，尽管计较机和客运航空业取得了稠密的分娩力栽培，但2020年好意思国的法子员和营业航空驾驶员数目，分别是1970年的11倍和8倍。增长的原因在于，这些行业属于经济学中的“弹性需求”（elastic demand）限度，即商品的需求量会跟着价钱的下落而增多。而农业等“非弹性需求”限度则因分娩力栽培而导致服务东谈主数大幅减少，如农业岗亭从1940年到2020年减少了四分之三。若是AI开荒者接力于在弹性行业中栽培分娩力，尽管公众对此心存担忧，但AI本体上不错创造出更多的行状契机。

3、AI优先去除单调重迭劳动，让行状更特地旨

AI的首要任务应是减少现存行状中的没趣重迭部分，为东谈主们腾出时辰去从事更有价值的行状。举例，大夫与照顾选拔这一行状是为了匡助患者，而非亏蚀时辰在繁琐的文档行状上。同样，教师更但愿专注素养，而不是花时辰在评分或纪录行状上。因此，AI器用的研发应优先改善东谈主们现时行状中的意旨感，尤其是在病院和课堂等场景。

4、AI因地制宜鼓动发展

AI的影响因地而异。埃里克·施密特（Eric Schmidt）强调，在发达国度，东谈主们悲悼AI可能取代高度专科东谈主才的部单干作；但在资源匮乏的地区，AI则能够填补妙技巨匠的短缺，栽培行状和糊口质料并促进经济发展。比如，AI不错栽培照顾与医师的妙技和分娩力，为医疗资源匮乏的地区带来高质料医疗服务。同期，多讲话AI模子能够借助智能手机普及，为发展中国度提供信息、练习等资源赞助，改善当地经济和要道服务，以致可能为一些中等收入国度的东谈主们提供侨民以外的选拔。

5、构建灵验的测量和监管体系评估AI创新

临了，咱们需要更好的目的和方法来评估东谈主工智能创新。未必阛阓不错作念到这少许，比如针对专科法子员的东谈主工智能器用。但在高风险限度，这是作念不到的，因为咱们弗成冒险伤害参与者。咱们需要使用黄金模范参考器用（gold-standard tools）：A/B测试、立时对照张望和当然实验等。同样抨击的是对东谈主工智能在本体部署后的监控，以评估其是否达到了预期办法，是否填塞安全，以及是否产生了预思以外的外部影响。此外，咱们还需要在本体应用中继续评估AI系统的阐扬，以便逐渐改进和优化它们。

走向福祉型AI的十八个要道里程碑

在长篇酬劳“Shaping AI's Impact on Billions of Lives”中，在五大原则的基础上，十八个里程碑被建议，笼罩服务、练习、医疗、信息传播、媒体文娱、政府治理、科学筹商七大约道限度。需要鼓动东谈主工智能在这些限度增进个东谈主和社会的福祉。

1、服务

分娩力栽培对行状的影响取决于与该行状关系居品需求的弹性或非弹性，若是需求黑白弹性的，分娩率的提高将导致行状岗亭的减少；若是居品需求具有填塞的弹性，那么提高分娩力的期间将增多行业服务。对于服务的另一个视角黑白膂力任务和膂力任务之间的折柳。短期内东谈主工智能系统的主要影响将麇集在非膂力任务上。因此，为了栽培行状的质料和价值，东谈主工智能应专注于赋能东谈主类终了更多办法。而且，诈欺东谈主工智能提妙手类分娩力还不错打发一些挑战，举例安全性或虚假信息——在AI系统出错时由东谈主类更正其建议，或在遭受AI系统未被练习的情况下由东谈主类介入。

（1）快速妙技栽培（Rapid Upskilling）：通过AI匡助低收入或休闲东谈主群在短期内掌执高需求妙技，从而快速栽培服务竞争力。

（2）行状预计系统（Job Forecaster）：通过实时跟踪劳能源阛阓变化，带领被AI取代的劳能源得当新兴的高薪职位。

2、练习

为了让AI系统最终匡助大多量学生，AI系统就必须领先改善教师的行状，因为教师在很大程度上决定继承哪些期间。减少繁琐行状的例子可能包括协助制定课程筹商、撰写程度酬劳、嘱托功课以及评分等。要取奏效利，这些措置决策必须以教师日常濒临的本体挑战为运行，况兼必须与教师和学生的需求保持一致，而不是基于校董会或料理者的意见。

（3）教师助手（Teacher’s Aide）：减少教师日常繁琐行状的使命，以提高教师的糊口质料和行状着力。

（4）实证练习平台（Empirical Education Platform）：建立一个能够进行RCT测试（立时对照张望）的练习平台，邻接每个学生的才调/资源特地同学、教师和学校的情况。

（5）全球教师（Worldwide Tutor）：诈欺智能手机的普及，为统共儿童提供符合他们讲话、文化和最勤学习作风的学习器用，匡助教师打发不同水平的学生。

3、医疗

社会应当向每个东谈主提供高质料的医疗健康服务，东谈主工智能不错匡助终了这个办法。当今医疗东谈主工智能发展仍濒临一些挑战：其中一些挑战触及在实践全国中部署AI系统出现的筹商难题，举例自制性、可用性、庄重性和可解释性等；另一个关键的不毛是基础设施和法例，很少有医疗系统具备猖獗部署、更新和监控算法的基础设施，而严格的医疗法例使医疗系统愈加严慎。医疗东谈主工智改日进展要道在于 数据的可用性——需要来自不同地点的大型、各样化数据集，以确保模子在多种东谈主群和条目下具有庄重性和自制性。此外，还需要诸如联邦学习等期间，这种期间允许东谈主工智能模子在多个孤立的数据池上进行练习，而无需分享或麇集存储任何原始数据。

（6）医疗助手（Healthcare Aide）：通过减少医护东谈主员的晓喻行状和单调乏味的任务，裁减医护东谈主员行状疲困，匡助他们专注于患者督察。

（7）专用医疗AI（Narrow Medical AI）：专注于特定任务，如预计ICU患者的病情恶化。

（8）通用医疗AI（Broad Medical AI）：通过整合多模态数据，为医疗决策提供全面赞助。

4、信息/新闻/酬酢网罗

跟着东谈主工智能系统在与东谈主类和其他AI系统的交互中变得愈加自主，其可能带来的潜在克己和误导信息、虚假信息和偏见等风险皆在增多。东谈主工智能系统是否能够以符合用户或社会利益的方式遴选行为，变得愈加剧要。为了终了东谈主工智能的后劲，咱们必须建立方法，在最大化东谈主工智能提供的信息上风的同期，减弱误导信息、虚假信息和偏见的影响。尽管虚假信息对个东谈主福祉和国外安全的要挟无庸赘述，但部分误导信息或偏见的要挟愈加奥秘：东谈主工智能系统并不竣工，而东谈主们却欲望其看成一种智能器用是可靠的。为了措置与AI系统关系的误导信息、虚假信息和偏见挑战，咱们不仅需要高质料的东谈主工智能系统，还需要灵验的东谈主类+东谈主工智能（以及东谈主工智能+东谈主工智能）交互——这是一个在监管和筹商中权贵短少关注的限度。咱们必须开荒方法，为用户、开荒者和监管者提供对东谈主工智能系统的戒指和邻接。这些方法将包括新式用户界面，不错在骄矜AI系统提供的回答或谜底的同期提供有用的高下文信息，举例AI系统的置信度水平，或者回答或谜底中包含的援用信息的开端。在东谈主工智能器用链的更底层，这种邻接需要能够解释东谈主工智能模子里面机制的期间，以便了解：一个模子是否不适当地筹商了种族或性别而生成了有偏见的谜底；是使用推理得出谜底照旧只是援用了模子挂念中的内容；以致不错区分模子是撒谎照旧憨厚，等等。

（9）基于东谈主工智能的全球筹商平台（AI-mediated Platform for Civic Discourse）：旨在促进不同不雅点之间的建造性对话，减少社会的南北极化。

（11）用于优化信息获取的可控AI（Controllable AI for Curating Information Consumption）：贯注信息茧房。

5、媒体/文娱

与练习和医疗不同，许多文娱限度的需求黑白弹性的。若是东谈主工智能提高了好意思术家和平面狡计师的分娩力，阛阓是否会扩大以容纳更多的画作和狡计，这少许并不彰着。而若是咱们将文娱视为一个讲故事的行业，那么其中一个末端可能是东谈主工智能系统能够匡助更多的东谈主敷陈更多的故事。

（12）记者助手（A Journalist’s Aide）：能够快速张望新闻草稿不实，并凸起无法考据的处所，骄矜冲突开端。

（13）版权检测器/收益分享者（Copyright Detector/Revenue Sharer）：当检测到版权作品被使用时，能够相应地分派资金给版权统共者，并奖励开荒可授权数据集用于练习AI的东谈主。

6、治理/国度安全/开源

总体而言，今天的决策将塑造改日的东谈主工智能样子，影响从经济竞争力到社会恬逸的一切。在实用东谈主工智能的清晨时期，审慎的治理不仅是可取的，更是必不可少的。需要筹商以下七个原则：

第一，均衡收益与风险。单纯关注风险可能会糟蹋成心效果和创新，但冷漠东谈主工智能带来的益处与冷漠风险同样是一个紧要不实。

第二，全体和透明的影响评估。对不休发展的东谈主工智能系统进行影响评估在匡助东谈主们、组织和政府更好地了解东谈主工智能系统的潜在孝顺特地风险和局限性方面起着要道作用。由于东谈主工智能系统的影响多种各样，这些影响评估必须尽可能可靠，并平时公开以供个东谈主和筹商机构使用，从而实时向策略制定者建议关注。

第三，诈欺现存法律框架。与其实足制定新的监管决策，不如尽可能调换并应用现存限定。对东谈主工智能日常应用的治理更多地关乎对现存限定和模范的审慎适用，而不是制定全面的新决策来表率东谈主工智能系统在统共情境下的使用。尤其需要确保东谈主工智能系统至少达到与相悯恻境下东谈主类决策者或非东谈主工智能系统雷同的法律模范，以贯注东谈主工智能系统被用于逃匿使命。

第四，弥补法律空缺。即使咱们不错依赖现存法律来打发80%到90%的东谈主工智能策略挑战，经心狡计的新策略仍将匡助社会料理这项可能将某些状貌的智能转变为商品化的期间。

第五，缓解偏见痛恨。一方面，AI痛恨依然成为一个权贵问题，咱们需要遴选多种措施减少东谈主工智能的偏见痛恨。另一方面，不应冷漠东谈主工智能模子提高自制性的后劲，因为东谈主类决策近况常常存在深刻劣势，而东谈主工智能模子不错看成匡助东谈主类决策者检测和减少东谈主类偏见的有用器用。

第六，投资全球利益和国度安全。一些有远景的策略更多地触及投资和基础设施，而非监管。策略不错饱读吹尚未被阛阓充分接受或资助的东谈主工智能应用，或赞助对国度安全至关关键的才调。

第七，继承迭代策略制定。东谈主工智能的快速发展和通用性要求对策略进行继续评估和完善。东谈主工智能运行的平台不错同期促进策略评估以及公众的筹商和筹商。

（14）政府/行业合作的告成案例（Recent Government/Industry Collaborative Successes）：展示全球鸿沟内务府机构与私营企业之间的告成合作，以增强AI的正面效应并减少负面影响。

（15）AI审计（Implementable AI Audits）：建立明确的AI审计模范，包括审计员的专科水平、具体测试技俩及必须酬劳的信息。

（16）改进自制性的AI（Equity-improving AI）：东谈主工智能自制性侵略最具影响力的限度是治理中的应用，在这一限度，东谈主工智能可能被用于影响数十亿东谈主的决策，并产生紧要的社会和经济影响。在这么的情境中，这一里程碑将包括部署一个自制的东谈主工智能决策赞助系统，或者使用东谈主工智能进行分析，并辅以了了的实践笔据，解说其在某些推测模范上改善了自制性。

7、科学

东谈主工智能发展给科学筹商带来了新的机遇，Google DeepMind以致合计东谈主工智能将带来科学发现的黄金年代。当今，在黑洞可视化、大水预计、材料发现、天气预计、缩减飞机尾迹、戒指核聚变等离子体等方面依然表露了许多AI助力科学筹商的例子。总体而言，学术界和行业主导的筹商中不休增多的投资、意思和应用，鼓动了一场深度学习更动，正在改变科学发现的样子。

（17）助力联接国可继续发展办法的AI科学突破（AI Scientific Breakthroughs for the UN Sustainable Development Goals）：使用AI取得关键的科学突破，匡助终了一个或多个联接国可继续发展办法。

（18）科学家AI助手/互助者（Scientist’s AI Aide/Collaborator）：栽培科研着力。

十八个里程碑系统地回话了现时AI发展濒临的挑战，从期间优化到社会使命均有所触及。通过明确这些办法，AI不仅能够鼓动服务增长、优化练习与医疗资源，还能加快科学筹商与信息传播的跨越，为全球公众福祉带来长远影响。

福祉型东谈主工智能的激发机制

尽管AI存在数据隐秘、常识产权、偏见等风险，但其带来的机遇同样回绝冷漠。冷漠其克己就像冷漠其风险一样，皆是不实的。政府需要加快跟上AI发展的方法，建议通过全球和私营部门合作，冲破官僚主义不毛，确保AI的安全性和透明性，并为策略制定者与公众提供必要的练习。为了赞助、促进东谈主工智能为公众福祉服务，酬劳建议需要在两个主要办法提供资金赞助：一是确立激发性奖项（Inducement Prizes），以激发筹商并招供关键突破；二是资助为期三到五年的跨学科筹商中心。

每个激发奖金至少价值100万好意思元，用于激发鼓动AI积极影响的关键里程碑式筹商，不同于赏赐当年树立，激发奖项给出了特定的办法。上述提到的18个里程碑皆应配套相应的激发奖金。举例，AI关系的有2004年的DARPA自驾车挑战赛、2009年的Netflix用户评分预计较法奖。此外，Kaggle平台上有300多项进行中的竞赛。好意思国政府也赞助了越过1300项激发奖。对于筹商不及的课题，酬劳建议资助为期三至五年的具有高影响力的跨学科筹商中心。举例，20世纪70年代的UNIX技俩以及2000年代的RADLab和Par Lab。除了开展终了里程碑的筹商外，筹商中心还需判断什么样的筹商效果能够获取激发奖金。筹商中心与激发奖协同作用，激发奖金的参赛者为筹商中心响应筹商经由中出现的要道挑战，以及转让期间效果。

纪念

这大略是现代东谈主类的登月筹商，但咱们的极度在哪？也许咱们不错开荒一个AI吞并员，促进具有不同不雅点的群体之间的对话，将社会从极化景况调换回多元包容的办法。也许咱们不错诈欺智能手机，为全球每个孩子开荒一个定制化教唆软件。又大略，咱们不错让AI成为生物学家和神经科学家的牛逼助手，让他们在十年内取得特殊于一个世纪的筹商进展。 咱们不错用AI干成许多事情，只有咱们手执正确的创新蓝图开云网页版登录·官方网站入口，巨匠和用户共同对话，咱们就无须局限于单一办法，而是不错终了多个愿景。