推动人工智能正向发展，跨领域与国际合作至关重要

(本文阅读时间：8分钟)

薛澜：作为一名政策分析者而非计算机科学家，我对人工智能技术的细节了解不多，但我一直在密切关注新技术可能给社会带来的影响。我曾参与中国在2017年发布的《新一代人工智能发展规划》起草过程中的讨论，并提到了发展人工智能需要关注潜在的风险。大家可以看到，这份规划中明确地强调了要关注人工智能发展可能引发的风险和相关的治理需求。后来，我被任命为新一代人工智能治理专业委员会的主任，并一直从事人工智能治理相关的工作。

许多人都担忧人工智能可能带来的潜在风险，但也有大量技术专家担心，政府的过度监管可能抑制技术的发展。如何在两者之间取得平衡，是我们当前面临的一大挑战。对此，我们一直倡导将敏捷治理作为人工智能的治理方法。

由于人工智能的发展给人类社会带来了诸多益处，所以推动其创新发展是毋庸置疑的。但同时，未知的风险也是巨大的，我们不能放任其野蛮发展，关键在于我们的治理如何适应并跟上这一新技术的发展脚步。因此，我们需要审慎地观察人工智能的发展，在必要时采取措施引导规制，同时避免过度干预阻碍其发展。

Ashley Llorens：我在人工智能领域有20年的工作经验，亲眼见证了机器学习技术和机器人应用将我们带入了一个激动人心的时代。我们正在经历技术史上的一个历史性时刻，一个关键的转折点。

回顾几十年来计算技术的发展，人们开发了各种应用程序来完成特定任务，现在我们已经创造了非常复杂的方式来显式地编程，让机器执行任务，例如使用 Windows 系统与各种应用程序和软件进行交互，这些程序将点击的动作映射为用户的实际意图，比如打开 Word 文档等。

随着机器学习技术的崛起，系统可以通过数据和经验实现自我编程、自动创建映射、自主完成任务。实际上，经过学习训练的程序就是一个高度参数化的数学函数，但在大语言模型和多模态模型出现之前，一个训练过的程序只能完成一项任务，比如一个计算机视觉算法，它接收像素输入并输出分析结果，描述图像中包含的对象或预测视频序列中要执行的动作。但现在，自监督机器学习的过程可以创建执行多个任务的程序，而且还可以使用自然语言对它进行再编程。ChatGPT 带来的改变是革命性的。我们可以使用开发人员提供的基础模型，以前所未有地方式使用这些工具，或者用开发者未曾想到的方式进行创新。

回到人工智能的机遇和风险这一问题上。用户可以更具创新性地来使用这些技术工具，但这也带来了风险，比如，用户想用工具来做一些不好的事，或者因为对模型能力的片面理解导致模型产生了意外的结果，尤其是在医疗等关键领域，有些意外结果将是危及生命的。

因此，技术与人类需要共同进化，在利用技术优势的同时，也要基于负责任的人工智能原则来进行创新。微软推出的大语言模型产品都经过了严格的测试，就是这种共同进化的例证。

薛澜：如果没有人关心人工智能可能带来的风险，那才是真正的令人悲观。相反，正因为现在有很多人关注这个问题，才让我对人工智能的未来感到乐观。

以核技术为例，在其发展初期，科学家们也为核弹的发展展开过争论，当人们看到核弹的破坏力之后，便开始倡导停止这项技术，并形成了一整套控制核武器扩散的机制。由此可见，人类社会是有能力控制技术的应用，限制技术向负面方向发展的。

同样，在生物技术领域，基因编辑等前沿技术能够完成很多超乎想象的事情，但也伴随着伦理道德方面的担忧。而现在医学界和生命科学界已经尝试提出一套伦理方针来指导研究。人工智能科学家和政府机构也在努力探索治理机制，来为技术提供防护栏。因此，我对人工智能的未来还是持乐观态度的。

苏世民书院院长薛澜教授

Ashley Llorens：我同意薛教授的观点。我从事人工智能和机器学习相关工作已经有很长时间了，如果10年前我说自己是做机器学习的，很多人会感到困惑。但现在，人们对人工智能的发展有了更多的了解，而且计算机领域之外的人每天也在利用这项技术解决实际问题。我们也看到在学术界，很多人在推动人工智能技术的发展。人类的一个优势是擅长使用工具，从某种角度来说，人工智能作为一种工具，是我们与物理世界交互的延伸，也是我们认知能力的放大器。

同时，我们也需要保持警惕。乐观、怀疑、悲观，这些不同的态度都是正常的。当我们从整个社会的角度来考虑资源投入时，要把这些态度都纳入考量，关键在于投入的分配比例。尽管一颗小行星撞击地球的可能性非常小，但美国国家航空航天局（NASA）还是投入了一些资金，通过小行星重定向项目来降低相关的风险。我想说的是，我们需要有一个多元的投入组合来反映我们对先进技术的不同态度，并且要确保我们的决策不会阻碍技术的正向发展。

Ashley Llorens：国际合作在人工智能领域至关重要。我们需要找到最佳的合作方式，以实现更大的成功和积极成果，同时避免负面影响。微软一直致力于推动人工智能技术的正向应用，例如我们发起的“气候研究倡议（Microsoft Climate Research Initiative, MCRI）”，就是旨在利用人工智能技术应对气候变化。在内部，我们与可持续发展研究领域的同事合作，确定了人工智能和计算技术可以帮助应对气候变化挑战的三个研究方向：碳核算、碳减排和气候韧性。在外部，我们与高校合作共同探索如何结合新的遥感技术和人工智能进行碳核算，其中就有来自清华大学的研究员。这是我们通过合作推动技术正向应用的一个例子。

薛澜：从全球视角看，近年来科学家之间的国际合作日益增加。在研究层面，合作尤为重要，我们的研究发现，在科技文献发表方面美国和中国是合作最多的国家。在机构合作方面，就像 Ashley 提到的，清华大学的科学家加入到微软资助的研究项目中，还有很多清华大学的毕业生在微软工作，微软也和清华大学在很多项目上开展了合作。在国家层面，我们要避免极端竞争的情况出现，给科技合作提供基本保障。

薛澜：我们今天的座谈会就是一次跨学科对话与合作的例证。在人工智能治理方面，我们需要技术专家、哲学家、政策制定者和管理人员的共同参与，跨学科合作对人工智能的发展非常关键。 

人工智能对公共管理和社会科学研究的影响正受到越来越多的关注。很多人认为，人工智能带来了巨大的范式转变，新技术改变了社会科学研究的格局。因此，我们需要加强不同学科间的合作，清华大学也成立了社会科学和计算机科学的跨学科研究机构。

Ashley Llorens：跨学科合作是解决人工智能领域中核心问题的关键。作为人工智能的科研人员，我认为探索通用智能的本质会带来很多有趣的技术挑战，其中最有趣的科学问题是关于人类的问题。还有一些更广泛的社会问题，比如社会是否应该与这些技术共同进化。这些问题非常有意义，也是非常重要的问题。

微软研究院很早就意识到了这一点，我们汇集了很多社会科学家，包括计算社会科学家、经济学家、人类学家等各领域的专家。我们还需要更多来自不同领域和不同背景知识的人才，来共同构建一个跨学科合作的社区。

微软研究院副总裁、微软杰出首席科学家、微软研究院全球研究合作负责人 Ashley Llorens 博士

薛澜：其实这是一件很容易的事，可以先在苏世民书院学习，然后加入微软公司工作（笑）。

Ashley Llorens：我们必须处理好人工智能对教育的影响，并充分利用其为教育带来的机遇。从小培养孩子的算法思维和系统性思维，比以往任何时候都更重要，技术可以帮助我们实现这一目标。现在，机会就在眼前，我们需要加大这方面的投入和支持。

同时，我们也需要在学校中规范地使用人工智能技术，比如在论文撰写中合理运用AI。我们不应过度依赖工具，而忽视必要技能的培养，当然我们也不能忽视对新兴技术的使用。

薛澜：未来，人工智能有望帮助消除不同领域之间的障碍。人们常常有一种固有印象，认为学习科学和数学知识之后，再学习人文和社会科学是件很容易的事，但反过来却比较困难。现在人工智能也许可以改变这种领域偏见。人们可以平等地使用各种工具来学习科学、数学、工程和社会科学等，或许这是未来使用人工智能工具就能实现的。

Ashley Llorens：我完全同意。我相信，未来人们可以更容易地享受到技术进步带来的好处，使用自然语言编程系统将成为一项基本技能。尽管这还存在挑战，但微软研究院正朝着这个目标努力，到那时不仅计算机科学家可以用编程语言编写代码，非计算机科学家也能用自然语言为代码库做出贡献。未来5到10年，我们对技术人员的定义可能就会完全不同。

你也许还想看：