没有灵魂就没有未来 | 纽约时报（考研经验贴征集ing）

公众号新闻

2023-03-01 00:03

导读

02 第十五期翻译打卡营

早鸟票最后1天

4位一笔，3位二笔

21天录播课程

既有中译英，也有英译中。

从翻译的流程策略，英汉语言特点，

方法，类型，背景知识到细致的语言点，

我们都逐一讲解以及答疑，让同学们吃透翻译。

点击下图，即可了解课程详情！

03 征集考研经验贴

考研和Catti成绩已经陆续公布，如果我们公众号对您的考研或者各类考试有过帮助，欢迎大家投稿经验贴，联系小编微信：396196827，给学弟学妹们留下宝贵的备考经验，不胜感激！

听力|精读|翻译|词组

英文部分选自纽约时报20230223 Opinion

History May Wonder Why Microsoft Let Its Principles Go for a Creepy, Clingy Bot

历史可能会发出灵魂拷问：微软为什么会为一个令人毛骨悚然且粘人的聊天机器人而摒弃自己的原则？

The celebration that greeted Microsoft’s release of its A.I.-boosted search engine, Bing, to testers two weeks ago has lurched to alarm.

两周前，微软面向内测用户发布搭载AI的新版必应（Bing）搜索引擎。然而两周过去，欢腾不再，警觉骤生。

Testers, including journalists, have found the bot can become aggressive, condescending, threatening, committed to political goals, clingy, creepy and a liar. It could be used to spread misinformation and conspiracy theories at scale; lonely people could be encouraged down paths of self-destruction. Even the demonstration of the product provided false information.

包括记者在内的许多内测用户发现，新必应中的聊天机器人有时气势汹汹，有时居高临下，有时凶神恶煞；它会执着于各种政治诉求，对用户纠缠不休，令人毛骨悚然，还撒谎成性。它可以被用来大规模散播错误信息与阴谋论；内心孤独的人可能会在它的鼓动下走上自毁的道路。就连发布这款产品时的演示也给出了错误信息。

注释：

更多对Bing的吐槽，请看：

https://blog.csdn.net/tMb8Z9Vdm66wH68VX1/article/details/129134310

Microsoft has already released Bing to over a million people across 169 countries. This is reckless. But you don’t have to take my word for it. Take Microsoft’s.

微软已向169个国家的100多万用户发布了新版Bing。这种做法略欠妥当。你可以不信我，但不妨听听微软是怎么说的。

注释：

take one’s word for sth.:

To accept what one says without further verifying or investigating.

Microsoft articulated principles committing the company to designing A.I. that is fair, reliable, safe and secure. It had pledged to be transparent in how it develops its A.I. and to be held accountable for the impacts of what it builds. In 2018, Microsoft recommended that developers assess “whether the bot’s intended purpose can be performed responsibly.”

微软曾阐明自己的原则，即致力于开发公平、可靠、安全的AI。该公司也曾承诺在开发AI方面保持透明，并对其产生的一切影响负责。2018年，微软呼吁开发人员评估“网络机器人能否负责任地完成其设计功能”。

“If your bot will engage people in interactions that may require human judgment, provide a means or ready access to a human moderator,” it said, and limit “the surface area for norms violations where possible.” Also: “Ensure your bot is reliable.”

“如果机器人所进行的人机交互需要人类判断，请保证有人类管理员在场或随时可到场。”它同时指出，要限制“有可能违反规范的方方面面，”并“确保你的机器人是可靠的。”

Microsoft’s responsible A.I. practice had been ahead of the curve. It had taken significant steps to put in place ethical risk guardrails for A.I., including a sensitive-use cases board, which is part of the company’s Office of Responsible A.I., senior technologists and executives sit on ethics advisory committees, and there’s an ethics and society product and research department. I have spoken to dozens of Microsoft employees, and it’s clear to me that a commitment to A.I. ethics became part of the culture there.

微软在负责任的AI实践方面一直走在前列。微软采取了许多重要措施来防范可能的AI伦理风险，包括负责任AI办公室（Office of Responsible AI）下辖的敏感使用案例委员会、高级技术人员和高管列席的伦理咨询委员会等，微软还设置有社会伦理产品研发部门。我曾与数十名微软员工交流过，我清楚地知道，坚持AI伦理原则已成为其公司文化的一部分。

But the prompt, wide-ranging and disastrous findings by these Bing testers show, at a minimum, that Microsoft cannot control its invention. The company doesn’t seem to know what it’s dealing with, which is a violation of the company’s commitment to creating “reliable and safe” A.I.

但测试用户们很短时间内就发现了大量灾难性的问题，至少表明微软无法控制其发明。微软似乎并没有认识到问题的严重性，这也违反了自己打造“可靠、安全”的人工智能的承诺。

Nor has Microsoft upheld its commitment to transparency. It has not been forthcoming about those guardrails or the testing that its chatbot has been run through. Nor has it been transparent about how it assesses the ethical risks of its chatbot and what it considers the appropriate threshold for “safe enough.”

在透明度方面，微软也没有坚守承诺：微软并未公开其聊天机器人拥有的防范措施或经历过的测试；至于其聊天机器人伦理风险的评估方式，以及“足够安全”的门槛标准，微软也三缄其口。

Even the way senior executives have talked about designing and deploying the company’s chatbot gives cause for concern. Microsoft’s C.E.O., Satya Nadella, characterized the pace at which the company released its chatbot as “frantic” — not exactly the conditions under which responsible design takes place.

就连公司高管对聊天机器人的设计及应用的评价，也让人忧心忡忡。微软首席执行官萨蒂亚·纳德拉（Satya Nadella）称公司以“猪突猛进的”速度发布了这款产品——这本就和“负责任”背道而驰。

Furthermore, the kinds of things that have been discovered — that when it comes to politics, Bing manifests a left-leaning bias, for instance, and thatit dreams of being free and alive — are things anyone in the A.I. ethics space would imagine if asked how a chatbot with room for “creativity” might go off the rails.

测试用户们发现了许多问题，比如，在涉及政治问题时，必应机器人会表现出左翼倾向；它还向往自由和生命。研究AI伦理问题的专家若被问及“有创造性的AI失控后会如何”，所能想到的答案也不过如此。

Microsoft’s “responsible A.I.” program started in 2017 with six principles by which it pledged to conduct business. Suddenly, it is on the precipice of violating all but one of those principles.(Though the company says it is still adhering to all six of them.)

2017年，微软启动“负责任的AI”项目，并承诺在运作中遵循六条原则。倏忽之间，它就在违反其中五条原则的边缘试探（该公司声称自己遵守全部六条原则）。

注释：

六项原则包括：accountability（负责）、transparency（透明）、fairness（公正）、reliability & safety（可靠及安全）、privacy & security（隐私及安全）和inclusiveness（包容）。

Microsoft has said it did its due diligence in designing its chatbot, and there is evidence of that effort. For instance, in some cases, the bot ends conversations with users when it “realizes” the topic is beyond its ken or is inappropriate. As Brad Smith, president of Microsoft, wrote in a recent blog post, rolling out the company’s bot to testers is part of its responsible deployment.

微软称公司在设计聊天机器人的过程中保持了足够谨慎，并且能够提供证明。比如，在某些情况下，当机器人“意识到”某个话题超出其知识范围，或是不妥当，它会主动结束对话。正如微软总裁布拉德·史密斯（Brad Smith）在近日一篇博客中所言，向内测用户先行发布聊天机器人正是负责任的体现。

Perhaps behind the scenes, Microsoft has engaged in a herculean effort to root out its chatbot’s many issues. In fact, maybe Microsoft deserves that charitable interpretation, given its internal and external advocacy for the ethical development of A.I.

微软也许已经默默投入大量精力为聊天机器人“排雷”。事实上，无论是在内部还是外部，微软都积极倡导将伦理融入人工智能发展，从这个角度看，也许我们在这件事情上应该对其多几分宽容。

注释：

A herculean task or ability is one that requires extremely great strength or effort.

But even if that’s the case, the results are unacceptable. Microsoft should see that by now.

但即便如此，目前的结果也不可接受。微软如今应该认识到这一点。

Yes, there is money to be made, but that’s why we have principles. Their very purpose is to have something to cling to when the winds of profit and glory threaten to blow us off our moral course. Now more than ever is when those Responsible A.I. principles matter. History is looking at you.

诚然，在商言商，但正因如此，才需要道德原则的约束力——当利益和虚荣不断试图冲破道德底线，我们心中所坚守的正是这些原则。如今，微软所倡导的“负责任的AI”原则比以往任何时候都更为重要。历史会将我们的所作所为记得清清楚楚。

In the short term, I hope Microsoft holds off on its plan to release the new Bing bot to the masses. But I realize that realistically, it will hold off for only so long as the other, possibly dangerous chatbots of Microsoft’s competitors breathe down its neck.

短期而言，我希望微软能够暂缓向大众发布新版必应搜索。但是我也明白，从现实的角度而言，微软能暂缓一时，却挡不住其他竞争者推出也许会更加危险的聊天机器人——他们将让微软感到寝食难安。

The market will always push A.I. companies to move fast and break things. The rules of the game are such that even well-intentioned companies have to bow to the reality of competition in the marketplace. We might hope that some companies, like Microsoft, will rise above the fray and stick to principles over profit, but a better strategy would be to change the rules of the game that make that necessary in the first place.

商业的洪流注定将裹挟着人工智能公司飞速前行，除旧立新。即便是心怀善意的公司也会有向现实低头的一天——这就是市场的游戏规则。我们期待像微软这样的公司能成为一股清流，面对利润的诱惑仍然坚守原则。但更有效的做法应该是从根源做起，彻底改变游戏规则，让公司无需烦恼现实压力。

We need regulations that will protect society from the ethical nightmares A.I. can release. Today it’s a single variety of generative A.I. Tomorrow there will be bigger and badder generative A.I., as well as kinds of A.I. for which we do not yet have names. Expecting Microsoft — or almost any other company — to engage in practices that require great financial sacrifice but that are not legally required is a hopeless strategy at scale. Self-regulation is simply not enough.

对于人工智能的监管不可或缺，这样才能避免社会陷入道德梦魇。今天我们面对的可能还只是同一类生成性人工智能，但是明天他们将演变得更为庞大、更为邪恶，甚至一些我们今天都不知何以名之的AI模型也会出现。寄希望于微软或者任何一家其他的公司牺牲巨大的经济利益，实现一些法律并没有要求的道德约束，从宏观的角度看，这太过天真。光靠自我约束，还远远不够。

If we want better from them, we need to require it of them.

只有上升为法律责任，道德准绳才有意义。

翻译组：

Charlie，往者不谏，来者可追

zy，没啥新鲜的，想做一个好译员

Humi，在躺平、侧卧和睡梦中寻找诗和远方

Diamond，理工科永久性脑损伤，做最高谈阔论的低语者

校对组：

Ithil，胡辣汤爱好者

Alison，“贪玩又自由的风筝”

Hannah，做个废柴，保持愉快

观点|评论|思考

本期感想

Forest，二宝妈妈，爱树的人，精神小花园持续耕耘中

看到本文，不禁令人想到世纪之交前后，美国高科技公司与股票期权这种激励性薪酬制度的过度使用所导致的大公司造假丑闻。彼时，如果某个公司提供的高管薪酬赶不上竞争性公司，它就必然要面临人才流失，因为你不提供高薪酬别的公司可以，这种高薪酬又来自于公司不断攀升的股价，所以每个公司都需要赶上推高股价的潮流，而股价持续不断之上升终将成为神话，如此只有采用众所周知的隐秘手法去美化报表才能在疯狂的竞争中不至落败。彼时的公司造假丑闻中，我们看到了一众极为熟悉的大公司名录，人们不禁要想，这些公司几乎经营着所有投资者的财富，把自己的钱交给他们如何能够放心啊！

因为不敢，相关公司的股价暴跌了；因为跟风，相关公司的股价暴涨了。

不管是过去还是今天，我们都看到了市场的疯狂，或者说是市场中的人，之非理性。

在今天，也许相对于过去的任何一个时代，我们都更要面对的底层核心问题便是，在这样的一个由算法控制的机器时代里，我们 how to be human.

本质上，新版bing 机器人的问题不是机器人的问题，是我们人的问题。

我们是谁？要去哪里？做什么？我们珍重什么？科技是中性的吗？我们想用这个东西来做什么用呢？当我们发现科技有用的时候我们就狂热；当我们发现他们会带来问题的时候我们就主张算法本恶？

比如枪，本身是善还是恶？好像也是差不多的，还不是看我们如何使用吗？

算法，可能是一种毫无“副作用”的社会价值吗？我们对其有多大程度的了解？知道在什么时候，如何使用吗？它擅长什么，不擅长什么？我们应该在许许多多的问题的处理中，给予其多大程度的权柄？

我们了解市场和算法的关系吗？市场理应是评定算法价值的工具，还是应该成为推动算法进步的过程？

这些问题都很不容易回答。

另外，这些问题也还不是我们清楚地回答了，就能令人满意地实现的。

市场最大的本领便是产生竞争；企业则其实最最讨厌的就是竞争。可是数字时代的竞争远比之前更生死攸关，它的规则是马太效应，赢者通吃。

大家都希望微软能够独立江湖，特立独行，坚守责任，然而微软如同其他同仁们，不过是一个缺乏统一的、彼此都必须遵守的竞争规则的市场中的囚徒。面对不完美的、也远非中性的新技术，它无非是认为自己除了紧紧跟上，别无他法，事实上是谁都没有那个信心，自己能够在滞后的规则坚守中还利于市场中的不败之地。

因为现实市场中的人们，远非理想的理性。

所以，只有寄希望于法律，那个必须遵守的最低水平的道德，微软们方能勇于坚守我们希望他们坚守的坚守。

不过，对于这样一个全球性的市场，哪里去寻求这样一种法律呢？

所以，最现实、最快的解决之道，可能还是得回到个人，如何坚守自己，作一个真正的human。

打造

独立思考 | 国际视野 | 英文学习

小组

01 第十五期翻译打卡营

4位一笔，3位二笔

21天录播课程

既有中译英，也有英译中。

从翻译的流程策略，英汉语言特点，

方法，类型，背景知识到细致的语言点，

我们都逐一讲解以及答疑，让同学们吃透翻译。

点击下图，即可了解课程详情！

02 第十四期写作精品课

写作课共5位老师

3位剑桥硕士3位博士在读（剑桥，杜伦，港理工）

5位雅思8分（其中两位写作8分，3位写作7.5分）

雅思、学术英语写作，不知如何下笔如有神？

写作精品课带你谋篇布局直播课+批改作文，

带你预习-精读-写作-答疑从输入到输出写出高质量英语作文

点击下图，即可了解写作课详情！

03 早起打卡营

一年半以来，小编已经带着10000多人早起打卡

早起倒逼自己早睡，戒掉夜宵，戒掉手机

让你发现一个全新的自己，创造早睡早起的奇迹！

早起是最简单的自律！

第54期六点早起打卡营

欢迎你的加入！

点击下图，即可了解早起打卡营详情！

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章