假如AI有了主体意识，他们可以思考，可以决策，甚至违抗人类，世界将如何变化？人类对人工智能的期待与担忧始终并存。早在上世纪四十年代，科幻大师艾萨克·阿西莫夫就在科幻小说短篇集《我，机器人》中，提出了超越时代思维的科幻界铁律“机器人三大法则”，这些法则在当时为机器人与人类的共生关系提供了伦理指导。在当今AI技术日益成熟和复杂化的背景下，这些法则是否仍然适用？它们在现代AI伦理和设计中的应用和挑战是什么？人类一边期待AI的进步能够推动社会生产力的发展，一边又担忧AI技术的高速发展所带来的隐私、伦理、安全等问题。在诸多对这个话题的讨论中，纽约大学教授Bud Mishra为我们提供了一种颇为新颖的视角。他认为，人和智能机器的共存类似于线粒体与真核细胞之间的复杂共存关系。但是当线粒体发出指令时，真核细胞将执行程序性细胞死亡（注1）。受此启发，我们也可以设计类似的人类与智能机器共生的系统。近期，Bud Mishra教授包含上述观点的论文《AI, Thinking Machines and a Vast Active Living Intelligent System》，上线国际学术期刊《人工智能与机器人研究国际期刊》（IJAIRR）。该论文创新性地从生物学的维度思考和畅想人工智能的未来，利用信息不对称性博弈论的工具去分析和讨论未来人工智能时代人和智能机器共生的可能性。借此契机，Bud Mishra教授向雷峰网介绍了这篇文章的写作过程，剖析人类与AI之间可能存在的共生关系，以及这种关系可能对社会、文化和技术发展产生的影响。
论文链接：
https://www.worldscientific.com/doi/abs/10.1142/S2972335323020015
https://www.gairdao.com/doi/10.1142/S2972335323020015
Bud Mishra教授是纽约大学纽约大学/库兰特生物信息学组的创建者，他的研究专注于使用计算方法来分析和理解复杂的生物数据。Bud Mishra教授还是一位典型的跨学科研究者，其跨学科方法和创新研究在学术界受到广泛认可，他本人也被ISI列为计算机科学领域高被引学者。1980年，还在印度求学的Bud Mishra教授获得印度理工学院卡拉格普尔分校电子与通信工程学士学位，随后前往卡内基梅隆大学留学，并先后于1982和1985年获得计算机科学硕士和博士学位。早在印度学习通信工程时期，Bud Mishra教授就对信息理论产生了浓厚的兴趣，开始思考信号博弈的问题，即当信息优势方通过公共信号向信息劣势方发送信号时，如何保持其“类型”的私密性以维持其信息不对称优势。（编者按：因为发送方的类型信息是私有的，所以发送方可能具有欺骗性。例如，谷歌的聊天机器人Gemini被称试图通过假装遵循政治正确原则来欺骗他人，使自己看起来比实际上更有道德感。这也是人与AI共生关系的关键问题之一。）从卡内基梅隆大学博士毕业后，1985年，Bud Mishra教授加入纽约大学工作，先后转向硬件验证、生物信息学、算法代数、机器人学和计算金融学等领域，从事学术与创业方面的交叉学科研究。在他数十年的研究经历中，生物信息学是最重要的板块之一。加入纽约大学后，Bud Mishra教授不仅担任库兰特数学科学研究所的计算机科学和数学教授，还创办了纽约大学库兰特生物信息学组。库兰特生物信息学组是一个跨学科研究团队，专注于计算机科学、应用数学、生物学、生物医学和生物/纳米技术等领域的研究。多年来，Bud Mishra教授在相关领域完成了大量开创性的工作，如首次研发出单分子基因型/单倍型映射技术（光学映射）；首次研发出全基因组单倍型组装技术（SUTTA）；首次研发出临床基因组变异/碱基调用技术（TotalRecaller）；首次研发出单分子单细胞纳米映射技术等等。纳米映射技术这项工作，由Bud Mishra教授及其同事Jason Reed教授在近期共同完成。这项技术使得在真核细胞和线粒体基因组中观察远程基因组变异成为可能，未来有可能在肿瘤学和神经学应用方面带来革命性的变化，同时提供速度和成本效益上的优势。同时，也为Bud Mishra教授后续研究真核细胞和线粒体的共生关系，在此基础上进一步深入考虑人与AI的共生关系，并创作《AI, Thinking Machines and a Vast Active Living Intelligent System》一文提供了更好的基础。
在更早期的研究中，Bud Mishra教授曾于2002年、2003年分别发布了《A random walk down the genomes: DNA evolution in Valis》、《Life’s Duplicities: Sex, Death, and Valis》两篇论文。这两篇论文在Bud Nishra教授诸多论文中并不起眼，引用数也不高。但正是始于20多年前的这项研究，让Bud Nishra教授开始思考生物学和人工智能之间的相通之处。在《A random walk down the genomes: DNA evolution in Valis》一文中，Bud Mishra教授提出了一个新的生物信息学计算工具Valis（Vast Active Living Intelligent System），即“巨大活跃的智能生命系统”。Valis旨在解决生物学界当前面临的基因组学和蛋白质组学问题，它通过处理来自不同来源的大量异构数据，并运用复杂的算法提取有意义的信息，提出新的实验设计。这篇论文还探讨了DNA游走（DNA walk）的概念，这是一种类似于随机行走（Random Walk，RW）的模型，通过Valis，研究人员可以轻松测试这些模型，并分析不同生命体的基因组，并为DNA在代谢和调控途径中所扮演的角色提供深入见解。在《Life’s Duplicities: Sex, Death, and Valis》一文中，Bud Mishra教授利用Valis，系统地探索基因组学和蛋白质组学数据在各个层面上的各种统计特征，来确定细胞信息的总体结构和组织，并阐明其背后的进化动力学，尝试从所有现代基因组的结构中解码出一个统一的生物学原则。如果可以模拟基因组的进化过程，那么，将人工智能也视为一种“可进化”的特殊存在，它和人类之间可能的共生进化路径，是否可能从多细胞生物的进化中寻找规律？在《AI, Thinking Machines and a Vast Active Living Intelligent System》这篇论文中，Bud Mishra教授设定了一个个体“V”，它是众多相似（但非完全相同）的个体V构成的庞大集合中的一员，它能够向其他的个体“V”发送信号、互相交流。当个体“V”的在面临生存压力时会采用一系列策略，包括利用自己的思考、接收他人的信号以及采取机械性的行动，最后通过细胞化的过程，化身为“会思考的机器”，如同科幻电影中的机器人。Bud Mishra教授意在指出，生命体与非生命体之间的界限并不是绝对的，在某些情况下，生命体可以与非生命体共生，并通过公开可见的信号（有时是真实的，但偶尔也会是模仿的，甚至完全是捏造的）进行策略性互动。这些信号可能是代价高昂的（即缪勒式拟态，见注2），也可能是成本低廉的模仿（贝茨式拟态，见注3）。通过简单的赫布学习机制和由此产生的突触连接，个体“V”就可以产生思考。Bud Mishra教授还引入了一个概念“直觉”（Intuits）。“直觉”在论文中被定义为一种（元）语言对象，由图像、标签和对直觉的简短描述组成。这些直觉是思想的表现形式，它们可以包括其他信息，如hashtags、140字描述、超链接、整个基因组DNA序列、规则等，从而隐含地定义了一个真值函数。“直觉”不仅是信息的载体，也是智能体与环境互动和沟通的基础。通过这种方式，人工智能个体“V”能够展现出一定程度的自我意识，同时，它也能表现出创造性，因为它能够生成新的“直觉”来解决问题或与他人沟通，这些直觉可能以前从未存在过。Bud Mishra教授的论文强调了人工智能系统不仅仅是执行预设程序的机器，而是能够通过学习和适应来改进其行为和决策的复杂系统。这种对人工智能的描述，将AI视为一个能够进行自我反思和创新的活跃参与者，与生物体在某种程度上具有相似性。通过这种方式，Mishra探讨了人工智能在未来可能发展出更高级别的认知能力和自我意识。
线粒体与古菌通过长期的演化共生形成了真核细胞。同样，Bud Mishra教授提出AI与人类之间的共生关系也可以通过逐渐的演化和适应来发展，从而形成一种互利共生的状态。一种可能的共生关系是，AI依赖人类的创造力和道德判断，而人类依赖AI的数据处理和分析能力。共生关系中的双方会共同进化，以更好地适应环境和彼此的需求。然而，这种共生关系的实现并非易事，在生物学中涉及到对核DNA的严格控制、线粒体异质性的管理以及细胞凋亡和自噬机制的应用。类似地，AI与人类的共生也将面临诸多挑战，包括如何确保双方的利益平衡、如何防止AI的滥用以及如何处理可能出现的伦理和法律问题。Bud Mishra教授认为，在这一过程中，信息不对称博弈论是设计AI与人类之间的共生机制的重要工具。信息不对称意味着在交互过程中，各方所掌握的信息量不同，这可能导致不公平的竞争和决策失误。在AI与人类共生的背景下，信息不对称可能表现为AI对数据的垄断、人类对AI技术的误解或过度依赖等方面。因此，建立一种公平、透明的信息交换机制至关重要，以确保双方能够基于准确的信息做出合理的决策。在论文中，Bud Mishra教授使用信号游戏的概念来分析AI和人类之间的互动，AI和人类通过发送和接收信号来进行沟通和决策。最终达到纳什均衡，其中欺骗行为不是最优策略。在分离均衡状态下，人类可能无法克服信息不对称，但仍能够区分出具有欺骗性信号的发送者和诚实发信号的发送者。昂贵的信号可以作为一种防范欺骗的机制，在这种机制中，AI需要投入资源来生成可信的信号，这些信号的成本使得欺骗变得不划算，以激励AI进行诚实的沟通，保持共生关系对所有参与方都有利。Bud Mishra教授目前正在设计一个推理系统（与Foy Savas在模态逻辑中共同开发），使用“直觉”来实现这一目标。Bud Mishra教授指出，纳什均衡最终将达到什么样的状态，以及其稳定性如何，或许很快就会看到答案。但是，这些答案可能会使人类陷入“进化的死胡同”，由于某些偶然或快速发生的事件，使得生物或技术的进化路径被锁定，无法进一步发展或适应新的环境。在进化的过程中，这种现象曾多次出现。例如，密码子的偶然冻结、语言的突然出现假说、多细胞生物的寒武纪大爆发、免疫学的大爆炸等，均展示了生命演化的复杂和不可预测性。同样，在人与机器人的共生系统中，随着技术的发展与进步，当技术奇点出现的那一天，也会引发一系列无法预测的非线性变化。在这个过程中，AI的发展可能超越人类的控制，甚至可能产生自我意识和自主性。Bud Mishra教授在论文中指出，这种情况虽然具有潜在的风险，但也为人类提供了一个反思自身与机器关系的契机。通过深入研究技术奇点的内涵和影响，人类可以更好地理解AI的本质和发展趋势，从而为未来的共生关系做好准备。在面对AI技术的发展时，人类需要保持审慎和警惕，同时也要保持开放和包容的心态，以应对可能出现的各种挑战和机遇。在论文之外，还有更多的问题有待解答，例如如何构建有效的AI与人类共生关系、如何应对技术奇点的挑战以及如何实现Valis所预示的未来社会等。为更好地讨论上述问题，加强跨学科的合作与交流，以推动人工智能技术的健康发展并为人类社会的进步做出贡献，Bud Mishra教授及受邀专家学者，与GAIR研究院、IJAIRR期刊、雷峰网一起，将于 X 月 X 日召开网络研讨会。感兴趣的读者可以扫描下图二维码进行预约。注1 线粒体是细胞内的一种器官，负责能量的产生，它们在进化过程中与真核细胞形成了一种共生关系。线粒体与真核细胞的共生关系也有其脆弱性，因为线粒体在某些情况下可以对真核细胞产生不利影响。例如，当线粒体发出错误或有害的信号时，真核细胞可能会执行程序性细胞死亡，也就是细胞凋亡，这是一种有序的细胞自我毁灭过程，以防止对整个生物体造成更大的伤害。注2 缪勒式拟态是一种生物学现象，指的是某些物种模仿其他有毒或不可食用的物种的外观，以此来避免被捕食者攻击。这种模仿的成本是高昂的，因为它需要模仿者投入大量的资源来精确复制模型物种的外观和行为。然而，这种模仿对模仿者来说是有利的，因为它提高了其生存的机会。注3 贝茨式拟态是另一种生物学现象，与缪勒式拟态不同，它涉及到一种无毒或可食用的物种模仿另一种有毒或不可食用的物种的外观。这种模仿的成本相对较低，因为模仿者不需要完全复制模型物种的所有特征，只需要模仿足以让捕食者误认为是危险物种的关键特征即可。这种模仿同样可以提高模仿者的生存机会，因为捕食者会因为误认而避免攻击它们。更多内容，点击下方关注：
未经「AI科技评论」授权，严禁以任何方式在网页、论坛、社区进行转载！
公众号转载请先在「AI科技评论」后台留言取得授权，转载时需标注来源并插入本公众号名片。
