黑镜成真：强人工智能应用中的法律与伦理｜对谈预告04.27（星期四）19：30

2023-04-26 11:04

背景

2023年初以来，以ChatGPT为代表的强人工智能（AI）技术在多年积累的基础上“横空出世”，吸引了几乎所有人的注意力。与先前试水的各种电子助手如微软小冰、苹果siri、AI语音生成器，机器人发贴相比，ChatGPT在信息的处理和整合上达到了一个新高度，不仅能与人类用户顺畅沟通，还能生成论文、代码、小说、图像……几乎可以通过区分人机的“图灵测试”，以一个“人”的面貌来处理信息。

与所有的飞跃性工具改进一样，技术的升级，永远不止意味着生产领域的效率提高，也伴随着生产关系、社会结构、思想文化、法律和伦理等诸方面的变革甚至重构。各种问题纷纷涌现：我的工作会被强AI取代吗？当学生都在使用强AI完成作业，教育的意义是什么？强AI会有人格吗？如何管理强AI？利用强AI的边界在哪里？强AI犯法了怎么办？强AI会取代“人”的意义吗……

其实，早在几年前，所谓的“弱AI”（专注于执行特定任务的人工智能如人脸识别、平台算法、陪伴机器人）已悄然进入我们的生活，在让生活更便捷更高效的同时，也带来了很多相关的法律和伦理问题如对隐私的侵犯、著作权的归属困惑、算法与现有伦理的冲突等等。

而对以GPT为代表的“强AI”，问题则更为复杂：强AI有电子人格吗？它需要拥有什么样的权利和义务？强AI和它的使用者之间如何分担责任、收益和风险？它能像人一样被问责吗？植入强AI芯片的人，和别人的竞争，算是平等竞争吗？

英剧《黑镜》曾经想象了一个被高度人工智能的技术所控制的世界，在这些技术下，人们的生活方式、彼此间的关系、社会地位，可能的冲突都发生了天翻地覆的改变。它尤其打动人心的一点，在于其中的技术都不是凭空幻想，而基于现有发展的合理推测：系统打分评级、社交网络的“民意”和网暴、人受困于网络、模拟真人的陪伴机器人、机器算法控制的恋爱配对、过滤“不良信息”的教育……GPT的登场，让我们意识到，《黑镜》所展现的那个时代已经降临。

南都观察希望可以从法律、社会、伦理的角度，尝试对以上问题做一些探讨：强AI会取代人吗？对我们现有的法律和伦理体系，即使不是颠覆，强AI可能会带来怎样的影响？我们如何在利用强AI这个工具改善我们生存的同时，调节好人与人，人与机器，机器与机器之间的关系，建立起与之相适应的协调和分配体系？

参与方式

对谈将通过“南都观察家”视频号进行直播

活动嘉宾

（按姓氏拼音顺序排列）