参与式设计在AI伦理治理中的应用：从FAccT会议看社区共治实践

1. 项目概述：当AI伦理治理遇上“参与式设计”

最近几年，AI伦理这个词儿快被说烂了，从算法偏见、数据隐私到自动化决策的问责，问题清单越来越长。但一个更根本的困境是：这些伦理原则由谁制定？又由谁来监督执行？是躲在实验室里的技术专家，是制定法规的政府官员，还是被技术深刻影响的普通公众？传统的“自上而下”的治理模式，常常陷入“精英制定，大众服从”的窠臼，导致伦理准则悬浮于空中，难以落地。正是在这个背景下，“参与式设计”的理念开始被引入AI伦理的社区治理中。这不是什么全新的发明，它在城市规划、产品开发领域已有成熟应用，核心思想很简单：让最终的用户和利益相关者，从被动接受者变为主动的共同设计者。

而我们今天要深入拆解的案例，是计算机协会（ACM）旗下关于公平、问责与透明度的重要国际会议——FAccT。FAccT会议本身就是一个汇聚了研究者、从业者、政策制定者和社区活动家的独特场域，它不仅是发布前沿论文的平台，更在尝试构建一个关于AI伦理的实践社区。将参与式设计的方法论，应用于FAccT这样一个学术社区的治理过程中，是一个极具前瞻性和挑战性的实验。它试图回答：一个致力于研究公平、透明的社区，其自身的运作方式是否足够公平和透明？我们能否通过设计更包容、更民主的流程，来让这个社区更好地履行其使命？这不仅仅是管理会议投稿和议程，更是对“我们如何共同思考AI的未来”这一根本问题的实践探索。

2. 核心理念拆解：为什么是“参与式设计”？

2.1 参与式设计的核心要义与价值转向

参与式设计脱胎于上世纪斯堪的纳维亚的劳工运动，最初是为了让一线工人能参与到影响其工作的技术系统设计中，避免技术成为纯粹的管理控制工具。其哲学根基是“情境知识”的价值：最了解某个问题具体情境、所受影响和潜在需求的，往往是身处其中的人，而非外部的“专家”。在AI伦理的语境下，这一理念的价值被无限放大。

传统的AI伦理治理，路径往往是“识别问题（如偏见）-> 制定技术准则（如公平性指标）-> 提出政策建议”。这个过程里，受算法影响的社区——可能是被招聘算法歧视的特定群体、被内容推荐系统信息茧房困住的用户、被自动化系统取代的劳动者——他们的声音往往是缺失的，或者只是在最后阶段作为“案例”被引用。参与式设计要求将这个顺序颠倒或重构，让这些社区成员从最开始就进入“设计”环节。这里的“设计”，不仅仅是设计一个算法或产品，更是设计治理的流程、规则的框架、评估的标准。

例如，在讨论“什么是公平的算法”时，参与式设计不会直接采用学术界流行的“统计均等”或“机会均等”等数学定义，而是会组织工作坊，邀请不同背景的社区成员，用他们自己的故事和经历，共同描绘“公平”在他们具体生活情境中的模样。这个过程可能混乱、低效，但它产出的对“公平”的理解，是扎根于真实世界的、多维度的，远比一个单一的数学公式更有生命力，也更能指导实践。

2.2 FAccT会议作为“实验田”的独特优势

FAccT会议本身就是一个理想的参与式设计试验场。首先，它的基因里就带着跨学科和关注社会影响的烙印，参会者不仅包括计算机科学家，还有法律学者、社会科学家、哲学家、艺术家和社区组织者。这种多样性是参与式设计得以开展的人才基础。

其次，FAccT社区对自身作为“实践者”而非“空谈者”有强烈的自觉。社区成员普遍意识到，如果自己研究的公平、问责、透明无法在会议的组织运作中体现，那么其研究的可信度将大打折扣。这产生了内在的改革动力。例如，会议一直在反思和改革其论文评审流程，尝试引入“众包评审”、“作者回应”、“伦理审查”等机制，这些本身就是参与式治理的雏形。

最后，作为一个相对边界清晰、有年度周期性的社区，FAccT具备了进行持续性、迭代性参与式设计实验的条件。可以在一届会议上试点某个新流程（如社区投票决定某个研讨主题），收集反馈，在下届会议上改进并扩大应用。这种“设计-实践-反思-再设计”的循环，是参与式设计能否成功的关键。

注意：参与式设计不是“群众说了算”的简单民主，也不是为了达成表面和谐而进行的“表演式咨询”。它需要精心的流程设计、专业的引导技巧，以及对权力差异的清醒认识和主动干预。否则，很容易沦为嗓门大、资源多的群体主导，或者陷入无休止的争论而无法决策。

3. 应用场景与具体实践路径

3.1 场景一：重塑论文评审与知识生产流程

学术会议的核心是论文评审。传统双盲评审虽有其价值，但也因其封闭性、依赖少数专家主观判断、以及可能存在的隐性偏见而备受批评。FAccT会议在这方面进行了多项融入参与式设计理念的尝试。

实践路径1：结构化审稿与作者回应机制。这不仅仅是让作者回复审稿意见，而是设计一套更结构化的对话流程。例如，要求审稿人不仅指出问题，还需提出具体的、可操作的修改建议；同时，给予作者足够的空间，不仅回答技术问题，还可以就审稿人可能存在的误解或不同的学术价值观进行辩论。会议程序委员会（PC）的角色，从“仲裁者”部分转变为“对话促进者”，需要综合判断这场学术对话的质量，而不仅仅是审稿人的打分。这个过程，将知识的生产从“作者-审稿人”的对抗性关系，部分转向了“作者-审稿人-PC”共同完善工作的协作关系。

实践路径2：社区评议与公开讨论环节。对于一些争议性大或社会影响深远的投稿，FAccT曾试点在最终决定前，将论文的匿名版本（或摘要）在社区论坛公布，邀请更广泛的社区成员进行评议。这些评议可能来自不同学科背景、不同利益立场的人，他们提出的问题可能是纯粹技术审稿人看不到的。例如，一篇关于福利分配算法的论文，经济学家可能关注效率，社会工作者可能关注执行中的尊严问题，而有过福利申请经历的人可能指出数据收集过程中的羞辱感。这些多元视角的注入，本身就是对论文质量的一种“参与式评估”。

实操心得：我们曾在一个研讨会的议题征集中采用过类似社区投票。最大的教训是，必须提供充分、平等的信息。不能只是简单罗列议题名称，而需要提供清晰的背景说明、预期的讨论目标和可能的产出。否则，投票会变成“名气竞赛”或“标题党竞赛”。同时，要为未能入选的议题提供其他展示渠道（如闪电演讲、海报），避免参与变成“赢家通吃”的挫败体验。

3.2 场景二：构建包容性与可及性的会议体验

会议的参与体验本身，就是社区治理是否公平透明的直接体现。FAccT在全球不同地区举办，如何让不同地理位置、经济条件、身体能力、家庭责任的人都能有效参与，是一个巨大的设计挑战。

实践路径1：多元化的参与模式设计。这远不止是提供线上参会选项。参与式设计需要主动询问：哪些障碍阻止了人们参与？可能是高昂的注册费和差旅费，可能是会议时间完全不符合某个时区的工作生活节奏，可能是会议场所对残障人士不友好，也可能是缺乏育儿设施。FAccT通过设立多样性奖学金、提供差旅补助、录制并延期开放会议视频、设立线下分会场（Hub）、提供现场育儿服务等方式来应对。关键不在于提供了多少选项，而在于这些选项是否是根据潜在参与者的真实需求“共同设计”出来的。例如，奖学金申请流程是否足够简单？评审标准是否考虑了经济困难之外的系统性障碍？

实践路径2：社群交流空间的设计。正式的会议议程之外，咖啡歇、午餐、晚宴等非正式交流空间往往是建立联系、激发合作的关键。但这些空间也可能无形中排挤了不善社交、或来自不同文化背景的人。参与式设计会刻意“设计”这些空间。例如，设立“主题午餐桌”，每桌有一个明确的讨论主题（如“全球南方的AI伦理挑战”、“初创公司的伦理实践”），并安排一位引导者，让新人可以轻松加入对话。设立“新人引导”环节，由老会员主动配对带领新参会者结识朋友。这些设计旨在降低社交门槛，创造更平等、积极的交流氛围。

常见问题与排查：

• 问题：线上参会者感觉被忽视，无法融入讨论。
• 排查与解决：这不仅仅是技术问题（如网络流畅），更是流程设计问题。需要为线上参与者设立专属的线上主持人，其核心职责不是操作设备，而是确保线上声音能被听到。例如，强制要求所有现场提问必须重复给线上听众，并优先抽取线上问题；使用支持线上线下混合互动的工具（如Slido），让线上投票和提问与现场同步显示。
• 问题：多样性措施流于形式，未能触及核心群体。
• 排查与解决：反思需求调研是否充分。是否只咨询了已有的、活跃的社区成员？需要主动走出去，与相关领域的NGO、社区学院、少数群体专业组织建立联系，邀请他们帮助设计和传播信息。奖学金评审委员会本身的构成必须多元化。

3.3 场景三：议程设置与社区未来方向共创

会议的议程决定了社区关注什么。传统的议程主要由程序委员会根据投稿情况决定，这可能导致研究热点“内卷”，而一些重要但尚未成为热点的边缘议题难以浮现。

实践路径：主题工作坊与愿景路线图制定。FAccT会议中，除了正式的论文轨道，还有大量的研讨会、教程和工作坊。这些环节可以深度应用参与式设计。例如，组织一个“未来十年AI伦理关键挑战”的愿景工作坊。参与者不限于资深学者，可以包括学生、政策实习生、科技记者、社会活动家。通过引导技术（如世界咖啡、开放空间），让小组讨论并提炼出他们认为最重要的挑战。最后，将这些挑战汇总、聚类，形成一份由社区共同生成的“研究议程倡议书”。这份文件可以反馈给资助机构、学术期刊和其他会议，影响整个领域的研究资源分配方向。

另一个例子是对于“伦理审查”流程的设计。是否要求投稿论文进行伦理审查？审查标准是什么？由谁来审查？这是一个极具争议的话题。与其由组委会闭门决定，不如设计一个开放的“社区协商”流程。可以发布几套不同的提案（从完全自愿到强制审查，各有不同严格程度），组织多场线上线下的辩论和讨论，收集正反方意见，最后或许不是达成一个全体一致的结论，而是形成一个清晰的、记录了多种声音和权衡的“社区立场声明”，为作者和审稿人提供参考，而非硬性规定。

实操心得：共创工作坊的成功，极度依赖专业的引导者（Facilitator）。引导者必须保持中立，善于鼓励沉默者发言，控制强势者垄断话语，并将发散的想法收敛成可操作的产出。此外，一定要有明确的产出预期和后续跟进计划。如果大家花了半天时间热烈讨论，结果没有留下任何可见的、能影响决策的记录，参与者会感到失望，并对未来的参与失去信任。因此，实时记录（如使用共享文档）、会后立即整理发布纪要、并明确说明这些产出将如何被使用（例如，提交给下届组委会参考），至关重要。

4. 核心挑战与应对策略

4.1 挑战一：效率与包容性的永恒张力

参与式设计以过程为导向，强调充分讨论和共识构建，这必然消耗更多时间，降低决策效率。而学术会议的组织有严格的时间线（征稿、审稿、注册、举办）。如何在有限时间内，做出高质量且被社区认可的决定？

应对策略：分层级、模块化的参与设计。并非所有决策都需要全员深度参与。可以采用“参与阶梯”模型，对不同性质的决策设计不同深度的参与流程：

• 告知与咨询：对于常规性、操作性的决策（如会议日期、注册费微调），组委会在做出初步方案后，向社区公布并征集反馈意见即可。这是最低程度的参与，但保证了透明度。
• 协作与共创：对于核心流程改革（如评审机制大改）、价值观相关议题（如行为准则修订），则需要设计工作坊、专题讨论组等，进行深度协作。
• 社区授权：对于少数关键事项（如年度“社区影响力奖”的评选标准），可以尝试完全由社区投票决定。

关键是将决策事项分类，并提前向社区明确说明每类事项将采用的参与方式和时间投入预期，管理好大家的期待。

4.2 挑战二：权力差异与话语权不平等

即使在FAccT这样相对进步的社区，权力差异依然存在：资深教授与博士生之间，常驻欧美机构的学者与来自全球南方的研究者之间，学术界与产业界之间，都存在资源、声望和话语权的差距。参与式设计如果无视这些差异，就会在实践中巩固甚至加剧不平等。

应对策略：主动赋能与流程干预。这需要组织者有意识地进行设计：

• 匿名化工具：在 brainstorming 或初步意见征集阶段，使用匿名提交工具（如匿名在线便签），让想法本身的价值优先于提出者的身份。
• 发言权设计：在讨论环节，采用“轮流发言”、“每人限时”等规则，确保每个人有机会表达。可以指定一位“过程观察员”，专门关注谁在说话、谁被中断，并在适当时机介入。
• 资源支持：为资源不足的群体参与提供实质性支持，如前述的差旅奖学金、为非英语母语者提供交流支持等。更重要的是，在策划阶段就邀请多元背景的人加入组委会、程序委员会，从源头保证决策结构的多样性。

4.3 挑战三：衡量成效与持续迭代

如何判断参与式设计的应用是成功的？是参会者满意度调查得分高？是社区多样性数据提升？还是产生了有影响力的共同产出？这些指标都需要仔细设计。

应对策略：混合方法评估与建立反馈闭环。不能只依赖量化数据。

• 量化指标：跟踪并公布多样性数据（性别、地域、机构类型等）、投稿与参会人数变化、奖学金申请与授予情况等。
• 质性反馈：通过会后深度访谈、焦点小组、开放式的反馈表单，收集关于参与体验的叙事性描述。特别要关注那些负面反馈和边缘声音。
• 过程记录：详细记录每次参与式活动的设计思路、执行过程和原始产出。这本身就是宝贵的知识资产，可供后续迭代参考。
• 建立“学习-适应”循环：每年会议结束后，组委会应专门花时间系统回顾这些评估结果，并公开一份“社区治理报告”，分析得失，并提出下一年度计划改进的1-3个具体点。让社区看到他们的参与确实产生了影响，从而建立信任，激励更深入的参与。

5. 从FAccT到更广阔的生态：参与式设计的辐射效应

FAccT会议的实验，其价值绝不仅限于办好一场会。它更像一个“示范项目”或“原型”，为更广泛的AI伦理治理提供了可参考的模式和可复用的工具包。

对学术出版的启示：如果连一个会议的评审流程都可以尝试引入社区参与，那么学术期刊的审稿、编辑决策是否也可以？一些期刊已经开始尝试“开放同行评议”，但参与式设计走得更远，它可能意味着让更广泛的社会利益相关方对研究的社会影响部分进行评议。

对AI产品研发的启示：科技公司内部的AI伦理委员会常常被批评为“橡皮图章”。参与式设计指出了一条出路：在产品设计的早期，就系统性地纳入外部受影响社区的代表，通过共创工作坊来定义产品的伦理边界和评估指标。这比产品上线后再组建一个“红队”进行攻击性测试，更为前置和根本。

对政策制定的启示：政府在制定AI相关法规时，举行的听证会往往形式大于内容。参与式设计可以提供一套方法论，如何组织更有代表性、讨论更深入、并能真正将公众意见转化为政策条款的协商流程。

当然，将FAccT的经验推广到这些更大、更复杂的场景，会面临更大的挑战（如利益冲突更剧烈、权力结构更固化）。但FAccT的价值在于，它在一个相对可控的环境里验证了可能性，探索了方法，并培养了一批具有参与式设计思维和实践经验的“种子”。这些人会带着这些经验回到自己的机构、公司和国家，成为变革的催化剂。

参与式设计在AI伦理治理中的应用，归根结底是一场关于“权力”和“知识”的再分配实验。它挑战了“伦理问题只能由技术专家解决”的迷思，主张那些生活在算法社会中、每日承受其后果的人，拥有定义问题、想象解决方案的不可或缺的智慧。FAccT会议的实践告诉我们，这条路充满摩擦和妥协，在效率和完美之间需要反复权衡。但它也证明，通过精心、谦逊且持续的设计，我们可以创造出更具包容性、更负责任、也因此更坚韧的科技社区。这不仅仅是管理会议的方法，更是我们共同面对一个被AI深刻重塑的世界时，所需要培养的一种核心公民能力。