公职人员应谨慎使用人工智能（AI）大模型
人工智能（AI）是当今社会最具影响力和潜力的前沿技术之一，AI技术已经深刻影响到我们生活的方方面面，从出行到娱乐，从办公到翻译，从人脸识别到数据分析，人工智能技术无所不在。特别是近年来生成式人工智能技术的兴起，掀起了人工智能的狂潮，现已成为人们离不开的一种工具。在社会公共管理的过程中，人工智能大模型同样应用广泛，很多地区都在推行“人工智能+行政”模式，人工智能大模型同样成了许多公职人员的“秘密武器”，很多智能科技公司推出了“AI公文版”模型，吸引了众多公职人员用户。但是，随着人工智能大模型越来越多的进入政务工作，其产生的诸多潜在风险也突显出来，需要引起高度重视。
（一）人工智能大模型的应用给政府行为带来更多的不可控因素。 政府行为在社会治理中起着关键性的作用，不同于其它社会主体的行为，政府行为必须具备规范性和可控性，也就是说政府行为必须具备明晰的界限和可预测的操作，出现任何问题都能够被清楚地解释和处理，否则社会治理就会出现各种混乱。
人工智能模型是利用海量的人类语言数据和大规模的GPU(图形处理器)算力，对大模型进行预训练而产生的模型。据2023年10月24日《 人民日报 》第20版刊文报道，当前最新的人工智能模型，为其精心挑选的预训练知识数据量达到13万亿token(字)，相当于500万套四大名著的规模；而通过训练提取的“知识片段”即模型的参数，有1.8万亿个。人工智能模型的算法是极其复杂的，不管是对现实世界的压缩还是解答现实世界的问题，其关系都是非线性而是模糊的，可以说模糊算法是人工智能算法的基础。
这种模糊性会产生很大的不可控性，与政府行为的可控性是相悖的，基于人工智能而产生的政府行为一旦发生问题，政府很难排查问题出在哪里，并对其进行解释和解决。同时，由于其复杂性和模糊性，基于人工智能模型的政府行为将很难被监管和追溯。因此，作为政府行为中的主要角色，公职人员在利用人工智能大模型时需要格外谨慎，谨防其产生的各种不可控风险。
（二）人工智能大模型的应用会给多方信息造成泄露风险。 一是会造成公职人员隐私泄露。政府使用人工智能大模型，需要收集大量的数据进行训练，这就需要公职人员广泛而大量的收集训练所需的数据，这其中难免会包含大量的个人隐私信息，这会给个人隐私信息的保护带来巨大的压力，一旦泄露将会直接导致政府公共形象受损，其带来的恶劣程度远大于其它社会主体泄露个人隐私的影响。例如，2020年美国的一家面部识别应用服务公司 Clearview AI的数据曾遭非法入侵，其中至少有 600 家美国执法机构使用了Clearview AI最新的面部识别系统，这种泄露事件在美国社会引起了轩然大波。
二是公职人员在使用人工智能大模型时还可能造成政府信息的泄密。以最常用的生成式AI模型为例，如公职人员利用生成式AI模型进行公文写作，需要将基本的数据和资料输入至AI模型，客观上就导致一些不宜公开的政府信息上传至了外界的服务器，如被别有用心的人加以利用，很可能引发各种不良反应。
（三）人工智能大模型的应用会对政府行为的公正性提出挑战。 一方面，人工智能大模型的算法是不透明的，普通人很难了解其运行机制，如果公职人员利用公权力滥用人工智能大模型做出政府行为，其中的技术壁垒将可能直接导致另一种新形式的不公正。技术本身并不导致不公正，但技术的运用却可能导致不公正。在社会其它领域爆出的“大数据杀熟”就是最典型的例证，试想如果这种现象发生在政府行为当中，必将会导致普通群众对政府的信任危机。
另一方面，人工智能模型可能不具备人类的情感、价值观和判断力，很难对人类需求进行个性化处理，存在很难克服的“算法偏见”。公职人员所要处理的各种社会问题是极其复杂的，不可能使用某种纯理性技术作为行为准则，更多的时候需要加入人的感性认知，甚至情感因素。如果公职人员过度依赖人工智能系统，会导致政府行为失去人性化和公正性，甚至会出现“机器指挥人”的现象。比如深圳、合肥等地出现的“无人干预自动审批”模式，申办人只需提供标准化的材料，机器自动审批。这种自动审批看似可以杜绝人工审批权力寻租的空间，而且的确可以大大提高审批效率，但其背后另一种公正性风险不言而喻，事实上等于政府将一部分公权力让渡给了掌握算法的第三方，存在极大的隐患。
为此，提出建议：
一、出台政府应用人工智能大模型指导意见。 建议从顶层设计方面明确人工智能大模型在政府中的应用场景，明确人工智能大模型在政府行为中的辅助地位。虽然人工智能大模型可以有效地改善公职人员的工作效率和质量，但是人工智能大模型绝不应该成为主角，必须明确人工智能大模型在政府行为的行为边界：人必须处于主导地位，人工智能大模型只能处于辅助地位，从而避免公职人员对人工智能大模型的过度依赖。
在处理不同的问题时，明确公职人员何种情况下可以使用人工智能大模型，使用何种模型，使用的途径和深度等，而且最终的决定权必须由人掌握。对于类似接收材料、证据收集等辅助性、技术性事项，易于数据化、类别化的事项以及其他不涉及相对人重大利益的简单事项，可以允许人工智能的应用；对于一些复杂的，难以量化的或者少数性质的问题，特别是涉及执法或利益分配等问题，公职人员应用人工智能大模型必须要经过审慎评估。
二、完善人工智能大模型的数据信息安全保障措施。 建议制定公职人员使用人工智能大模型备案报批制度，一旦公职人员使用人工智能大模型，要确保在实时监控的环境下安全使用，一旦发现任何存在风险的行为，及时询问相关人员或阻止相关操作。完善人工智能相关法规，提升公职人员的安全意识和完善保密措施，严禁使用人工智能大模型处理涉密资料，实行个人数据主体授权管理，对主体信息安全实施严格的保护，在任何情况下收集、处理和利用个人信息数据都要保证公民知情权。严肃问责滥用人工智能大模型的公职人员。
三、推进人工智能大模型的算法透明化并建立监督机制。 对于政府行为中选定使用的人工智能大模型，要公开其算法运算规则和程序设计，使社会能够检验和核实其正确性，以增加人工智能大模型的可控性。要使普通公民有权质疑政府行为中任何人工智能的使用所产生的影响，打破“黑箱”，建立有效的纠错机制。建立完善的数据信息监督机制，明确数据安全主管部门和监管部门，这是很多国家通行的做法，如丹麦、德国、美国等都有专门的数据安全监管部门，这样有利于加强对政务人工智能平台的数据流动、收集处理的监控。
英国《卫报》：“科技寡头”将人类未来押注于幻想
来源：环球时报
英国《卫报》5月3日文章，原题：“科技寡头”把我们的未来押注于幻想 人们很容易相信，科技界的亿万富翁对美国总统特朗普和极右翼意识形态的支持，表明他们已经脱离硅谷科技行业通常的政治主张。其中一位亿万富翁马克·安德森声称，情况确实如此，民主党阵营的变动将他和其他“寡头”推向了共和党的怀抱。然而，这严重误解了当前的形势。科技政治并非突然转变，而是回归政治。
宣扬“科技寡头”权力不受约束
硅谷长期以来确实支持民主党候选人竞选公职，绝大多数普通科技工作者投票支持民主党，但支撑硅谷风险投资家和CEO文化的根本意识形态始终是极右翼自由主义。安德森亦如是，虽然他说这话的时候可能确实是这么想的，但他的实际行动清楚地表明，他并没有准确评估自己的动机，更不用说其他人的动机了。他的风险投资公司长期以来一直反对任何政府监管其公司的投资业务。安德森本人也发表了一份“科技乐观主义宣言”，尽管语言上声称自己在政治上保持中立，但实际行为上却在宣扬一种“科技寡头”权力不受约束的威权主义愿景。
但科技行业领袖们长期以来的右翼理想最明显地体现在他们对未来的展望中。美国富豪埃隆·马斯克执着于“火星梦”；美国科技公司OpenAI首席执行官萨姆·奥尔特曼声称，超级人工智能即将到来。人们很容易将这些视为不切实际的“幻想”，认为这些言论是在故意转移人们对他们当下行为的注意力。但这一观念也是错误的。这些关于未来的“幻想”是科技亿万富翁世界观的核心，而这些天马行空的想象始终包含着与控制相关的政治元素。
太空资源与地球一样有限
以火星为例。马斯克非常明确地表示，希望到2050年，火星上能有100万人生活在一个自给自足的殖民地，这方水土能够在地球发生毁灭性灾难时作为人类生存的后备力量。马斯克将此描述为一场生存斗争，声称太空探索技术公司的飞船“是实现多行星生命和守护意识之光的关键”。曾嘲笑马斯克火星计划的亚马逊公司创始人杰夫·贝索斯表示：“我们应该将目标放在几代人之后，让一万亿人进入太空，生活在一个由巨型空间站组成的舰队中，每个空间站的内部空间都相当于一座大城市。”贝索斯补充说，否则，未来将是一个人类遭受控制、发展遭遇“停滞”的残酷世界。
贝索斯对马斯克火星计划的批判是正确的，移民火星确实有点难以实现。火星重力系数太低，辐射水平太高，几乎没有空气，且土壤含有毒素。但贝索斯的计划也有点“异想天开”，原因与马斯克类似。归根结底，人类根本没有理由离开地球。认为“火星是地球末日时人类的生存B计划”的想法有些可笑，实际上，即使是核战争或者大规模小行星撞地球等灾难性事件对人类造成的打击，都不如让人类长期生活在火星上糟糕。贝索斯对发展停滞和配给制的担忧，实际上是对人类文明不再进步的焦虑，背后的数学计算并没有因为把场景从地球切换成太空而得到显著缓解，因为太空的资源和地球一样有限。
资料图：贝索斯（中）与马斯克（最右）图源：视觉中国
彻底的公司化城镇
这些太空“幻想”所允许的，是完全由企业控制、不受政府约束的景象，一个自由意志主义的天堂。马斯克的星链用户协议中有一项条款规定：“各方承认火星是一个自由的星球，任何地球上的政府都无权管辖火星活动。”这在一定程度上违反了管理太空的国际条约。马斯克火星殖民地的居民将完全依赖太空探索技术公司提供一切，甚至包括呼吸的空气。它将成为一个地球上都无法实现的彻底的公司化城镇。
与此同时，贝索斯的空间站舰队将不再是一个公司城镇，而是一个“公司文明”。而且，由于随时可能面临大气减压和窒息的危险，马斯克和贝索斯或者他们的继承人就有现成的借口对这些太空殖民地的居民实行控制。科技寡头们相信，在这样的“公司文明”中，他们的“神明”会降临，把人们带进虚幻游弋的天堂，为他们的行为提供道德上的赦免，并赋予他们神圣的意义感。（作者亚当·贝克尔，白鹭译）
相关问答
事业单位编制的科技人员判处缓刑的是否开除公职?_法律问答—...
[回答]如果开除,应当有文件依据。否则不合理。
