【科技想法】别忘了：与AI合作意味着需要人工监督

本周，南非撤回了其国家人工智能政策草案，原因是一个明显的问题——该政策的参考文献列表中出现了一些由AI捏造的来源。

在原本正常的文件中出现捏造来源的现象，目前已成为一个不小的问题，因为AI幻觉引用的案例已经多到足以建立一个专门记录因AI幻觉而受阻的法律诉讼的数据库。

虽然部分《科技思考》读者可能会觉得那些不加批判地使用生成式AI的人受到应有惩罚是件好笑的事，但必须强调的是，除非发生某种足以摧毁AI的末日事件，否则无论我们对AI以何种形式存在持何种态度，我们迟早都必须与某种形式的AI自动化打交道，甚至共事。

这意味着人们需要训练自己，在与AI协作的同时，也对AI的输出结果保持怀疑。

为何重要？

国际劳工组织（ILO）早在今年二月发布的一份关于生成式AI与菲律宾劳动力市场的报告中估计，菲律宾约有1,270万名工人（占在职人员的四分之一）受到生成式AI的影响。

AI并非完全取代职位，而是在人们现有的工作中自动化某些任务。

ILO表示，只有3.6%的职位属于受GenAI影响最高、面临较高职位替代风险的类别。"GenAI对菲律宾劳动力市场最显著的影响，很可能不是直接的自动化取代，而是工作内容的转变、生产力的潜在提升以及就业质量的改善，"报告补充道。

此外，ILO指出，职场中GenAI的影响并非性别中立，对女性工作的冲击大于男性。"与男性相比，女性面临的GenAI影响率是男性的两倍，这反映出女性在高度暴露职业中的比例更高。受过高等教育的女性面临的GenAI颠覆潜力尤为突出，"ILO进一步表示。

ILO在此指出，如果AI终将无处不在，那么我们最好学会与之共事——尽管我们或许应该将其视为一台需要修理、不会总是准确的时钟，因此必须对其输出结果进行核实。

职业倦怠与"大脑过载"

在AI充斥的世界中工作，可能意味着要承担两个人的工作量，或者至少在认知层面，相当于在完成自己任务的同时，还要反复检查他人的工作，直到完成为止。

具体而言，你需要完成自己的工作，而在使用AI时，还需要核查其输出结果，以确保这些内容真正适用于你当前的任务。

正如《哈佛商业评论》发表的一项研究中，研究人员在研究AI如何影响工作时所言："与拥有更多时间专注于有意义工作的承诺相反，同时应付多项任务和多任务处理，可能会成为与AI协作的典型特征。"
这种"大脑过载"，即对AI代理进行高强度监督所带来的认知疲劳（基本上就是检查AI的工作），是真实存在的。研究人员将其定义为"因过度使用或监督AI工具超出个人认知能力所产生的精神疲劳"。

这种与AI相关的精神压力会带来显著代价，表现为员工失误增加、决策疲劳以及萌生离职意向。

与此同时，利用AI处理某些工作中的重复性任务，也可以说能够减少职业倦怠，即工作带来的情绪压力。研究人员认为，将重复性琐事交由AI处理，能让员工专注于更具创意的工作——那些他们真正想做的事情。通过卸下枯燥的工作，部分员工"表现出更高的工作投入度和积极性；对AI持有更多正面的情感联结；对AI的负面情感联结也少于其他人"。

职业倦怠与大脑过载是工作的一体两面。职业倦怠是由情绪驱动的疲惫或疲劳，而AI大脑过载则是由精神驱动的认知压力。

工作的"未来"

不细说具体情况，我目前正在与某人合作，尝试利用AI让工作的某些方面变得更轻松。然而，我承认，我对检查大约100条AI输出结果可能带来的大脑过载感到忧虑。

这将涉及对AI输出结果进行事实核查以确保准确性，同时还要完成修正文风问题的创意工作，使输出内容不至于读起来像机器人打印出来的文字。

创意部分我能胜任，但检查AI工作这项任务听起来一点都不好玩。然而这是一项必要的工作。若任由AI独自运作，它势必会出错，而这将损害我本人以及Rappler整体的公信力。

正如南非通讯与数字技术部长索利·马拉齐（Solly Malatsi）在谈及他们造成的AI政策失误时所说："这一失误不仅仅是技术问题，更损害了政策草案的完整性与公信力。"

如果你与AI共事，这意味着确保AI不犯低级错误的责任，将不可避免地落在监督它的人类肩上。所以请保持敏锐、目光如炬，并记住，欢迎来到工作的"未来"。– Rappler.com