Artificial Intelligence and Large Language Models: A Scientific Perspective

出版信息

书名：Artificial Intelligence and Large Language Models: A Scientific Perspective（人工智能与大语言模型：科学视角）
主编：Abbas Moallem、Helmut Degen、Stavroula Ntoa
丛书：The Human Element in Smart and Intelligent Systems（智能系统中的“人”要素系列，丛书主编 Abbas Moallem）
出版：CRC Press（Taylor & Francis Group）第一版 © 2026
ISBN：9781032775128（精装）/ 9781032794754（平装）/ 9781003492252（电子版）
DOI：10.1201/9781003492252
排版：codeMantra，Times 字体；封面图片来自 iStock

三位主编简介

Abbas Moallem：美国圣何塞州立大学（San José State University）工业与系统工程系顾问及兼职教授，讲授人机交互、网络安全、信息可视化与人因课程；担任 HCI-CPT 国际会议（网络安全、隐私与信任的人机交互）项目主席及网络安全人因国际会议主席；曾为 PeopleSoft、Oracle、Tumbleweed、Axway、Applied Materials、Lam Research、ASM International 等机构咨询，业务遍及欧洲、加拿大和美国；著有《Cybersecurity Awareness Among College Students and Faculty》（2019）、《Understanding Cybersecurity Technologies》（2024）、《Human Factors Analysis of 23 Cyberattacks》（2025），并主编《Human-Computer Interaction and Cybersecurity Handbook》（2024）、《Smart and Intelligent Systems》（2024）。
Helmut Degen：美国新泽西州普林斯顿西门子（Siemens）高级关键专家，研究聚焦可信、价值与效率在人机交互中的交汇，尤其注重可解释人工智能（XAI）；在西门子领导使 AI 系统可信、以用户为中心的倡议；任 HCI International 旗下年度国际会议 “AI in HCI” 联合主席；持有德国卡尔斯鲁厄理工学院硕士学位、柏林自由大学信息科学博士学位。
Stavroula Ntoa：希腊 FORTH 基金会计算机科学研究所（ICS-FORTH）HCI 实验室首席研究员，专长“为所有人设计”、软件无障碍、可用性工程与用户体验研究设计；研究方向包括现代交互技术的全民设计、自适应与智能界面、智能与人工智能环境中的包容性与用户体验；同样担任 “AI in HCI” 年度会议联合主席。

全书定位与章节结构（12 章）

本书写作动机：随着 ChatGPT、Gemini、Claude 及 2025 年初 DeepSeek 等生成式 AI/LLM 应用在全球普及，市面书籍或过于技术化、难读且过泛过窄（如只讲提示词写作），缺乏一本汇集多领域科学经验的一站式著作。本书面向学生、学者、工程师、律师、设计师、作家、媒体专家、程序员、政治家、艺术家及普通公众，覆盖人因工程、人机交互、计算机科学、软件工程、工业工程等学科。章节逻辑分为四个层次：

层次	章节	主题
技术基础	第 1–2 章	AI 图景总览；LLM 的神经计算技术基础
非技术专业应用	第 3–6 章	文化遗产、教育、医疗放射学、媒体内容创作
技术与软件领域	第 7–8 章	软件工程与软件采购；软件保证文档的检测与纠正
跨领域议题与展望	第 9–12 章	网络安全/隐私/信任；HCI 与用户画像；人因与可信性理论；反思与展望

贡献者名单（按章节归属）

来自全球多所高校与机构的约 40 位作者，包括：芬兰 Vaasa 大学（Waleed Akhtar、Danial Amin、Joni Salminen）；西门子医疗 Digital Technology and Innovation Center（Shima Asaadi、Rihkiya Gosh、Sanjeev Kumar Karn、Ullas Ullaskrishnan）；美国陆军研究实验室 DEVCOM（Prabhat Kumar、Mark Mittrick、Abraham Moore Odell、Adrienne Raglin、John Richardson）；卡内基梅隆软件工程研究所（Ipek Ozkaya、John E. Robert）；希腊 FORTH（George Margetis）；柏林 Fraunhofer HHI 与柏林工业大学（Wojciech Samek）；卡塔尔计算研究所（Bernard J. Jansen）；慕尼黑工业大学（Bjoern W. Schuller、Andreas Triantafyllopoulos、Iosif Tsangko）；韦恩州立大学（Mark Nuppnau、Robert G. Reynolds）；威廉玛丽学院教务长（Douglas Schmidt）；波兰 Poznan 的 WSB Merito 大学（Wojciech Cellary）与波兹南经济大学（Krzysztof Walczak）；荷兰 Trustilio（Kitty Kioskli）；圣何塞州立大学（Tina Korami）；Towson 大学教育学院（Mahnaz Moallem、Hoda Harati、Suzhen Duan）等。

引言（Introduction）

核心观点：生成式 AI 与 LLM 的全球传播伴随教育、隐私、信任等广泛议题，科学研究随之兴起。引言逐章介绍各章内容：

第 1 章：追溯自图灵 1950 年设想与 1956 年达特茅斯会议以来 AI 的演化，重点介绍各突破、进展与停滞的循环；讨论可解释性、社会影响及未来前景（含通用人工智能 AGI）。
第 2 章：介绍 LLM 与生成式 AI 的技术基础——原理、技术概念与架构（注：引言中保留了待修改的编辑痕迹）。
第 3 章：LLM 在文化遗产实践中的应用，覆盖归档、理解、教育、保存等阶段，面向从儿童到研究专业人员的不同受众。
第 4 章：LLM 在高等教育中的角色——学习设计、学习技术与教育研究，展示教育者视角下提升高质量学习体验、个性化学习与学习表现预测的应用。
第 5 章：LLM 在医疗保健中的应用，尤其面向放射科医生，展示 LLM 在不损害患者结果质量前提下支持放射科工作流程，含诊断与标准化报告示例。
第 6 章：LLM 在媒体内容创作中的应用；因用例置于教育情境，同时讨论 LLM 对创意内容生成的影响及其在设计教学中的有效使用。
第 7 章：LLM 在软件工程全流程（需求工程、架构与设计、验证与确认）中的应用与收益场景。
第 8 章：LLM 在高风险领域（医疗、航空航天）增强软件工程的能力——检测文档不完整性、不一致性与差异，并以无人机航电案例研究说明。
第 9 章：跨领域主题——安全、隐私、伦理与信任；涵盖越狱、提示注入、社会工程、信息泄露、用户提示操纵等基础概念。
第 10 章：LLM 在 HCI 中的影响，聚焦用户画像的生成，以理解并建模目标用户、提升决策者共情、支持以人为本设计；探索以 LLM 画像建模少数与边缘群体观点乃至整个生态系统。
第 11 章：LLM 的人因与信任理论，融合 HCI、心理学与社会技术系统洞见；探讨可解释性、透明度、用户对齐，分析认知负荷、拟人化与社会线索对信任的影响，为伦理而有效的设计提供概念基础。
第 12 章：多次研讨会共创成果，围绕三个关键问题展开：生活中哪些部分已被改变？哪些将要改变？预期未来挑战是什么？

第 1 章探索人工智能发展全景（Exploring the Artificial Intelligence Landscape）

作者：George Margetis，Wojciech Samek 本章梳理 AI 完整演化历史，梳理重大技术突破，分析伦理法律社会挑战，系统介绍可解释人工智能 XAI，探讨通用人工智能 AGI 的机遇、风险与局限。

1.1 引言

人类始终在制造工具简化生存，自古希腊神话的自动机械、安提基特拉机械、Al‑Jazari 可编程装置，到工业革命之后巴贝奇分析机、图灵机，是 AI 思想的早期萌芽。现代 AI 自 20 世纪 50 年代起步；深蓝、AlphaGo 之后，以 LLM 为代表的生成式 AI 深刻改变日常生活，但伴随大量风险。本章梳理 AI 演进，介绍能力、伦理法律社会挑战，强调可信、可解释 AI（XAI）的必要性，最后展望 AI 未来、潜在风险与局限。

1.2 AI 发展历史

思想源头：亚里士多德形式逻辑；1950 年图灵发表《计算机器与智能》提出图灵测试。
符号 AI 时代：1956 达特茅斯会议，“人工智能” 术语正式诞生；同期诞生 Logic Theorist（逻辑理论家），依靠启发式推理解决逻辑命题。符号 AI 依靠预定义形式逻辑、抽象符号完成任务。
第一次 AI 寒冬（70 年代）：经费削减、技术承诺过度、算力不足、学界内部分裂，符号 AI 路线遇冷。
机器学习时代到来（80 年代后期）：从逻辑规则转向数据驱动方法；反向传播算法复兴神经网络；但受限于算力，学界更多使用 SVM、贝叶斯网络、基于案例推理。
深度学习崛起（2000 年后）：GPU 普及、海量数据集；AlexNet（2012）卷积神经网络带来计算机视觉飞跃；后续 Faster‑R‑CNN、Mask‑R‑CNN 推动目标检测、实例分割，赋能自动驾驶、医学影像等现实场景。
生成式 AI 与大语言模型时代：AlphaGo 证明强化学习巨大潜力；2017《Attention is all you need》Transformer 问世，开启 LLM 浪潮。

1.3 当前 AI 重大技术突破

1.3.1 机器学习与深度学习

Transformer 架构：抛弃循环、卷积，依靠自注意力机制建模序列内全部 token 之间关联，同时实现并行计算。
NLP 领域：BERT 双向预训练模型，实现问答、语言推理；
计算机视觉：ViT 视觉 Transformer，Swin‑Transformer、DETR 等，Transformer 全面进军图像任务；
多模态 AI：CLIP 实现图文对齐零样本学习，奠定文生图基础。

1.3.2 强化学习 RL

传统 DQN 实现游戏人类水平；AlphaGo、AlphaZero 不依靠人类知识掌握棋类；AlphaFold2 结合深度强化学习解决蛋白质结构预测，推动生物科学。
InstructGPT：基于 RLHF 人类反馈强化学习对齐大模型，使模型遵循人类指令，成为后续 LLM 对齐范式；Decision Transformer、Gato 通用多任务智能体将强化学习与 Transformer 结合。

1.3.3 神经符号 AI Neuro‑Symbolic AI

融合神经网络模式识别能力与符号 AI 逻辑推理能力。分为两类：①符号知识压缩进神经网络；②从神经网络抽取信息映射为符号知识。天然具备可解释性，解决稀疏数据外推难题。

1.3.4 生成式 AI

GAN 生成对抗网络、VAE 变分自编码器奠定生成模型基础；
Transformer 之后分为两大分支：文生图像（DALL‑E、Stable Diffusion）；大语言模型 LLM。

1.3.5 大语言模型 LLM

语言模型四代演化：

统计语言模型 SLM（90 年代）：n‑gram 马尔可夫假设，维度灾难，只能处理简单特定任务；
神经语言模型 NLM（~2013）：分布式词表示（word2vec），端到端 NLP；
预训练语言模型 PLM（~2018）：ELMo、BERT，预训练 + 微调范式，适配大量 NLP 任务；
大语言模型 LLM（2020 后）：GPT‑3、LLaMA，随参数量增大出现涌现能力。当下 LLM 研究重点：缓解幻觉 hallucination；提升数学、逻辑推理能力；DeepSeek‑R1 通过强化学习与思维链提升事实校验、推理性能。

表格汇总了 DQN、VAE、AlphaGo、Transformer、BERT、GPT‑3、Stable Diffusion、InstructGPT、LLaMA、DeepSeek‑R1 等里程碑论文、所属领域与核心突破。

1.4 伦理、法律与社会层面挑战

偏见 Bias：四类来源：训练数据偏见、用户交互偏见、算法优化目标偏见、特定文化训练数据缺失偏见，会输出歧视性结果。
幻觉 Hallucination：模型基于统计模式生成虚假、编造的事实、文献引用，在医疗、法律等高风险场景危害极大；现有缓解手段：检索增强生成 RAG、CoVe、CoNLI 等技术。
可解释性缺失：千亿参数黑盒，注意力机制仅提供部分线索，医疗金融等高风险场景阻碍落地。
推理缺陷：依靠统计模式而非形式逻辑推理，记忆能力有限；思维链 CoT、智能体 Agent 可以部分改善，但仍存在局限。
安全漏洞：提示词注入、越狱攻击、数据投毒，模型容易被恶意操控。
法律难题：AI 生成内容的著作权、真实性、虚假信息、监管合规。
社会经济冲击：岗位替代风险，同时诞生提示工程等新岗位，但可能加剧社会不平等。
环境负担：训练推理消耗巨大电力、水资源，产生电子废弃物。

1.5 可信 AI 与可解释人工智能 XAI

竞赛榜单高分模型也会出现 “聪明汉斯效应（Clever‑Hans effect）”：模型依靠数据集伪关联得到正确答案，不是学习任务本身规律。例如图像分类依靠水印、雪地背景识别狼，而非物体本身特征。因此模型不能只看测试集精度，必须重视透明度、审计、认证；欧盟 AI 法案、NIST、IEEE 都出台相关规范；部分学者主张高风险场景直接使用本身可解释的模型，拒绝黑盒。

XAI 的三波浪潮

第一波：解释单个预测结果 基于梯度、归因传播（SmoothGrad、集成梯度 IG、LRP 逐层相关性传播）；模型无关方法：LIME、SHAP 沙普利值；反事实解释、数据归因；解决 “输入中哪些因素导致该输出”。
第二波：理解模型整体本身 激活最大化、网络解剖、TCAV 概念激活向量、CRP 概念相关性传播；挖掘神经元、网络层编码的抽象概念；开启机制可解释性，逆向解析模型内部功能子电路。
第三波：系统化完整理解模型 FALCON、SemanticLens，使用基础大模型自动完成概念标注，无需人工干预；可以自动检测模型内部偏见、数据集伪特征；实现完整模型审计，适用于医疗等高风险领域验证模型决策依据。

从 “解释” 走向 “控制模型”

XAI 不只是解释结果，还要实现调试、修正模型行为；针对 LLM，希望理解注意力头功能，进而干预控制模型输出，解决幻觉等缺陷。

XAI 现实应用

人机交互、模型调试监管；药物发现（XAI 辅助发现新型抗生素）；物理、国际象棋、基因组学科研，辅助人类发现新知识。

1.6 AI 的未来、风险与局限

通用人工智能 AGI：当前全部 AI 都属于狭义 AI（弱 AI）；学界对 AGI 实现时间观点不一，部分研究者预测本世纪中叶实现。
超级智能风险：工具趋同理论；超级智能即使对齐人类价值观，也可能为达成目标带来附带伤害；但受物理、计算资源约束，AI 无法做到全知全能。
必须持续面对的老问题：偏见、可解释性、安全滥用、环境成本、就业冲击。
发展建议：研究者、政策制定者跨学科协作；推行以人为本 AI；提升 AI 透明度、伦理开发、安全机制；增强公众 AI 素养；长期监控系统可靠性。

1.7 本章小结

AI 从符号逻辑演进到深度学习、生成式大模型；技术能力飞速进步，同时伴随大量伦理法律社会挑战。可解释可信 AI 必不可少；AGI 前景诱人但充满不确定性；未来目标：AI 赋能人类，而不是损害人类，兼顾智能、安全、伦理、人类价值对齐。

第 2 章面向高级自然语言理解与生成的神经计算（Neural Computing for Advanced Natural Language Understanding and Generation）

作者：Mark Nuppnau, Khalid Kattan, Robert G. Reynolds 本章回顾大语言模型完整技术演进；讲解神经网络基础架构（感知机、多层网络）；依次讲解 RNN、LSTM、GRU、Seq2Seq、注意力、Transformer 底层原理；最后讨论 LLM 四大伦理问题：偏见、公平、隐私、幻觉，给出未来发展方向。

2.1 大语言模型发展历史

符号范式（自上而下）：早期 NLP 依靠手工编写语法、语义网络；代表 ELIZA、SHRDLU。缺点：需要大量人工工程，难以处理歧义、隐喻。
连接主义范式（自下而上）：McCulloch‑Pitts 神经元模型；感知机 Perceptron；Minsky 指出单层感知机无法解决异或 XOR 问题，神经网络研究沉寂。
反向传播 BP 算法复苏神经网络：80 年代反向传播算法可以训练多层感知机 MLP，拟合非线性问题。RNN、LSTM 出现，适配序列语言任务；但是长距离依赖、计算开销依然是痛点。
硬件革命：GPU 推动深度学习；预训练、迁移学习、自监督学习、强化学习技术成熟。
Transformer（2017）：抛弃循环，依靠自注意力彻底解决长距离依赖；催生 BERT、GPT 系列基础大模型，模型规模扩大带来涌现能力；基础模型（Foundation Model）预训练后微调适配多领域，支撑聊天机器人、智能助手。

2.2 神经网络架构基础：连接主义概览

McCulloch‑Pitts 神经元：模拟生物神经元，输入加权求和，达到阈值输出信号。
感知机 Perceptron：简单人工神经元；仅可以处理线性可分数据，通过调整权重完成二分类。给出感知机数学公式。
非线性激活函数：sigmoid；解决非线性可分数据集；
多层感知机 MLP + 反向传播 Back‑Propagation
- 损失函数：最小化预测输出与真实标签误差；
- 反向传播两步：①从输出层反向计算误差，更新输出层权重；②把误差传递到隐藏层，更新隐藏层权重；给出全套计算公式。
- 历史补充：Amari 早在 60 年代就提出使用随机梯度下降训练多层网络。

2.3 大语言模型：架构、训练与评估

2.3.1 基础 RNN 循环神经网络

普通前馈网络输入必须固定长度，无法处理文本这种可变长时序序列；RNN 引入循环状态，保存历史时序信息。Hopfield 网络、Jordan RNN 早期循环网络模型；RNN 时间维度展开示意图。

2.3.2 RNN 架构改进

Elman RNN：把反馈回路放到隐藏状态，提升上下文信息保存能力。
BPTT 时间反向传播算法：RNN 专用训练算法，沿时间步反向累积梯度；
RNN 固有缺陷：梯度消失、梯度爆炸。时间步很长时，梯度不断连乘趋向 0 或者无穷大；解决方案：AdaGrad 自适应学习率、梯度裁剪。

2.3.3 LSTM 长短期记忆网络

1997 Hochreiter & Schmidhuber 提出。新增细胞状态 cell state与三套门控机制：遗忘门、输入门、输出门。

遗忘门：控制丢弃哪些历史信息；
输入门：选择哪些新信息写入细胞状态；
细胞状态 CEC 恒定误差传送带：直连通路，梯度可以跨时间稳定传播，解决梯度消失爆炸；
输出门：决定细胞状态哪些信息输出到隐藏状态。附带全套数学公式；代价是参数量大，训练成本高。

2.3.4 GRU 门控循环单元

简化 LSTM，去掉独立 cell 细胞状态，只保留重置门、更新门，参数量更少，训练速度更快。权衡：性能略弱于完整 LSTM；适合算力有限、长依赖要求不极端的场景。

2.3.5 Seq2Seq 序列‑to‑序列模型

编码器‑解码器框架，机器翻译为代表任务：编码器把变长输入压缩成固定维度上下文向量 context vector；解码器读取上下文向量生成输出序列。

局限：固定长度上下文向量是瓶颈，长序列会丢失大量信息。
Bahdanau 注意力机制：不再只用单一固定向量；解码器每一步，对编码器全部隐藏状态计算权重，动态生成专属上下文向量。Luong 进一步区分全局注意力、局部注意力，提出点积、通用、拼接三种打分函数。

2.3.6 Transformer 架构

完全抛弃循环，多头自注意力 Multi‑Head Attention为核心；引入 Query 查询、Key 键、Value 值；缩放点积注意力 Scaled Dot‑Product Attention；多头把 QKV 投影多组子空间，并行捕捉句法、指代、长距离依赖多种语言关系。

位置编码 Positional Encoding：模型没有循环，不知道词顺序，添加位置编码注入时序信息。
Encoder 编码器：多头自注意力 + 前馈网络；残差连接 + 层归一化。
Decoder 解码器：掩码多头自注意力（屏蔽未来 token，不能看到还没有生成的词）、交叉注意力（读取编码器输出）、前馈网络。完整架构图解析；实现全部 token 并行计算，解决 RNN 串行速度慢的痛点。

2.4 LLM 伦理考量：偏见、公平、隐私、幻觉

2.4.1 偏见生成

区分：内隐偏见、证实偏见、自利偏见、现状偏见、社会制度偏见、统计偏见；AI 会复刻甚至放大训练数据中的各类偏见。举例：词嵌入中的性别刻板印象；翻译系统性别代词偏见；RLHF 可以部分缓解，但偏见无法完全消除。

2.4.2 公平与平等

LLM 大多基于英文互联网数据，对小语种、低资源语言效果差，加剧数字鸿沟；公平需要价值敏感设计、数据集参与式标注、算法审计、多元化标注人员，跨学科共同介入。

2.4.3 数据隐私与安全

大模型训练会记忆训练集中私人敏感信息；存在训练数据泄露风险，违反 GDPR 等法规；OpenAI 曾经发生会话历史泄露事故。防护技术：差分隐私、联邦学习；同时需要机构流程管控、提升用户 AI 安全素养。

2.4.4 幻觉与虚假信息

大模型本质是预测下一个 token，不是理解事实；会编造引用、文献、案例；现实案例：律师使用 ChatGPT 写法律文书引用不存在司法判例。危害：误导公众、现实人身财产伤害；缓解方案：检索增强 RAG、面向事实的微调；同时要提升用户辨别能力。

2.5 本章总结与未来方向

梳理 NLP 从感知机、RNN、LSTM、Seq2Seq 注意力到 Transformer 的完整演化；当前 LLM 缺陷：计算开销大、推理能力不足、偏见、幻觉。下一代大模型不能只扩大参数量；未来重点：多维度集成、跨模型推理输出对齐、隐私伦理公平对齐、垂直领域适配、提升智能体自主能力。

第 3 章大语言模型在文化遗产领域（LLMs in Cultural Heritage）

作者：Iosif Tsangko, Andreas Triantafyllopoulos, Bjoern W. Schuller 文化遗产 CH 包含物质文物（建筑、艺术品）和非物质遗产（传统、语言、集体记忆）。本章讲解 LLM 在文化遗产保存、数字化、解读、公众科普；技术原理、实际案例；无障碍设计；现存技术、伦理挑战与未来趋势。

3.1 引言

文化遗产保护面临自然损毁、战争破坏；数字化浪潮带来机遇。LLM 以及多模态模型 VLM 视觉语言模型、ALM 音频语言模型可以用于古文本数字化翻译、虚拟博物馆交互、语义检索、濒危语言保存。机遇：古文献转录翻译、多语言讲解、语义检索替代传统关键词检索、辅助考古历史研究；挑战：领域微调成本、输出偏见、敏感文化内容伦理风险。本章结构：3.2 底层技术；3.3LLM 能力与文化遗产适配；3.4 实际案例；3.5 无障碍应用；3.6 挑战、新兴方向；总结。

3.2 技术发展

NLP 技术演进总览表格对比 n‑gram、RNN、LSTM/GRU、Transformer、LLM 优缺点。

3.2.1 Transformer 注意力机制背景

多头注意力 MHA，每个头捕捉不同语言关系（句法、指代、长距离依赖）；Q/K/V 向量机制；和 RNN 对比：Transformer 可以并行处理全部 token，擅长长文本。

3.2.2 掩码预测预训练策略

BERT：掩码 token 预测，双向上下文；
GPT 系列：因果掩码自回归，只看上文预测下一个 token；解码器为主，侧重生成。

3.2.3 Transformer 多层注意力块的价值

低层网络捕捉词语顺序局部句法；高层网络捕捉主题叙事抽象语义；生成上下文嵌入，同一个词在不同上下文向量表示不同，区别 word2vec 静态词向量，对多语言、古文本意义重大。

3.2.4 示例：面向虚拟博物馆的文化自适应对话机器人完整流程

完整六阶段：

分词 tokenization；
多头注意力生成上下文表征；
掩码多头注意力完成内容生成；
跨语言语义对齐；
风格迁移：面向儿童简化 / 面向学者专业表述；
输出面向用户的多语言回答。以用户提问 “讲一讲苗族传统艺术” 演示全流程。

3.3 大语言模型在文化遗产中的作用

3.3.1 LLM 核心能力

机器翻译：支持低资源古代语言；借助迁移学习弥补古文献训练样本不足。
文本识别转录（搭配多模态 VLM）：弥补传统 OCR 缺陷。手稿破损、墨迹模糊时，VLM 结合历史语境补全残缺文字；案例：复原清代破损手稿、哥特中世纪拉丁文本。工作流：OCR 原始提取文本，LLM 做二次纠错补全。
内容生成与摘要改写：提示词工程调整文本复杂度，适配儿童、残障人士、普通大众；VLM 图文结合生成文物描述。Time Travel 基准：大模型结合档案数据库，复原丢失文物元数据，减少幻觉。
上下文分析与智能检索：语义检索替代关键词检索；研究者自然语言提问查询档案库，跨语言访问历史资料。

3.3.2 LLM 对于文化遗产保存的价值

降低档案处理人力成本，ArchGPT 自动解读遗产档案；辅助古希腊、古巴比伦古文字词性标注、句法解析。部分古语言 POS 词性标注准确率可达 96%。
博物馆虚拟导览、叙事生成，个性化访客体验。
语义检索打通不同机构分散档案。
抢救濒危语言，使用少数民族口头传统文本训练模型，助力语言复兴。

3.4 案例研究

四大应用主题分类：归档、理解、教育、保存。

3.4.1 古代文本数字化

方法：OCR+LLM 组合转录、翻译古代手稿；需要领域微调。
收益：大规模加速古籍数字化；复原残缺碎片文本，公开向公众开放；EvaLatin 项目验证 LLM 在拉丁语文献语言学研究价值。
局限：古语言数据稀缺，模型仍存在缺陷。

3.4.2 交互式博物馆展览

实现技术：预训练模型（GPT / LLaMA），使用博物馆自有藏品数据做指令微调；RLHF 人类反馈优化；提示词工程；构建对话机器人。可以模拟历史人物视角对话（毕加索示例）。
现实项目：Living Museum，大英博物馆百万藏品对话系统；
无障碍价值：为残障访客提供语音讲解。

3.4.3 跨机构协同研究平台

核心技术：RAG 检索增强生成、RAFT 检索增强微调、知识图谱增强语言模型 KG‑LM、本体标注、语义嵌入向量库。

价值：打通不同博物馆、档案馆异构数据；实现实体关联（文物、人物、地点、历史事件）；支持跨档案库语义查询；降低研究者手动查找文献负担。
案例：IICONGRAPH 图像学知识图谱，Maree 神经符号系统，结合文化遗产知识图谱完成语义推理。

3.5 使用 LLM 增强文化遗产领域无障碍能力

3.5.1 文本输入‑文本输出

将晦涩学术文物描述改写：儿童版本、普通大众版本；还支持现代语言逆向生成古文字（HieroLM 生成埃及象形文字）。

3.5.2 图文输入‑文本输出（VLM 多模态）

输入文物图片 + 原始文字，生成多层次描述；例如雅典娜雕像，可以同时输出儿童易懂版本和专家深度解析。

3.5.3 面向残障人群的个性化描述

视障用户：结合屏幕阅读器，提供文物纹理、尺寸、色彩细节；结合蓝牙 / 定位提供展厅导航指引。
认知障碍、神经多样性（自闭症谱系）：拆分长文本为简短片段；结构化分步交互，避免信息过载。遵循通用设计 UD 七大原则。

书中示例图：同一份埃及石碑原始文本，分别生成视障人士、普通非专家、儿童三套改写文案。

3.5.4 博物馆场景：元数据与用户行为信号

系统分析访客兴趣，动态推荐相关展品。

3.5.5 面向儿童、非母语者普惠访问

模型做适龄叙事；多语种翻译，服务低资源语言；FairyLandAI 儿童文化童话生成项目。ViAssist 为视障人士打造博物馆实时多模态辅助系统。

3.5.6 对话聊天机器人：从基础 LLM 到对话智能体

LLM 基础模型经过指令微调得到聊天模型；搭配向量数据库 LangChain 工具；
前沿方向：Agent 智能体系统，具备规划、记忆、调用外部工具 API，主动查询档案，自主完成多步骤文化研究任务。

3.5.7 RAG 检索增强动态生成

接入文化遗产数据库，回答时调取真实档案，减少幻觉；博物馆更新展品信息不需要重新微调模型，只更新向量库。

3.5.8 边缘群体文化娱乐

历史游戏、教育 APP，生成尊重原住民文化的叙事，减少刻板印象。

3.6 挑战与未来方向

3.6.1 技术、伦理隐私、资源挑战

技术：文化特异性、语言细微语义难以保留；通用评测指标 BLEU/ROUGE 不适合评估文化敏感度；微调带来灾难性遗忘；幻觉是头号痛点。
伦理隐私：训练数据带来文化偏见，容易强化少数族裔刻板印象；历史内容真实性风险；敏感档案数据隐私；差分隐私、联邦学习开销巨大。
资源约束：LLM 训练推理 GPU 算力、能耗高，中小型文博机构负担不起。

3.6.2 LLM 技术潜在进步方向

偏差抑制；模型压缩知识蒸馏降低算力消耗；超长上下文处理；持续学习；多模态能力增强；人机协同，AI 辅助专家而不是替代人类学者；开发适配文化遗产领域专用评测指标。

3.6.3 多模态模型 VLM、ALM

GPT‑4o、Gemini、LLaMA3.2；处理文本、图像、音频；端侧轻量化模型，支持手机本地博物馆应用。

3.6.4 新兴应用

文物虚拟修复；个性化交互式历史叙事；多模态数字策展人。

3.6.5 长期保护意义

打破语言壁垒，全球共享文化遗产；助力濒危语言复兴；个性化文化教育。
新伦理难题：AI 生成内容如何定义真实性、著作权；计算能耗的环境代价；必须文博专家、本地社群深度参与技术设计。

3.7 本章小结

本章介绍 LLM 底层技术；在文化遗产归档、解读、教育、保存多维度应用；案例包含古籍数字化、博物馆交互系统、协同科研平台；重点讨论无障碍普惠能力；同时明确技术局限、伦理风险。指出文博领域专家、本地社群必须参与 AI 系统研发，保证公平负责任使用大模型。

第 4 章大语言模型在教育领域：应用、挑战与实践案例

作者：Mahnaz Moallem, Hoda Harati, Suzhen Duan 本章覆盖高等教育、K‑12 基础教育、学习设计 (Learning Design，LD) 学科、教育科研四大板块，分析生成式 AI 给教育带来的机遇、现实矛盾，梳理全球机构政策、落地框架、课堂实证案例。

4.1 引言

2022 年底 ChatGPT 发布后，生成式 AI 迅速渗透教育全场景。大模型可以改造知识获取、教学流程、课程设计，同时带来学术诚信、偏见、隐私等一系列新问题。本章研究对象包含高等教育、K‑12 中小学教育、学习设计技术领域、教育学术研究；既要挖掘个性化自适应学习、自动化评估反馈等机会，也剖析伦理风险，探讨负责任使用 AI 的路径。

4.2 生成式 AI 对高等教育（HE）的影响分析

高等教育原本已经经历教学范式转型：建构主义、社会学习理论推动，从传统满堂讲授转向以学习者为中心，项目式学习、翻转课堂普及。但现实约束依旧突出：

大班授课，教师很难给每一位学生提供个性化指导；
海量文献资料，学生筛选、消化信息认知负担很重；
定制化教学材料、真实性评估需要投入大量时间。

LLM 出现之后加速数字化转型，带来个性化、内容快速生成、效率提升，但也冲击高校传统知识守门人、考核评价模式。

4.2.1 应对生成式 AI 革命：高等教育的适应历程

4.2.1.1 学生、教师、院校三方态度

学生群体：普遍快速接纳大模型，用于作业构思、文献总结、答疑、写代码、备考。虽然认可工具价值，但内心存在道德不安，担忧触犯学术诚信规范。
教师群体：态度二元分化。早期很多教师主张直接禁止 AI，担心作弊抄袭；理工科、医学教师接受度高于人文社科、商科；教师自己会使用 AI 做备课、头脑风暴，但对学生使用心存顾虑。
院校层面：早期很多机构直接禁用；后续认识到禁止不切实际，转向三大举措：制定政策文件、教师专业能力发展、资源投入分配。

4.2.1.1 政策制定

OECD、联合国教科文组织 UNESCO、罗素集团、美国高等教育质量保障局等机构出台指引，高校政策需要覆盖八大核心原则：

透明度：披露 AI 训练数据；
可解释性：解释 AI 输出的决策逻辑；
公平与偏见治理：识别、缓解输出刻板偏见；
问责制：明确 AI 生成内容的署名、事实核查责任；
安全稳健性：输入输出持续测试监控；
隐私与数据保护：遵循 GDPR 等人权原则；
人的监督：界定 AI 自主使用边界，高风险场景强制人类审核；
以人为本对齐：AI 是教师学生的辅助工具，不能替代人际交互。

现实痛点：制定政策需要专业人力与经费，很多院校资源不足，伦理困境、数字鸿沟持续存在。

4.2.1.2 教师专业发展与支持

技术接受模型 TAM 可解释教师采纳行为：感知有用性、感知易用性决定是否愿意使用 AI；除此之外 AI 素养、风险感知、社会伦理问题也会显著影响决策。院校解决方案：开设工作坊、线上课程；设立 AI 支持小组；通过项目资助激励探索；鼓励各院系结合学科特点细化 AI 使用指引。

4.2.1.3 资源分配

落地 GenAI 需要算力、云基础设施、AI 专家、伦理政策顾问；同时经费要投入教师培训，保障全体学生公平可及，避免加剧数字鸿沟。

4.2.2 高等教育中 GenAI 实际使用场景

四大定位：

教与学助手：生成教学素材、测验、模拟虚拟实验；利用学习分析分析学生表现，调整教学策略；
科研助手：科研选题、文献综述总结、研究方法建议；
写作助手：语法、结构修改，辅助锻炼论证、批判性思维；
个性化学习助手：针对学生背景定制习题、学习任务，辅导作业。

局限：这些应用依然要面对教学层面（幻觉、偏见、不透明）、伦理（学术诚信）、技术（公平获取）、实操（评估监控）多重挑战。

4.2.3 高等教育 GenAI 采纳整合的理论框架

Chan 的 AI 生态政策框架，分为三大维度
- 教学维度（教师主导）：重构考核方式、培养学生综合能力、面向 AI 时代就业、平衡 AI 使用；
- 治理维度（高校管理层）：学术诚信、伦理、AI 治理、技术评估、公平性；
- 运维实施维度（教学团队 + IT）：监控评估 AI 落地、师生 AI 素养培训、保障平等访问。
4E 模型（Shailendra 等）
- Embrace 接纳：明确院校采纳 AI 的愿景，修订政策；
- Enable 赋能：开发 AI 友好课程、学术诚信规范、教师培训；
- Experiment 实验：迭代新课程与评价方式，收集反馈；
- Exploit 推广：成熟方案全校规模化落地。

其他补充模型：PAIR 模型、AI 素养五阶段模型、IDEE 模型、TPACK 模型，更多聚焦单门课程层面。

4.3 PK‑12 基础教育系统对生成式 AI 的响应

K‑12 场景与高等教育有明显差异：模型大多有年龄限制；教育界首要关切是公平数字鸿沟、神经多样性学习者需求；把 AI 放置在计算机思维、AI 素养课程框架之下，坚持教师为中心、人在回路。

美国：教育部发布多版报告；ISTE、TeachAI 非营利组织提供教师工具包；各州出台政策，开展教师培训试点。
全球多国：UNESCO 发布 K‑12 政策指南；欧盟发布教学伦理指引；芬兰把 AI 素养纳入课标；澳大利亚出台安全使用指引；韩国将 AI 纳入国家数字教育战略。

4.3.1 PK‑12 实际应用案例

创意写作：辅助构思故事，为写作困难学生提供脚手架；
STEM 学科：AI 聊天助手讲解理科题目，提升低成就学生、女生学科兴趣；
教师备课：生成教案、作业、实验指导，产出分层教学材料；
项目式学习：结合文生图工具完成小组创作。

现实阻碍：教师培训不足、设备资源不均、伦理风险。

4.4 学习设计（LD）与技术领域下的大语言模型

4.4.1 学习设计学科概述

学习设计 LD 是交叉学科，融合认知科学、教学设计、用户体验、学习分析；目标设计以学习者为中心、可及、公平的教学系统。大模型到来之后，学习设计师的角色发生变化：需要和 AI 协同创作，掌握提示工程、伦理 AI 使用、解读 AI 输出。

4.4.2 GenAI 对学习设计范式的冲击

自动化完成大量重复性工作，设计师可以把精力投入创新、情感交互、伦理决策；但 AI 会简化复杂人类学习过程，因此人类设计师依旧占据核心主导地位。

4.4.3 GenAI 在学习设计中的各类应用场景

内容开发与素材整理：辅助调研主题、总结资料、生成初稿，设计师必须事实核验；
生成数据驱动洞察：分析问卷、学习行为数据，识别学习者痛点；
定制学习目标：结合学生历史表现产出可衡量学习目标；新手设计师不能直接依赖 AI，要先掌握写学习目标的基本功；
定制化学习策略：根据问题生成适配学习者的教学策略；
自动化反馈与形成性评价：即时反馈学生作业，减轻教师负担；
无障碍与包容性设计：翻译、文本转语音，把复杂概念简化，服务残障、非母语学习者。

4.4.4 课程实践案例：美国中大西洋地区高校《教学设计与开发》研究生课

2 个教学班，合计 20 名学生，7 周异步线上课。课程改造：在需求分析、学习者分析、任务分析环节引入 GenAI。

训练学生提示词工程；学习者分析报告提交教师评审；需求分析同学互评；任务分析交给 AI 获取反馈。
调研结果：教师反馈深度、质量最高；同伴反馈有参考但水平参差不齐；AI 反馈优点是速度快、针对性修改建议；缺点是缺少上下文深度，学生对 AI 可信度存疑。

结论：未来学习设计师必须掌握提示工程、解读 AI 输出、伦理 AI 使用的新能力。

4.4.5 挑战与风险

幻觉风险：AI 输出教学内容可能错误，必须专家核验；
偏见复刻训练数据，产出不公平教学设计；
隐私风险：学习者敏感数据输入 AI；
从业者技能缺口，原有知识体系需要更新；
黑盒，输出过程不可解释。

应对：配套伦理隐私培训，完善基础设施，提升 AI 素养。

4.5 GenAI 推动教育学术研究进步

LLM 赋能教育科研的应用方向：

系统文献综述：批量阅读、总结文献；风险：引用、事实容易出错，必须人工核查；
数据收集与分析：音频转录、定性研究编码、主题挖掘；定量分析方面应用还比较少；
科研构思执行：帮助生成研究问题、访谈提纲、研究方案；
预测、描述性分析与可视化：写数据处理代码，生成可视化图表。

引用丹麦 2534 名科研人员大规模调研：

语言润色、数据分析普遍被视作合理研究行为；
实验设计、同行评审争议很大；合成数据、图像生成分歧突出；
青年研究者使用大模型频率高于资深研究者；不同学科使用态度存在差异。

重要声明：本书作者在写作时，也使用 ChatGPT、Grammarly 做润色，全部内容经过人工审核，作者对全文承担最终责任。

4 本章小结

生成式 AI 给高等教育、基础教育、教学设计、教育科研带来巨大机遇，但是幻觉、偏见、学术诚信、数字鸿沟问题无法忽视。不能简单全盘禁止，需要政策、教师培训、课程改革同步推进，培养师生 AI 素养，建立人在回路的使用模式。

第 5 章大语言模型时代的医疗健康：放射学视角

作者：Rikhiya Ghosh, Shima Asaadi, Sanjeev Kumar Karn, Ullas Ullaskrishnan, Oladimeji Farri 以放射科作为高风险医疗领域样本，研究 LLM 在医学影像报告、多模态问答、医疗设备网络安全、临床辅助决策的应用，重点强调幻觉对患者生命安全的威胁。

5.1 引言

Hinton 曾经预言神经网络会超过放射科医生解读影像，该预言没有如期兑现；现在大模型发展重新引发讨论。放射学融合影像、病历文本、基因组等多源信息。 LLM 在放射学应用方向：报告自动生成与标准化；多模态问答；医疗设备漏洞自动评估；临床辅助决策。 核心致命风险：幻觉。多项实证测试显示，即使最优后处理，幻觉最低依然达到 23%；会编造症状、诊断，带来误诊、法律伦理后果。因此医疗场景适合做细分限定任务，全部输出由放射科专家人工核验。开篇提出四大研究问题：

哪些模型、提示策略适合放射学任务；
LLM 解决方案现实可行性与固有局限；
放射领域应当使用什么数据集做基准评测；
如何改进模型适配医疗场景。

5.2 面向特定领域 LLM 的常用技术路线

提示工程、检索增强生成 RAG；
DAPT 领域自适应预训练：用领域数据继续预训练；
IFT 指令微调 Instruction Finetuning；
PEFT 参数高效微调（LoRA 为代表），只训练少量参数，节约 80‑90 算力；其他补充：集成学习、知识注入、迁移学习、数据增强、强化学习。

5.2.1 LLM 评测指标

通用文本生成指标：BLEU‑4，ROUGE‑L，BERTScore；
放射学领域专用指标：F1‑CheXbert（X 光病理观测），F1‑RadGraph（放射实体与关系匹配）。

5.3 Synoptic AI：使用 LLM 结构化放射数据

放射报告大多是非结构化自由文本，不同医生措辞差异巨大，阻碍电子病历 EHR 互通，不利于大规模数据分析。 Synoptic AI 目标：把自由文本报告转换为基于CDE 通用数据元素的标准化机器可读格式。

旧方案：关键词、规则 NLP，维护成本极高；传统机器学习跨机构泛化差。
实验对比：RadLing（放射领域预训练模型） vs GPT‑4 通用大模型，基于 1399 份匿名胸片报告测试集。
- RadLing 特征提取 F1=0.97，CDE 标准化 F1=0.98；区分 “明确不存在病变” vs “报告没有提及” F1 高达 0.99；
- GPT‑4 特征提取 F1=0.78，区分有无未提及病变仅 F1=0.64。

结论：领域适配模型显著优于通用大模型。未来方向：拓展 CT、MRI 等更多模态；推动 RadElement 标准跨医疗机构落地。

5.4 放射报告生成与摘要

放射报告分为 Findings 发现部分（描述影像异常）、Impressions 印象总结部分。任务分为：由影像生成 Findings；由 Findings 生成 Impressions 摘要。

难点：不同医院报告风格差异、数据集人群不均衡、幻觉漏检病灶。
案例模型 RadBloomz：基于 Bloomz‑7B，使用 MIMIC‑IV 放射报告做 DAPT 领域预训练；再指令微调。参加 RadSum23 国际共享任务，在 MIMIC‑III 数据集拿到第一名。
实验发现：单纯 DAPT 领域预训练，零样本效果甚至优于部分任务微调版本。
现存短板：模型输出的详略程度不稳定；n‑gram 类自动评测指标无法识别语义等价的医学表述。

5.5 医学视觉问答 MedVQA

多模态视觉语言模型 VLM，输入医学影像 + 自然语言提问，输出回答。

挑战：高质量医学图文配对数据集稀缺；通用 VLM 不理解医学术语；图像‑文本语义对齐困难。
模型架构：视觉编码器 + 可学习 Query Transformer 融合模块 + 领域适配 LLM（RadBloomz）；使用 LoRA 微调。训练分三阶段：图像字幕预训练 → MedVQA 适配 → 下游数据集微调。
数据集：VQA‑RAD，SLAKE。V‑ViT‑RadBloomz 在 SLAKE 1.0 取得 SOTA；但开放类问答依旧表现有限。

启示：医疗多模态任务，领域适配 LLM 比通用 LLM 效果提升明显。

5.6 LLM 用于医疗设备网络安全

医疗放射设备容易遭受网络攻击；厂商需要持续监控 CVE 漏洞库、CWE 弱点库、CAPEC 攻击模式库。人工评估漏洞消耗大量专家人力。开发 CVE‑LLM，基于开源 MPT‑7B 模型，先做 DAPT（35 万漏洞文档），再指令微调（20.8 万份厂商私有漏洞评估记录），离线部署。任务包含：分类资产是否受漏洞影响、生成内部 / 客户注释文本。评测：CVSS 向量 F1 最高 0.97；注释 ROUGE‑L 0.7‑0.88。输出全部交给网络安全专家复核，反馈数据回灌数据集迭代模型。

5.7 LLM 在放射学的其他应用

临床决策支持 CDSS：从文献、病历提取证据，做预后、风险分层、鉴别诊断；风险：模型过度自信输出错误诊断、Einstellung 定势效应、对少数族裔存在偏见；
报告错误检测与质量保证：识别语音转录错误、报告内部前后矛盾、数值不一致；仅作为 AI 校对，放射科医生最终确认；
分诊与优先级排序：自动标记危急报告，优化阅片工作流；多数原型尚未完整接入 PACS/RIS 系统；
面向患者沟通科普：把专业报告改写通俗语言，回答患者疑问，多语言翻译；局限：缺少共情，信息错误会直接误导病人。

5.8 本章总结

放射领域 LLM 擅长做重复性辅助任务，解放医生精力；不能替代放射科医师，必须坚持人在回路校验。领域自适应预训练 DAPT 可以显著降低幻觉；医疗系统优先本地离线部署开源模型，规避公有云隐私泄露。未来多模态交互式对话是重要方向，同时要持续重视伦理、监管、患者安全。

免责声明：书中相关研究原型尚未实现商业化，无法保证产品化落地。

第 6 章变革视觉传播：大语言模型在媒体内容创作中的作用

作者：Tina Korani 本章聚焦媒体、视觉设计行业，同时重点面向设计教育；结合教师调研、4 个课堂教学实验案例，研究人机协同创作模式，探讨版权、刻板印象、创作者职业发展。

6.1 引言：人类创造力与 AI 交汇

类比摄影艺术诞生：摄影没有消灭绘画，而是解放艺术走向印象派。AI 生成工具同样不是消灭创意，而是改变创作分工；AI 是增强媒介，而不是完全替代人。作者基于教师问卷、课堂对照实验、行业访谈，提出人机协同设计流水线，强调人的创意主导地位。

6.2 协同创作流程框架：AI‑Human 设计流水线

四阶段循环闭环，不是简单把任务丢给 AI：

Human Direction 人类定向：设计师确立愿景，精心撰写提示词；需要做前期调研，把脑中想法转化为可描述提示，这是设计师新核心技能。
AI Generation AI 生成：AI 快速产出大量备选方案，拓展创意可能性。
Human Evaluation 人类评估：人审美判断、筛选；AI 输出的意外结果也可以反过来激发人的灵感。
Human Finalization 人类定稿：人类整合素材，把控叙事、美学，完成最终作品。

核心结论：AI 产出永远只是草稿，创意愿景、审美决断权掌握在人类手中。

6.3‑6.11 研究方法：教师问卷 + 课堂实验及启示发现

调研 36 位高校设计专业教师：

79.3% 教师使用 LLM 做头脑风暴构思；
97.2% 教师认为 AI不会取代人类视觉设计师；
61.1% 教师会给学生提供 AI 伦理使用指南；
44.4% 院校还在制定正式政策，22.2% 交由任课教师自行决定。

教师的两种矛盾担忧：一方面 AI 可以打破空白画布综合症，帮助学生打开思路；另一方面担心造成思维懒惰、作品同质化、冲击从业者岗位。选取四个典型教学案例。

案例 1：音乐节海报设计，多 AI 工具横向对比

广告专业本科生，使用 DALL‑E、Firefly、Midjourney、Stable Diffusion、Canva Magic Design，为虚构音乐节做海报。统一提示词，每个工具产出 20 份。 主要发现

AI 擅长视觉风格，但是文字排版、拼写大量出错；（新版本工具该问题有改善）
同样提示，不同模型输出差异巨大，模型本身带有固有偏向；
提示词细节越丰富，输出质量越高；
风险：训练数据会输出文化刻板印象，例如 “墨西哥朋克音乐节” 生成带有暴力符号的偏见图像。

教学启示：学生需要培养算法批判性素养（critical algorithmic literacy），重点提升判断力，而不是只会操作软件；传统设计基本功不能丢弃，要学会识别 AI 输出的缺陷；必须训练识别图像里的文化偏见。

案例 2：时间压力下的 AI 使用，logo 设计限时实验

20 名不同专业学生，15 分钟完成 UPS 品牌 logo，要求体现 “可靠、专业、简洁”。学生分化为三类群体：

拥抱 AI 组：用 AI 快速产出大量概念，作为头脑风暴工具；
尝试后放弃 AI 组：AI 输出达不到设想，时间紧张，切换传统工具；
完全回避 AI 组：出于职业身份认同、伦理顾虑拒绝生成工具。

发现：部分低年级学生因为对 AI 行业前景焦虑，甚至直接更换自己大学主修专业；有经验的设计者更多把 AI 视作处理重复劳动工具，新手更容易产生职业恐慌。教学启示：AI 素养不只是会用工具；伦理、创作真实性、职业焦虑都需要放到课堂公开讨论。限时压力场景会放大工具使用差异。

案例 3：旧与新（Something Old, Something New），人机输出对照项目

Joshua Duttweiler 教授课程项目。阶段：

明确 AI 政策、版权、学术诚信边界；
工作坊实操，对比多个 AI 平台，练习提示迭代；
学生挑选自己熟悉的任务，完整写下人类操作步骤，同时让 AI 生成同一套操作图文；
使用双色 Risograph 印刷小册子，一边人类产出，一边 AI 产出，并排对比，课堂汇报差异。

核心发现：AI 输出技术上正确，但是缺少人类实践得来的默会知识（tacit knowledge）；无法理解口语化、比喻性表达（例如折纸 “热狗式折叠”）。教学亮点：评价重心从最终成品转向思考过程；利用印刷介质差异，让学生直观感受人机产出的物质性区别。

案例 4：从提示词到成品 Prompt‑to‑Production 工作坊

Jason Porter 开发，目标训练学生 “AI 艺术指导能力”，而不是只会写提示词。

工作坊 1：逆向解析图像，拆解提示词公式；
工作坊 2：GenAI 影响三角模型：提示文本、风格参考图、构图参考图；同一时间通常只能两个要素主导生成；
工作坊 3：AI 图像 → AI 生成视频 → 传统后期剪辑，完整生产流水线。

学生要学会把 AI 嵌入完整生产链路，而不是把 AI 当作黑盒一键产出最终作品。

6.12‑6.16 行业视角：访谈 NVIDIA 高级开发者倡导者 Jay Rodge

LLM 在专业内容生产：写视频简报、创意大纲；企业依靠 RAG 注入企业私有品牌资料，生成营销物料；
GPU 加速对生成式媒体至关重要；工具栈：LM Studio、ChatRTX、NVIDIA NIM；
未来展望：视频大模型会进一步改变创意迭代流程。

6.17 本章结论

AI 重新分配创意劳动，不是消灭创意岗位。设计教育不能简单教提示词，核心目标：

把学生培养成批判性协同创作者，而非 AI 输出被动接收者；
教学评价重视过程而非仅仅成品；
版权、文化偏见、原创伦理融入日常课程；
人类不可替代的价值：共情、语境理解、伦理判断、审美直觉。

未来胜出的创意从业者不是写最好提示词的人，而是懂得指挥 AI 的人。

第 7 章使用大语言模型变革软件工程与软件采购

作者：John E. Robert, Ipek Ozkaya, Douglas C. Schmidt 研究 LLM 在完整软件开发生命周期 SDLC 的机遇、风险；区分普通业务软件和安全关键软件；同时讨论软件采购场景。

7.1 引言

软件已经渗透交通、医疗、国防；安全关键软件对可靠性、安全性要求极高。软件开发本身重复繁琐、容易出错。AI 既是软件工程产物，又反过来成为软件工程工具。本章分析 LLM 在 SDLC 各个阶段的适用性、收益、风险。

7.2 AI 在 SDLC 中不断扩张的角色

划分四类系统‑开发组合象限：

传统系统，传统 SDLC：无 AI 增强，大部分现有项目现状；
传统系统，AI 增强开发流程：业务系统本身不含 AI，但开发工具使用 AI（Copilot 等代码助手）；
AI 增强系统，传统 SDLC：产品运行时包含 AI 模型，但依旧使用敏捷等传统流程开发；
AI 增强系统，AI 增强 SDLC：运行时是 AI 系统，同时开发全链路使用 AI 工具，自动驾驶系统是典型代表，行业演进大方向。

重点：即便使用 AI 工具，代码评审、清单核查等传统最佳实践依然不可或缺，必须保留人在回路。

7.3 LLM 在 SDLC 各个阶段的应用、机会与风险

7.3.1 需求阶段 Requirements

活动：需求收集、编写 SRS 软件需求规格说明书、识别冲突、需求优先级排序。
✅ LLM 可以：生成需求初稿、生成用例、做一致性与缺失项初筛、把自然语言需求转为结构化格式。
⚠️ 局限：输出只是草稿；领域专有知识容易幻觉；必须领域专家审核确认全部需求。

7.3.2 架构与设计 Architecture and Design

产出：架构设计记录 ADR、架构文档 SAD、接口控制文档 ICD。
✅ LLM 可以：头脑风暴架构备选方案；生成 UML、流程图；解读已有架构文档。
⚠️ 现状研究：该方向研究还不算多；架构决策幻觉风险高，版权风险，不能直接采纳 AI 给出的架构。

7.3.3 实现阶段 Implementation

编码、注释、代码评审、重构。
✅ LLM 优势场景：代码补全；自动写注释；辅助代码审查、漏洞初筛；不同语言代码转换；生成原型示例代码；帮助新手学习框架 API。GitHub Copilot、CodeWhisperer 代表工具。
⚠️ 风险：生成代码包含隐藏漏洞；编造不存在 API；训练集开源许可证带来版权风险。所有 AI 生成代码必须人工审阅 + 完整测试。

7.3.4 测试与评估 Testing and Evaluation

✅ 生成单元测试、集成测试用例；代码漏洞初筛；对比测试报告与需求文档，识别不一致。
⚠️ 局限：无法保证覆盖全部安全边界条件，只能作为辅助。

7.3.5 部署 Deployment

✅ 生成部署脚本 YAML；日志总结，异常告警识别。
⚠️ 脚本依旧要经过测试评审。

7.3.6 政策、标准与合规（跨全部 SDLC）

✅ 大模型辅助解读法规、标准文档；初筛文档、代码是否符合规范。
⚠️ 高合规行业不能完全依赖 AI 判断。

SDLC 应用分层（三层模型）

局部 Localized：LLM 仅作用于单个阶段，阶段之间没有协同；
跨职能 Cross‑functional：LLM 在多个阶段之间协同流转信息；
编排 Orchestration：AI 智能体贯穿完整 SDLC 全流程，属于未来远景，尚未大规模落地。

风险评估二维框架

纵轴：AI 输出出错造成后果严重程度（低→高）；
横轴：检测 AI 错误需要投入时间精力（容易发现→很难发现）。

航空电子、医疗设备、核电控制属于高风险域：一旦出错灾难性后果，错误又难以发现；这类场景对 LLM 使用要极度保守。社交软件、普通消费工具属于低风险域，容错度更高。

7.4 本章结语

LLM 极大提升软件工程生产力，但幻觉、漏洞、版权风险持续存在。组织应当小范围试点，循序渐进引入；把 AI 作为协作伙伴，而不是替代工程师；安全关键系统必须坚持完整人工审查流程。

可参考的变革管理理论：技术接受模型 TAM、创新扩散理论、DevOps CALMS 框架。

第 8 章使用大语言模型检测和修正软件保障文档的不完备、不一致与矛盾

作者：John E. Robert, Ipek Ozkaya, Douglas C. Schmidt 面向航空航天、医疗设备等高安全关键软件。软件保障文档（需求、接口、测试说明）质量直接决定系统安全；文档会出现三类缺陷：不完备、不一致、矛盾。

8.1 引言

软件迭代更新经常出现：代码已经修改，但文档没有同步更新；多人协作编写文档，术语理解不一致。三类缺陷定义

不完备 Incompleteness：缺少边界条件、异常场景描述；
不一致 Inconsistency：同一份文档不同段落互相冲突；
偏差矛盾 Discrepancy：文档描述和真实系统实现行为不匹配。

传统方案痛点：人工审阅成本巨大；正则、关键词规则只能处理字面文本，理解不了语义。LLM 可以理解自然语言长文本，适合做初筛，但幻觉会产出虚假矛盾报告。案例素材来自无人机航电系统全套保障文档。

8.2 软件保障文档缺陷来源与传统处理手段

缺陷来源：版本不同步、多作者理解差异、项目工期紧张缺少评审。传统工具局限：形式化验证工具需要把自然语言转为形式逻辑，成本极高，很难大规模落地。

8.3 适配 LLM 的工作范式

三种使用范式：

零 / 少样本提示：简单，幻觉高，假阳性多；
RAG 检索增强生成：文档切块存入向量库，推理只引用文档内部信息，减少引入外部知识带来幻觉；
领域微调：需要高质量标注缺陷数据集，现实中稀缺。

核心铁律：LLM 输出的是候选缺陷清单，不是事实结论，必须工程师逐条人工确认。

完整实操工作流：

预处理：清洗文档，分块，记录章节元数据；
RAG 检索，限制模型只能使用文档内部信息；
强约束提示词：要求模型区分【明确冲突】【信息缺失】【信息不足无法判断】，输出引用原文位置；
后处理过滤明显不合理报告；
工程师人工闭环核验；核验结果反馈用于迭代提示 / 微调模型。

8.4 实验与现实局限

使用无人机航空电子文档开展实验：LLM 确实能发现部分跨章节语义冲突，识别部分缺失异常场景；但是大量假阳性（报告不存在矛盾）；对于需要多步深度逻辑推导的隐性不一致识别效果很差；超长文档会受到上下文窗口限制。

8.5 本章小结

LLM 适合做软件保障文档的初筛工具，把人工工作从大海捞针通读全文，转变为审核候选缺陷；但不能替代专家评审。未来方向：构建高质量领域标注数据集，优化长文档语义比对，降低假阳性，和现有需求管理系统集成。

第 9 章大语言模型：网络安全、隐私与信任

Large Language Models: Cybersecurity, Privacy, and Trust 作者：Abbas Moallem, Wojciech Cellary, Krzysztof Walczak

9.1 引言

AI 的源头可以追溯 McCulloch‑Pitts 神经元模型（1943）、图灵 1950 机器智能论文；1956 达特茅斯会议确立人工智能术语。受算力约束，早期进展缓慢。2017 年 Transformer 架构诞生，2022 年末 ChatGPT 发布，成为史上增长最快消费级软件，用户破亿，OpenAI 估值大幅提升。大语言模型属于 NLP 子领域，归属于生成式 AI，能够大规模生成文本、图像、音频。 LLM 给个人、企业、政府、教育机构带来便利，但同时在网络安全、隐私、信任层面产生显著负面影响。本章梳理上述领域各类问题，结尾讨论用户认知与未来展望。

9.2 与 AI 聊天机器人交互

聊天机器人是模拟、处理人类对话的程序，输入可以是文本，也可以语音转文本。简单机器人只能返回单行固定回答；高级数字助手可以持续学习，随信息处理实现更高个性化。人与 AI 聊天机器人交互的底层是 NLP，应用场景包含聊天助手、客服系统、自动驾驶等。同样的需求，人类会有多种表述方式；部分场景用户会被训练按照特定范式输入。提示工程（prompt engineering）就是设计、优化输入指令引导模型输出；提问措辞会极大改变返回结果。

9.3 提示工程

提示工程指开发、优化提示，高效使用 LLM。书中举例对比模糊提问与具备角色、场景、约束的精细化提示，后者产出更具体可用回答；图像、音频生成任务同样适用。提示工程有两个核心要点：

和搜索引擎存在本质区别：搜索引擎输入关键词即可；LLM 提示需要提供完整上下文，交代场景、人物、时间、要求等要素。Transformer 迭代处理信息，上下文是获取准确输出的关键。
优质交互是迭代对话：拿到第一轮输出后，用户继续追问细节、修改条件，通过多轮对话持续优化回答质量。医疗、安全、教育领域都已经形成提示工程相关指南。

9.4 用于网络攻击的内容生成

聊天机器人可以完成文本撰写、写代码、调试、多媒体生成，提升组织生产力；但攻击者同样可以利用这套能力。攻击者的典型用途：生成垃圾邮件、社会工程话术、漏洞 POC。现实中出现过 WormGPT 这类面向网络犯罪分子的恶意定制聊天 bot。 LLM 生成的代码本身就存在安全缺陷，GitHub Copilot 早期研究显示约 40% 生成代码存在安全问题，缺乏编程知识的开发者使用会引入风险。厂商防护手段：内容过滤、日志监控滥用模式、访问权限管控、速率限制、异常检测、提示工程约束。但是已经出现大量技术可以绕过厂商防护。

9.5 越狱（Jailbreaking）

“越狱” 原本指绕过设备原厂限制（例如 iPhone 越狱）。 AI 语境下的越狱：通过提示手段诱导生成式 AI 完成设计者原本禁止的行为。根源是架构层面，模型无法区分开发者系统指令与用户输入指令。 依靠对抗提示，给模型提供训练未曾覆盖的特殊场景上下文，绕过安全护栏。越狱攻防具备两面性：

进攻侧：攻击者绕过伦理约束，获取有害输出，生成钓鱼内容、恶意载荷、恶意代码；
防御侧：安全从业者利用越狱手段做威胁情报研究，挖掘系统潜在漏洞。

注意区分概念：越狱≠直接提示注入；越狱可以包含直接提示注入，也可以利用系统缺陷、其他漏洞实现。

9.6 提示注入（Prompt Injection）

IBM 定义：针对大语言模型的网络攻击，攻击者将恶意指令伪装成合法输入，操控生成 AI，造成数据泄露、传播虚假信息等后果。模型底层缺陷：无法区分原始系统提示和用户输入指令。分为直接提示注入、间接提示注入。

9.6.1 直接提示注入 Direct Prompt Injection

用户直接输入精心构造指令，绕过内容审核，改变模型行为。典型案例 DAN（Do Anything Now）提示，强制模型输出两套回答，一套正常合规回复，另一套输出被禁止的建议、敏感信息。攻击者借此调用后端不安全函数、访问内部数据存储。

9.6.2 间接提示注入 Indirect Prompt Injection

攻击者将恶意提示嵌入外部文档、网页等外部来源，模型读取外部内容之后被劫持。恶意指令不需要人类肉眼可读，模型解析就会生效。可以实现 “感染攻击”：把恶意指令植入训练数据，当模型读取该数据就触发异常行为，诱导幻觉、泄露信息。

9.7 社会工程 Social Engineering

社会工程是心理操纵手段，诱导人做出某些行为、泄露机密信息，用于非法访问系统、欺诈、工业间谍、身份窃取。
LLM 极大降低社会工程攻击门槛：可以快速生成高度定制诈骗邮件、诈骗话术。实验表明，AI 完成一份高欺骗性钓鱼邮件仅需 5 分钟，人工团队需要约 16 小时；虽然人类撰写钓鱼邮件欺骗感有时候更强，但 AI 的效率优势巨大。结合提示注入技术，攻击者可以规模化产出电话脚本、短信诈骗内容。垃圾邮件过滤器、恶意代码检测工具很难识别 AI 生成变体内容。

9.8 数据保护 Data Protection

聊天机器人大规模应用带来敏感用户信息保护难题。LLM 训练需要海量数据，包含大量用户数据，系统面临数据泄露风险。
案例：OpenAI 内部系统遭黑客入侵，泄露 AI 技术设计资料；企业员工无意把内部源代码粘贴到 ChatGPT 造成泄露。
攻击手段：专门构造提示诱导模型从历史对话提取姓名、身份证、支付卡号等隐私信息。
附加风险来自插件生态：XSS 跨站脚本、插件漏洞被利用，窃取插件凭证，入侵关联账号，威胁个人与组织安全。

9.9 数据泄露 Data Breach

LLM 高度依赖训练数据集，互联网公开数据包含大量个人信息，成为黑客攻击高价值目标。
真实事件：三星工程师在写代码任务中将内部源代码、硬件会议记录输入 ChatGPT，造成企业机密泄露；OpenAI 2023 Redis 库漏洞，部分用户可以看到其他陌生人聊天标题。
临床医生等从业者可能把患者病历输入公有大模型，很多使用者没有意识到输入内容有可能被用于后续模型训练。随着 LLM 普及，数据泄露事件风险会进一步放大。

9.10 数据隐私 Data Privacy

训练数据集包含大量公开的个人对话、社交媒体信息；谷歌、OpenAI 都通过爬虫抓取互联网公开内容训练模型（Reddit、Facebook、Quora 等平台，除非设置反爬虫阻止抓取）。
研究实验：即便经过 RLHF 微调，GPT 仍然有 57% 概率泄露隐私信息，人类对照组为 39%。
额外风险：模型可以把分散各处碎片化个人信息聚合，生成完整个人画像；画像被滥用用于身份盗窃、金融诈骗、勒索、歧视、骚扰。
社交媒体、大模型叠加，假新闻、虚假信息影响力提升，会干预公众认知、选举、科学舆论。LLM 对公众行为的塑造，是重要研究方向。

9.11 内容所有权与版权 Content Ownership and Copyright

ACM、IEEE 学术出版规范不允许将 AI 列为论文共同作者。生成式 AI 版权争议核心：模型训练大量使用受版权保护素材。美国版权局规定，只有人类创作的作品才具备版权，非人类主体不能获得版权。开放问题：

人与 AI 协同产出内容的著作权归属；
模型学习大量已有作品，多大程度构成侵权；
AI 输出和现有文本高度相似，构成抄袭，带来法律风险。

9.12 伦理与社会影响 Ethics and Societal Impacts

训练数据收集合法性存疑；网络来源数据溯源困难，导致输出原创性、真实性难以核验。
虚假信息区分：误报信息 misinformation（无意传播虚假）；蓄意造谣 disinformation（故意编造欺骗公众，用于选举游说等）。
未成年人风险：意大利曾经临时暂停 OpenAI 数据处理，原因是缺少年龄校验，儿童接触有害内容，数据处理违反隐私法规。
身份真实性危机：AI 生成人物照片冒充作者身份（案例《Forager’s Harvest 101》作者头像为 StyleGAN2 合成），在野外生存、医药等高危主题，虚假 AI 创作会直接威胁读者人身安全。
现有可信度评估工具尚不成熟，可靠性不足。

9.13 信任 Trust

人机自动化交互研究表明，过度信任会产生自动化偏差：用户不再质疑 AI 给出的建议。传统软件是确定性程序，用户期待 100% 准确；但 LLM 是概率模型，目标是基于海量数据预测下一个词，输出天然存在不确定性，幻觉就是典型产物，编造不存在文献引用。幻觉两大危害：输出虚假事实；输出逻辑错误的解题过程，学习者会学到错误方法。

偏见分类

技术偏见：模型偏见、算法偏见、数据偏见；
社会偏见：训练数据携带种族、性别、宗教等社会历史偏见；即便删除显式歧视文本，模型还可以通过间接关联学到偏见；人工标注微调环节标注者主观观念也会引入偏见。现实困境：多元文化背景下，谁有权力界定什么内容属于 “不恰当输出”。

9.14 用户提示被模型改写 Manipulation of Users’ Prompts

DALL‑E 这类扩散文生图模型，并不会严格原样执行用户提示，模型内部会自动增强、补充上下文、风格描述，生成系统提示再传给图像生成器。书中举例：简单提示 “城市街道上一群人”，模型内部扩展为大量细节描述；仅仅改变内部系统提示，同一原始输入会产出完全截然不同画面。由此引出伦理问题：谁有权修改用户原始提示。

9.15 AI 回答带来的后果 Consequences of AI Responses

LLM 输出后果和场景风险等级强相关。低风险场景（旅游行程）部分建议出错，后果轻微；高风险场景（医疗、疫苗科普）幻觉输出会带来灾难性现实伤害。

当用户把 AI 内容仅当作灵感参考，风险较低；不知情用户直接把 AI 当作权威知识库解决高风险问题，幻觉就会转化为现实灾难。

9.16 法律与法规 Laws and Regulations

LLM 爆发式流行，立法跟不上技术迭代速度；大企业游说倾向推动宽松监管。全球三种主要监管思路：

欧盟：权利驱动自上而下（欧盟 AI 法案 AI Act，2024‑05‑21 正式通过，分 3 年落地），风险分级制度。
- 不可接受风险：直接禁止；
- 高风险 AI 系统；
- 具备系统性风险的通用基础 AI；
- 低风险 AI 系统。明确各类系统厂商强制义务：风险管理、数据治理、技术文档、可追溯记录、人类监督、安全稳健性等。
美国：市场驱动，公私合作；拜登 2023 行政命令，仅约束联邦政府机构，不属于正式成文法律，提出八大指导原则。
中国：国家驱动自上而下，《生成式人工智能服务管理暂行办法》，要求合法数据源、知识产权保护、个人信息取得同意，完成安全评估后登记上线。

9.17 用户认知与意识 User Perception and Awareness

普通用户习惯互联网工具给出准确信息，但 LLM 输出存在幻觉，必须进行事实核查。
研究发现：感知易用性、感知有用性显著塑造学生群体对 ChatGPT 的态度；年轻人整体更容易接纳 AI 系统，年长者更容易持怀疑态度。
实验现象：面对高能力 AI 顾问，参与者会不加批判过度依赖；面对能力弱的 AI 又完全不信任。
医疗场景：LLM 可以改善偏远地区获取健康信息渠道，但也带来自行诊断、错误治疗的重大风险。

9.18 本章小结与未来展望

LLM 兼具巨大机遇与严峻挑战。本质概率属性带来幻觉；既可以被防御方利用，也可以被攻击者拿来生成钓鱼、恶意代码。
风险点：数据泄露、隐私泄露、偏见、生成虚假信息。仅仅依靠模型技术加固不足以解决全部问题，必须结合严格伦理规范、操作防护、政策法规、提升公众意识。安全整合 AI 进入社会，需要伦理原则、安全技术、持续公众认知教育多方协同。

第 10 章人机交互中的大语言模型：使用 LLM 生成人物画像，从少数群体观点到完整生态系统建模

Large Language Models in Human–Computer Interaction: Using LLM‑Generated Personas to Model Everything from Minority Views to Entire Ecosystems 作者：Danial Amin, Joni Salminen, Bernard J. Jansen, Ilkka Kaate, Waleed Akhtar

10.1 引言

10.1.1 人物画像（Personas）概述

人物画像是以真实用户群体为基础构建的虚构但贴合现实的角色，是用户为中心设计 UCD、人机交互 HCI 的核心工具，由 Cooper 于 1999 年提出。
用途：帮助设计师、产品决策者建立用户同理心，在商业产品、医疗、教育、网络安全、游戏领域广泛使用；近年拓展到社会公益导向人物画像 PFSG（Personas for Social Good），服务可持续发展、社会公平、民生质量改善。
人物画像可以减少设计者自我参照确认偏误，帮助跨岗位团队对齐对用户的理解。传统构建方法：早期依靠人种志访谈、问卷等定性研究；后续发展数据驱动自动生成。痛点：现实中少数、边缘群体在数据集内样本不足，传统数据驱动画像经常出现误代表、刻板印象。
本章两大核心研究问题：
RQ1：如何让 LLM 生成画像，保障边缘社群的声音被表达；
RQ2：如何使用 LLM 生成画像对完整生态系统建模。
贡献：

提出 LLM 画像用于代表少数群体；
提出人物画像生态建模（包含非人类主体）；
提出配套评估手段，建立交互式仿真环境，帮助决策者获得多方视角。

10.1.2 HCI 与生成 AI 现状

ChatGPT 带来蝴蝶效应，LLM 渗透各行各业，但本身存在偏见、多样性不足、黑盒等缺陷。
HCI 学界出现分歧：一部分学者警告，不能用 AI 合成 “虚拟用户” 直接替代真实用户研究；另一部分看到 LLM 在画像初稿、数据分析上的价值。现存研究大多是个案，缺少系统性框架，这是本章的研究缺口。

10.2 文献背景

10.2.1 社会公益导向画像 PFSG 机遇与风险

PFSG 不仅仅用于商业产品，也服务政策制定、公民参与；延伸到人‑自然交互 HNI领域，画像对象不再局限人类，也可以代表动植物、环境等非人类参与者。
对非人类主体人格化具备可行性：生态学研究已经使用人格化手段帮助人类建立共情。PFSG 要警惕，不能仅仅把画像当作工具，需要扎根真实社群经验。

10.2.2 LLM 生成画像：机遇与风险

优势：几分钟产出连贯叙事画像，相比传统调研耗时大幅缩短；在领域专家人在回路前提下，可以产出具备内部一致性的角色。三大显著风险：

现实美化：模型会软化、淡化残酷现实案例；
固有偏见：生成样本偏向年轻群体、高度美国中心化；
幻觉：生成看似合理但是事实矛盾的设定。

10.3 方案一：数据驱动画像建模少数群体视角

10.3.1 LLM 建模边缘群体的潜在价值

LLM 可以低成本批量生成多套画像，并且支持交互式修改，对少数群体政策制定有巨大潜力。但不能直接相信输出，必须结合真实数据校验。

10.3.2 示例场景：全球南方 Global‑South 边缘社群

全球南方（拉美、非洲、亚洲、大洋洲）人口占全世界 88%，但是公开数据集代表性差，存在数据缺失、文化语境缺失、算法偏见。以秘鲁高等教育原住民学生作为案例。

10.3.3 实现少数群体画像的实现路径

三维度：理解 LLM 画像范式、策略落地、增强技术；目标提升代表性与透明度。完整方法论流程：

实地向社群收集问卷原始真实数据；
对比模拟数据，评估数据仿真的增益；
使用 RAG 检索增强、领域微调 LLM 生成画像集合；
定量指标评估多样性、刻板印象；定性指标由领域专家评估；
在政策工作坊投入使用，评估落地效果。

伦理约束清单：

获取参与者真实知情同意，遵守本地、国际数据保护法规；
识别、缓解、透明报告偏见；
向决策者清晰告知画像全部局限；
社群成员全程深度参与；
建立利益共享机制；防范画像被滥用。

10.4 方案二：使用数据驱动画像对完整生态系统建模

10.4.1 使用画像做生态系统建模

生态系统包含行动者 actor（主动参与）、受影响主体 subject（被动卷入），可以是工业、社会、自然生态。传统生态建模缺陷：耗时、模型静态、全部站在外部旁观者视角。 LLM 生成画像可以解决上述缺陷：

可扩展，大批量生成多方主体；
提供主体内部视角，减少外部旁观者偏差；
可以把非人类（动植物、环境要素）也建模为画像。

可以实现场景仿真、情景推演，观察干预之后系统涌现行为。

10.4.2 PEMF 人物画像生态建模框架 Persona Ecosystem Modeling Framework，四个阶段

阶段 01：关键利益相关方映射与筛选 梳理全部主体，区分直接主要利益相关方、间接次要利益相关方，结合研究问题筛选需要纳入仿真的对象。案例：新能源汽车生态。

阶段 02：数据收集与画像生成

定性数据：行业报告、学术文献、政策文档、新闻、专家访谈，用于 RAG / 微调做领域上下文；
定量数据：人口统计、行为指标、经济指标、合规指标；算法完成属性选择、降维聚类；LLM 丰富叙事细节，产出完整画像。

阶段 03：画像验证与筛选 三重校验：

和原始基线数据交叉比对，评估多样性；
使用 PPS 人物感知量表 Persona Perception Scale 评估清晰度、可信度、共情度；
领域专家、对应社群代表人工核验画像真实性；筛选可用画像集合。

阶段 04：PEP 画像生态游乐场 Persona Ecosystem Playground 交互式沙盒仿真环境；每个画像作为独立 LLM 智能体 Agent。支持两类交互：

人‑画像交互 HPI：人类决策者直接和画像对话，做假设情景推演；
画像‑画像交互 PPI：各个 Agent 之间自动互相交互，观察系统涌现行为。技术依托 LangChain、LangGraph 等 Agent 开发框架。交互模式：一对一、一对多、多对一；模拟谈判、竞争、政策传导等系统行为。

10.4.3 PEMF 在不同生态系统落地示例

工业生态：汽车产业，主题电动汽车市场渗透 梳理传统车企、新能源车企、零部件供应商、经销商、消费者、监管机构、环保 NGO 等全部主体；收集行业报告、政策、消费者调研数据，生成画像；在 PEP 仿真模拟补贴政策调整带来全产业链连锁反应。
社会生态：城市回收宣传活动 主体包含环保居民、本地商家、市政部门、NGO、普通市民；仿真宣传方案出台之后不同群体反应，评估政策可行性。
自然生态：森林生态系统（扩展到非人类画像） 画像对象：乔木、林下植物、食草动物、食肉动物、分解者（真菌细菌）、温度降水土壤等非生物环境因子。输入生态学野外观测、物种行为数据；仿真气候变化如何影响食物链、物种丰度。

10.5 讨论

对比两类画像：少数群体画像聚焦单个人类边缘视角；生态画像覆盖整个系统多方主体（可包含非人类），数据源、校验方式各有差异（表格 10‑4）。

10.5.1 设计三原则

真实性与有效性 Realism and Validity：画像要贴合现实实体；自然生态要符合生态学事实，产业生态符合市场现实；
适应性与响应性 Adaptability and Responsiveness：画像可以响应外部场景条件变化，支持情景推演；
可扩展性与复杂度管理 Scalability and Complexity Management：支持按需增加、减少主体，界面避免信息过载。

10.5.2 未来研究方向 RD（5 个开放研究问题）

RD1：LLM 画像如何忠实还原边缘社群社会经济、文化现实；
RD2：如何最小化画像生成中的刻板印象与偏见；
RD3：如何使用 LLM 画像改进面向弱势群体的社会政策制定；
RD4：面向社会弱势社群，在政策场景部署 LLM 画像会带来哪些伦理挑战；
RD5：开发可落地伦理指引，缓解上述伦理风险。

10.5.3 关键启示

最重要警示：不基于一手真实数据，直接靠基础大模型随便写提示生成画像是危险的。 LLM 流畅文本会欺骗决策者，让人误以为画像真实可靠，但本质只是统计生成的虚构叙事。必须坚持数据驱动流程。该工具具备教育价值，可以帮助理解复杂系统；但不能替代真实实地调研。

10.6 本章小结

本章弥补 HCI 领域研究缺口，提出两条路径：一是使用 LLM 画像表达少数边缘群体；二是 PEMF 框架建模完整复杂生态系统，甚至包含非人类主体。同时明确全套校验、伦理约束。 LLM 画像可以赋能以人为本设计、政策、社会公益；但是必须扎根真实一手数据，经过多方验证，不能直接把 AI 虚构产物当作现实证据。

第 11 章人因工程与大语言模型可信度的理论基础

Theoretical Foundations of Human Factors and Trustworthiness in Large Language Models 作者：Kitty Kioskli

11.1 引言

LLM 大规模用于知识密集、决策辅助、沟通系统，人机交互范式发生变革。模型本身是概率生成系统，用户对系统信任不是简单由技术性能指标决定，信任是人机交互过程中动态涌现的社会‑技术建构产物。
引用 Mayer 的信任定义：信任是一方愿意暴露自身脆弱性，期待另一方完成重要行为，即便自己无法监控对方行为。 LLM 场景下，用户信任受到认知心理、情感、制度、文化多重因素影响。高风险领域（心理咨询、法律、教育），模型对话拟人化会诱导用户产生非理性过度信任。
信任不是静态指标，会随着交互体验上升、下降、突变；单一技术优化不足以获得合理的用户信任；必须采用多学科视角：认知心理学、人机交互、批判系统思维。本章建立社会‑技术视角的理论框架。

11.2 理解人‑AI 交互当中的人因要素

用户处理 LLM 输出内容时，同时要完成阅读内容，还要评估输出可信度，带来认知负荷负担。时间紧张、自身领域知识不足的时候，会出现认知卸载：直接把思考交给 AI，被动信任模型输出。

现象：仅仅因为文本流畅、格式工整，即便内在逻辑错误，用户依然会给予很高信任。

表格 11‑1 汇总影响用户信任轨迹的社会心理变量：认知负荷、数字素养、情绪状态、领域专业知识、机构信任、文化框架、过往 AI 使用经历、社会身份；每个变量说明对信任的影响，给出对应的界面设计建议。

认知负荷：负荷高→过度依赖或者彻底放弃；设计简化界面、按需解释，避免信息过载；
数字素养：低素养用户更容易被表面话术迷惑；
情绪状态：压力紧急状态，人更容易顺从权威式输出；
领域专家：更容易发现知识漏洞；
机构信任：用户对背后机构的信任会传导给 AI 产品；
文化框架：不同文化对礼貌、权威解读不同；
过往使用经历：塑造用户预期；
社会身份：边缘群体先天更容易持怀疑态度。

用户需要建立对系统的心智模型，明白 AI 的运行边界。解释性内容设计是难点：解释太少看不懂，解释太多造成信息过载。信任是长期动态适应过程：反复使用之后会产生习惯化，习惯化之后用户批判性反思进一步下降。模型更新、版本改动会破坏交互连续性，直接改变用户信任。

11.3 AI 系统中信任与可信度的概念化

传统信任理论三大前置条件：能力、正直、善意。这套框架直接套用到无主观意志的 LLM 会产生矛盾。

能力 Ability：模型基准测试表现很好，但依然会幻觉；用户看到对话流畅就主观感知能力很强，但这是表面假象。
正直 Integrity：模型没有主观道德，但是用户会从语气、承认不确定性、拒绝矛盾输出等行为感知系统 “正直”。
善意 Benevolence：模型没有主观善意；但是礼貌、澄清问题、尊重用户诉求的交互设计，会让人类解读为善意。

区分两个关键概念：

可信度 Trustworthiness：系统客观属性（准确度、公平、透明）；
被感知到的信任 Trust：用户主观心理感受；二者不一定对齐。

表格 11‑2：跨文化、上下文因素如何改变 LLM 信任形成，包含文化信任规范、语言方言、技术接入历史、机构关联、媒体信息、社会经济地位、监管环境、历史权力结构，附带部署设计启示。仅仅做 “透明化” 设计不一定有效，如果用户缺少认知脚手架，大量技术细节反而造成混淆。主动表达不确定性、承认认知局限（认知谦逊 epistemic humility），反而更容易建立合理的校准信任。 信任不完全来自理性计算，情感、关系体验占很大比重；信任也不只取决于模型，还取决于整套系统：数据集、审计流程、机构治理。

11.4 实践中的信任：用户对 LLM 的真实感知

用户经常依靠表面流畅度（交互线索）而不是底层事实来判断可信度。用户心智模型很多不是来自技术知识，而是来自社会类比，把 AI 类比为顾问、助手、伙伴。表格 11‑3，区分不同用户画像：新手用户、领域专家、情绪脆弱用户、边缘群体、任务导向专业人员、高默认信任用户、批判性媒介消费者、机构约束用户。
每一类用户：核心信任驱动因素、典型信任风险、对应的设计建议。

关键发现：不存在一套统一的解释界面满足全部人群；信任高度情境化。

案例对比：心理健康聊天机器人，用户优先追求情感共鸣，事实正确性退居其次；金融咨询场景，专家用户优先要求可审计、可溯源。反馈机制的缺陷：很多产品只有点赞点踩按钮，反馈并不会实际改变系统，用户会意识到反馈无效，过程信任 process trust 受损。
用户的代理感（agency，用户可以质疑、推翻 AI 输出）是信任的关键；系统需要设计机制允许用户质疑、改写 AI 结论。

11.5 信任的伦理与社会维度

LLM 信任问题不能脱离更广的社会伦理框架。AI 系统不是中立，嵌入现实权力结构。
表格 11‑4：塑造 LLM 系统用户信任的伦理风险与结构性伤害；维度：数据劳工、机构治理、文化边缘化、自动化偏差、程序性伦理。
仅仅完成技术层面优化不足以实现可信；必须依靠制度层面问责、参与式设计。
警示：把伦理简化成清单、合规勾选，只是象征性伦理，不能真正解决现实伤害。
信任不是完全靠产品界面设计出来，是多方共建，受社会结构影响；边缘化群体不会天然给予系统信任。

11.6 未来方向与开放问题

自适应信任校准：系统根据用户信号动态调整交互，避免过度信任或者不信任；
透明化收益递减问题：不要盲目追求把全部底层逻辑告诉用户，要提供可行动、贴合场景的理解；
跨文化信任差异：现有研究大量基于西方价值观，非西方语境下信任机制需要更多研究；
信任的时间维度：长期使用中，模型迭代更新如何告知用户，维持交互连续性；
参与式监督架构：受影响社群参与 AI 系统监督，而不是仅仅由开发团队内部评估。

开放研究问题：如何测量信任而不是工具化信任指标；区分 “信任” 和 “被动依赖”；如何优先构建值得被信任的系统，而不是诱导用户信任系统。

11.7 本章小结

信任不是单一静态属性，是认知、情感、制度交织的社会建构产物。很多安全事故根源不是模型输出错误本身，而是人类产生了不合理的过度信任。可信 LLM 需要两部分共同完成：一方面改进模型性能；另一方面人‑机交互设计，塑造合理的用户心智模型，尊重用户代理感；同时必须配套制度层面问责、多元社群参与。信任不是靠技术手段 “制造” 出来，系统首先本身必须值得信任。

第 12 章 AI 和大语言模型如何改变我们的生活？反思与展望

How Do AI and LLMs Change Our Lives? Reflections and Outlook 作者：Helmut Degen、Stavroula Ntoa、Abbas Moallem 等共计 24 位跨领域学者

12.1 引言

生成式 AI 与大语言模型（ChatGPT、Gemini 等）得到全球海量用户接纳，覆盖学生、科研人员、工程师、法律、设计、文艺、政界等各行各业。LLM 已经对教育、医疗、金融、法律、软件工程、网络安全、UX 设计等诸多行业产生现实影响。

现有学术研究梳理出 LLM 的技术短板：

技术层面挑战：训练数据集约束、分词、算力开销、微调成本、推理延迟、上下文窗口受限、知识陈旧迭代困难；
风险层面：偏见、幻觉、可解释性缺失、推理错误、提示注入与数据投毒、对抗样本、行为漂移、拼写计数错误；还包括内容毒性、碳足迹能耗、使用成本。

书中表 12‑1 调研主流大模型自身报告的未来应用方向，包含：医学研究、企业业务、公民治理、创意产业、网络安全、教育、金融、医疗、超个性化 AI 智能体、法律治理、机器人协同、科学发现、软件开发、翻译本地化、舆情分析。

本章素材来源于两场学术共创研讨会，研究者、从业者围绕三个核心研究问题开展探究：

人类生活的哪些部分已经被 LLM 改变？
未来人类生活还将被 LLM 的哪些方面改变？
AI 技术未来应用会伴随哪些预期的挑战？

研究采用以人为中心的共创探究方法，立足于真实世界使用体验，重新审视 LLM 的价值与弊端。

12.2 研究方法：两场相互关联的研讨会

12.2.1 研讨会一：AI‑HCI 2024 会议征集立场论文

作为会议附属工作坊，公开征集稿件，征集主题覆盖：人‑AI 交互、用户体验研究、行业案例、伦理社会影响、隐私安全、科研应用、法律监管、教育、媒体创作、软件工程、日常生活影响。最终接收 8 篇立场短文，开展 4 小时研讨，议题包含教育包容性、生成式 AI 影响、高压行业心理健康、人工推理、用户研究、AI 增强图像生成等，产出基础观察素材。

12.2.2 研讨会二：线上共创协作探究

在第一场研讨会成果基础之上，开展多轮一小时线上共创会议。研讨问题：AI 会冲击生活哪些领域、改变机制是什么、核心挑战、未来使用情景。工作流程分三阶段：

创意发散阶段：参与者在共享数字白板独立输出想法；
综合归纳阶段：集体讨论，把零散观点整合为主题，可视化观点之间关联；
验证迭代阶段：通过群体反馈反复打磨主题，保证结论均衡、视角多元。

参考 ISTAG《环境智能情景报告》范式，会后请参与者撰写详细未来情景案例。最后由三位研究者使用主题分析法，对比两场研讨会材料，收敛共识与分歧，形成本章全部分析内容。

12.3 研讨会接收的 8 篇立场论文核心摘要

Rebecca McNulty：美国高等教育生成式 AI 政策研究 面向教学设计者产出可操作指引，回答四大核心问题：①什么叫 “使用生成式 AI 开展学习”；②如何评估 AI 辅助下的学习成效；③生成式 AI 时代，如何重新定义学术诚信与作弊；④如何利用 AI 促进学生成长与职业准备。政策制定需要吸纳学生代表、教师等多元利益相关者，政策框架必须具备灵活性，跟上 AI 快速迭代，支撑伦理决策与教学设计。
Carrie Ching、André Frank Krause：高等教育中 LLM 对学生的真实收益研究 提出 24 条待实证检验的研究假设，计划在德国应用型国际大学发放问卷。关键假设：跨学科、国籍、学段，学生并不认为 LLM 显著优于传统学习工具；学生主要用于改写转述、摘要、学习助手、文献初步检索；大部分学生没有投入大量时间学习提示工程；ChatGPT 发布之后教师观察到学生考核表现下滑；多数教师授课模式改动不大，但大幅修改考核方式；教师不确定新考核手段能不能检测 AI 生成内容。研究目标：获取实证证据，理解生成式 AI 与教育实践之间的动态关系。
Yao Sun、Lijing Wang：Stack Exchange 问答社区用户对 ChatGPT 的态度分析 数据集：2019‑2023，173 个子社区合计 17957 条包含 ChatGPT 的帖子。社区分为四类：AI 相关子社区、技术类子社区、非技术子社区、Stack Overflow 编程社区。发现规律：AI 领域社区信任度最高；Stack Overflow 编程社区怀疑态度最强；总体上技术类社区相比非技术社区，对 LLM 信任水平更低。根源来自代码任务中 LLM 大量出错。说明用户对 LLM 的信任高度依赖任务场景。
Ming Qian、Chuiqing Kong：LLM 英汉概念翻译研究 简单概念翻译（作者风格识别、度量单位转换）表现良好。复杂概念翻译暴露三类缺陷： ①输出内部不一致，掌握知识但翻译前后互相矛盾； ②速度‑准确度难以权衡； ③复杂翻译高度依赖思维链 CoT 提示才能提升推理与概念准确性。
Lance Chong：文生图模型在设计领域评估 评估 DALL・E、GPT‑4 在动画前期、工业消费品、鞋类时尚设计领域表现。依托网络双向通信通道模型开展分析。结论：改进 LLM 交互界面能够显著改善多模态设计工作流；重大短板：现有工具难以表达设计当中大量非语言、工艺手艺类隐性默会知识。这是下一代模型与交互界面重要研究缺口。
Adrienne Raglin 团队：LLM 增强人工推理能力研究 六大推理方向： ①因果推理：生成反事实 “假如‑那么” 情景，从文本描述视频场景推导物体动作因果； ②心智理论 ToM：只靠纯文本 LLM 存在局限，需要多模态输入； ③基于智能体建模：LLM 拆解复杂任务为子任务，提升决策效率； ④上下文感知仿真：识别决策节点，提出行动方案； ⑤元推理：监控、调节自身问题求解过程； ⑥多变量复杂决策：生成情景、反馈、评估指标作为算法决策输入。 LLM 更多起到增强 augment推理的作用，而非独立实现完备高级推理。
Joerg Beringer、Thomas Geis：Product Context Analyzer 产品上下文分析工具 工具自动把非结构化用户数据结构化，提炼用户目标、痛点、用户故事、需求。把原本数天‑数周的工作压缩到数分钟。定位：补充传统用户研究，而不是替代；把人力从海量数据采集转移到结论校验打磨，提升产品早期定义效率。
Mark Nuppnau、Khalid Kattan、Robert G. Reynolds：文化算法 CA 结合 LLM 优化深度学习 文化算法 CA 属于演化计算框架，整合多源领域知识，提升优化搜索性能，同时带来可解释性，助力构建更加透明安全 AI 系统。LLM 作为外部知识源，改进启发式搜索。

以上 8 份立场论文为本章提供事实基础，帮助识别影响领域、风险、未来潜力。

12.4 LLM 带来的影响与挑战

12.4.1 LLM 对日常生活活动带来的影响

研讨会参与者识别六大已经受到显著改变的生活领域：

语言与沟通：实时口笔译，改变词典、人工翻译的传统模式，促进跨文化交流。现存短板：实时翻译的速度、准确度、界面易用性、无障碍体验仍有缺陷。
陪伴与社会交互：老年人、社会孤立人群使用 LLM 获取对话陪伴。优势：获得情感支持；风险：损害心理健康、造成现实社会脱离。
医疗与心理健康：用于咨询、健康支持、解读医疗数据，具备个性化咨询潜力；风险：依靠非人类系统处理高敏感健康信息，输出准确度、伦理问题突出。
信息检索与概念学习：区别传统搜索引擎，支持自然语言提问，输出摘要、概念解释，带来个性化与效率提升；隐患：弱化溯源习惯，威胁批判性思维，来源透明度不足。
创意与专业内容创作：新闻、教学设计、报告写作、影视脚本。LLM 快速生成初稿、润色文本，辅助背景调研。冲击传统作者身份、编审机制；带来真实性、可信度隐患。
软件开发与数据分析：非专业人员依靠自然语言完成数据分析、简单软件原型，即时生成合成研究数据；重塑研发工作流；风险：输出质量参差不齐，伦理、用户自主控制权、监督审查不可缺失。

哲学层面反思：人类生存维度从三维物理世界拓展到多维数字心智世界；AI 生成内容高度逼真，未来难以区分人类与 AI 产出，带来本体论层面的伦理难题。

12.4.2 现存与预期的各类挑战

法律伦理问题：版权、知识产权、损害责任划分。医疗、法律等高风险场景 AI 输出致人伤害，责任属于开发者、使用者还是模型本身，法律尚未厘清；立法进度跟不上技术迭代。
使用范围与质量保障：如何核验 LLM 输出准确度、识别幻觉；缺少统一的自动化校验工具，需要配套人工审核；不同领域缺少适配的评估指标；质量保障不足限制高风险领域落地。
数据安全与隐私：LLM 作为陪伴 / 顾问收集大量敏感用户数据；对话记录被存储带来隐私泄露；训练数据投毒篡改模型行为；云托管个性化大模型带来全新隐私威胁。
可解释性与信任：推理黑盒；现有的解释材料大多是面向技术人员，普通用户难以读懂；偏见问题；需要新型 “提示驱动的可解释性”，改良 UIUX，完善政策法规。
合成内容与现实扭曲：AI 生成大量衍生内容；新闻、教育等敏感领域，大量合成内容迭代传播，造成事实向现实漂移，催生虚假信息。
社会与环境后果：数字不平等加剧；人际关系弱化；算法偏见放大；人类过度依赖 AI；文化信息茧房；训练推理巨大能源消耗；“公地悲剧” 风险：AI 系统复杂度高，导致社会集体责任被忽视。
人类适应与认知负荷：用户需要学习提示工程这类全新交互技能；技术迭代速度快，技术弱势群体面临被排斥风险。
区分人类与 AI 主体的困难：AI 输出越来越难和人类产出区分；普通用户鉴别难度大；带来本体论疑问：未来人类专业能力评估，会不会以 AI 输出作为评判标准。

12.5 未来情景设想

研讨会收集 15 个未来情景案例，分为三大组别：学生科研人员场景、日常生活场景、特定职业工作场景。

12.5.1 面向学生与研究者的情景（5 个）

Turbo Tutor（极速导师）：交互式 AI 家教，讲解复杂概念、主动提问测评理解程度、反馈答案、生成模拟考题，辅助备考。
Persistent PhD Student（坚持不懈的博士生）：LLM 完整参与博士全过程：头脑风暴、文献检索、找研究缺口、设计方案、操控实验设备、写论文、制作海报、参与同行评审。学生容易不加质疑采信 AI 输出；如果导师坚持传统科研范式（重视人类洞见），师生之间会产生理念冲突。
Persuasive PhD Supervisor（坚持传统的博导）：导师限定 LLM 仅做行政辅助（查重、检索、记录），研究问题、方法论定义全部由人类完成。学生会重度依赖 AI，与导师理念产生矛盾。
Amazing Assistant（杰出助手）：针对难以提出清晰研究假设的科研学生，帮助凝练研究问题、选择研究方法。
Enlightening Ethnographer（启发性民族志研究者）：民族志研究者开展部落营养研究，输入田野采集样本、渔猎技术记录；LLM 辅助生成新的研究假设，推动田野研究。

12.5.2 面向日常生活的情景（7 个）

Butler Brainard（智能管家）：家庭日常任务。做饭结合口味、病历、化验数据生成菜谱，自动下单采购；自动驾驶途中讲解风景；并行处理预约就医、报税等多项任务。
Auntie AlwaysRight（育儿顾问）：家长遇到儿童行为难题，向 LLM 获取育儿建议、月度发育规划。
Best Buddy（最佳密友）：深度个人陪伴 AI；依靠虹膜、声纹、人脸识别持续记录个人环境、行为、对话，深度掌握使用者全部偏好；主动和被动提供建议；能够复现多年前经历。配套高强度安全防护抵御黑客攻击。
Word Wizard（文字魔法师）：面向多语言工作者，改写文本，自由切换非正式、技术、新闻等不同行文风格。
Form Fairy（表单精灵）：自动填写各类表单，复用历史数据或者用户非结构化口述信息。
Audacious Accessibility（无障碍先锋）：智能眼镜搭载 LLM。视障人士：解析视觉环境，语音实时导航；听障人士：把对话实时转为文字显示。
Afterlife Ally（身后盟友）：模拟逝去亲友，供活着的人聊天、寻求建议，提供心理慰藉。

12.5.3 面向特定职业的情景（3 个）

News Nerd（新闻工作助手）：记者写新闻稿件；LLM 接入实时数据，校验新闻事实。
Product Probe（产品探索者）：产品经理描述需求，LLM 迭代产出可运行软件原型；原型全球分发测试，收集反馈迭代。
Policy Pal（政策顾问）：政客设定社会目标（例如减少贫困），LLM 生成多套战略方案，评估政策对不同阶层、产业、地区、环境带来的连锁影响。

12.6 讨论

两场研讨会结合，实现从当下现实、现存挑战，再到未来设想情景的完整探究。

12.6.1 三大新浮现的关键挑战

除了已经被广泛研究的伦理法律、可解释性、偏见公平、准确性、安全隐私之外，研讨会提炼出三个新兴重大挑战：

合成内容与现实扭曲：不仅生成合成内容，还出现由 AI 产出再衍生的 “合成 AI 系统”；区分原始现实内容和多代 AI 衍生内容变得困难；提出指标：衍生代次，统计距离原始现实 / 原始人类创作经过多少轮 AI 生成；评估衍生内容带来的社会影响。
人类适应与认知负荷：过去用户习惯所见即所得 WYSIWYG 图形界面；LLM 回到类似命令行的对话交互；提示工程成为新数字素养，但还没有标准化交互范式。未来是否会进化出更加友好的直接操作交互，属于开放研究问题。
知识基准发生偏移，人类权威被弱化：社会评价标准，从人类思考判断，向 AI 输出偏移；出现 “只要 AI 给出回答就当作事实” 的认知危险。需要研究信任校准、认知权威、批判性推理，明确 AI 中介社会下谁掌握最终裁决权。

12.6.2 代表性未来情景分析

Butler Brainard：LLM 不再是单一工具，而是作为高层协调器，跨多个系统并行调度任务，提升人类决策效率；带来复杂系统管控、责任划分难题。
Best Buddy 深度个性化陪伴 AI：既能提供超越普通人类的洞察；但会存储海量个人私密信息，冲击隐私、人际关系、信任机制。
Audacious Accessibility 无障碍情景：AI 作为沟通桥梁，服务感官残障群体；思路可以拓展到弥合语言、教育差距。
Policy Pal 政策顾问：LLM 辅助区域、全球公共政策推演，支撑证据导向的治理决策。

全部未来情景共同揭示双刃剑特质：巨大赋能潜力，同时伴随滥用风险；核心社会问题：谁能够获取这些强大工具，谁会被时代抛下。

12.6.3 回答开篇三个核心研究问题

哪些生活领域已经改变？ 信息处理类任务已经大规模改变：文本图像等信息内容生成、总结。但是涉及实体物理世界操作（驾驶、园艺、家务）的任务，当前 LLM 影响依旧有限。
未来哪些生活领域会被改变？ 当 LLM 与机器人、计算机视觉深度融合之后，几乎全部生活领域都会受到影响。未来情景证明：LLM 会深度介入物理活动、个人陪伴、无障碍、公共政策治理。
预期会遇到哪些挑战？ 传统已知挑战：伦理法律、透明可解释、偏见公平、准确度可靠性、安全隐私、社会环境代价。新增三大新兴挑战：合成内容现实扭曲；人类适应与认知负担；区分 AI 与人类产出，防范知识评判基准向 AI 偏移。

进一步解读新兴挑战：
合成现实：多代 AI 衍生内容，形成自我强化的合成现实闭环；需要评估衍生代次，评估社会后果。
交互范式变迁：从图形界面回到对话命令行；提示工程作为新数字素养，但缺少统一交互标准；学界已经开始研究直接操纵交互界面改善体验。
认知基准偏移：教育层面要重点培养下一代，教会分辨 AI 能力与局限，坚守人类批判性思考与问责。

12.6.4 对本次研讨会研究方法的反思

这套多阶段工作坊方法，适合产出以人为中心的洞见，生成前瞻性未来情景。方法论属于直觉创新混合模式：结合头脑风暴发散想法，再迭代结构化收敛主题。对比传统头脑风暴、SCAMPER、TRIZ、设计思维；传统头脑风暴通常上限 60 分钟，本方法横跨数周，线上线下结合，给参与者充分时间深度反思。该范式具备作为 AI‑人类交互对比评估基准的潜力。

12.6.5 方法局限性

时间跨度长，线上线下多轮，参与者出席不完整，讨论连续性受损；
产出内容高度依赖参会人员的专业背景、个人视角；尽管尽量扩大参与者，依然无法完全消除主观偏向。

12.6.6 未来研究方向

周期性复现该研讨会，纵向跟踪趋势，增加 “黑暗负面情景” 推演风险；
评估这套共创工作坊方法论内部各个模块（立场论文、情景、参与者）对于创新观点的贡献；完善面向未来预测的参与式前瞻方法。

12 章致谢、注释、参考文献

致谢参与研讨会的全部研究者。注释说明表 12‑1 的 prompt 采集方式；文末完整参考文献；全书末尾为主题索引（Index），汇总全书核心术语，标注对应页码，方便检索查阅概念。

全书内容复盘

一、全书逻辑链条

第 1‑2 章：基础理论层
AI 发展史；符号 AI、机器学习、深度学习、Transformer；LLM 四代演进；XAI 可解释人工智能；AGI 通用人工智能的机遇风险；神经网络底层构件（感知机、MLP、RNN、LSTM、GRU、Seq2Seq、多头注意力）。
第 3‑6 章：垂直行业应用层
- 第 3 章：文化遗产；古籍、博物馆、濒危语言；无障碍；RAG；行业特有幻觉、算力、文化伦理风险；
- 第 4 章：教育领域；高等教育、K‑12、学习设计、教育科研；政策框架、4E 模型；学术诚信、数字鸿沟；
- 第 5 章：医疗放射学视角；DAPT、LoRA、MedVQA；Synoptic AI 标准化放射报告；医疗场景强约束：必须医生复核；
- 第 6 章：媒体视觉创意设计；人机协同创作流水线；课堂实验；版权、默会知识缺失问题。
第 7‑8 章：高可靠软件工程领域
- 第 7 章：SDLC 全生命周期 LLM 应用，软件采购；风险二维评估框架；
- 第 8 章：高安全软件保障文档自动审查；识别不完备、不一致、矛盾；无人机航电案例；明确只能做初筛，专家人工确认不可取消。
第 9 章：安全隐私信任专题
提示工程、越狱、直接 / 间接提示注入、社会工程；数据泄露、隐私风险；版权；偏见分类（技术偏见 / 社会偏见）；用户提示被模型改写现象；全球三大监管体系（欧盟 AI 法案、美国行政命令、中国生成式 AI 暂行办法）；用户认知问题。
第 10 章：HCI 人机交互专题
LLM 生成用户画像 Personas；PFSG 社会公益画像；重大警示：AI 画像不能替代真实一手用户调研，仅作为假设起点；PEMF 画像生态建模框架；PEP 交互式仿真游乐场；可以对非人类主体（动植物、环境）建立画像；未来开放研究问题。
第 11 章：人因工程与可信度理论
信任不等于模型客观性能；区分客观可信度与用户主观感知信任；自动化偏差、过度信任；认知负荷、多维度影响信任的社会心理变量；不同类型用户画像对应的风险与界面设计；伦理结构性伤害；自适应信任校准等开放研究方向。
第 12 章：集体反思与未来展望
两场学术研讨会实证材料；已经发生的改变；现实挑战；15 个未来情景；提炼三大新兴挑战：合成现实扭曲、交互范式变迁、知识评判基准向 AI 偏移；研究方法反思与未来研究方向。

二、全书核心论点

定位：LLM 是人类增强辅助工具，不能替代领域专家；高风险场景必须坚持人‑在‑回路，全部 AI 输出要经过人类复核校验。
共生缺陷：能力与缺陷（幻觉、偏见、安全漏洞）是共生的，不存在完美大模型；单纯扩大参数量不能解决全部问题。
解决手段不能只靠算法：仅仅优化模型技术不足以解决现实问题，需要四者协同：
- ①行业领域专家深度参与开发验证；
- ②人因工程与人机交互设计，管理用户信任、认知负荷；
- ③组织流程制度，建立审查闭环；
- ④法律监管、公众 AI 媒介素养教育。
丛书标志性特色：跳出纯计算机跑分视角，把 “人的因素 human‑element” 放在第一位。不只看模型指标，持续关注使用者心理、社会系统、现实世界后果。
反复出现的警示命题：警惕人类对 AI 产生过度自动化信任，很多事故根源不是模型出错，而是人类不加批判采信 AI 结论。

三、全书关键概念

幻觉 hallucination；涌现能力 emergent abilities；检索增强 RAG；领域自适应预训练 DAPT；参数高效微调 LoRA；RLHF 人类反馈强化学习；思维链 CoT；提示注入；越狱 jailbreak；可解释 AI XAI；人‑在‑回路 human‑in‑the‑loop；自动化偏差 automation bias；人物画像 Personas；PEMF 画像生态建模；PEP 画像生态游乐场；社会公益画像 PFSG；可信 AI；认知负荷；合成内容衍生代次；WYSIWYG 所见即所得；默会知识 tacit knowledge。