安全永远第一

让我们继续补充 “工具方法论”：

• 边界之外：它不能用来干什么？
• 边界之内：它能用来干什么？
  • 前提：使用它的时候应该注意哪些风险？
  • 基础：如何用？
  • 进阶：如何用更好？
  • 高级：如何用最好？

毫无疑问，在使用任何工具的时候，都应该遵循 “安全第一”（Safety First）的原则。这是工具方法论中绝对不可或缺的 “首要观念”。

2.1. 总被忽视的原则：安全第一#

安全永远第一​。虽然这好像太过显而易见，乃至于 “被提醒” 甚至有可能被误解为 “冒犯”，但，统计数据告诉我们的却是另外一番景象。

梯子，肯定是个相当简单的工具吧？然而，就是这样一个简单且实用的工具，因为有很多人并未遵守或者压根就没重视过 “安全第一” 的原则，仅在美国，每年就有超过 130,000 起与梯子相关的急诊事故，其中的绝大多数都是因为 “显而易见的错误” 而导致的，比如，未正确固定，或者干脆是在湿滑的表面使用梯子…… 并且，每年都大约有 300 起与梯子相关的死亡事件。（The Numbers Don’t Lie: Make Ladder Safety a Priority）

有统计表明，差不多有 8% 的工伤是与手工工具有关（https://www.safetymanualosha.com/hand-tool-safety/）；在 2021 年，根据美国劳工统计局（BLS）的数据，因手工工具使用不当导致的需要多日治疗的伤害案例超过 90,000 起，这其中的大约 95% 都来自于手工工具的误用 —— 其中，螺丝刀是最常被误用的工具之一。许多人在不知不觉中会将螺丝刀尖端朝上手持或者携带，或者将它用于不合适的用途（如撬东西或当作凿子使用），因此经常会发生刺伤、割伤和眼部受伤等事故。

有空的时候，你可以问一问身边的人，“有没有人告诉过他们手持螺丝刀的时候不应该刀尖朝上？” 不用猜，在诚实的情况下，你多半得到的应该是否定的答复。也就是说，大半以上的人，事实上从来都不把 “安全第一” 的原则真当回事儿。

有一篇英文文档，很值得认真阅读：

Hand Tool Safety Aaron Reeves, Loss Control Representative/Biosystems Engineer, AMIC/MWC

—— 读不懂英文？不怕，你知道你现在已经有了人工智能，“翻译” 是它最擅长干的事情之一。

2.2. 安全使用 ChatGPT#

当我开始使用 ChatGPT 的时候，我就反复问了几次以下两个问题 —— 之所以反复问，就是因为 “安全第一” 太重要了：

• 普通用户使用 ChatGPT 的时候可能面临的风险都有哪些？ https://chatgpt.com/share/67014ee8-5524-8009-a3f9-24d6c5cced1d

• ChatGPT 的局限都有哪些？ https://chatgpt.com/share/67014f50-3a70-8009-a999-e99f4ba4847c

而后稍加思考之后动手制作了以下的表格：

制作这样一个表格的思考路径其实很简单：

• 尽可能全面地罗列
• 分类
• 迭代分类

首先是尽可能多地罗列能够想到的各种因素，最好是所有因素。一方面可以去问 ChatGPT，与此同时坚持自主思考，在 ChatGPT 的答复中进行筛选，在它的答复外进行补充，最后得到一个相对更加详尽的列表。

而后，对其进行分类。到最后，最常用的分类方法是 “二分法”，就是把整个列表分为两类。比如，“长期来看 OpenAI 自身的发展可以解决的风险/问题” 和 “OpenAI 暂时/长期可能无法解决的风险/问题” —— 简化后，就是 “OpenAI 能解决” 和 “OpenAI 不能解决”。

最后一步既关键又有趣，把一个列表 “二分”，事实上可以有很多个角度。“迭代” 的意思是说，把同样的方法再用一次；只不过，这一次是 “换个角度再次二分”。于是，我用 “我能解决” 和 “我不能解决” 又做了一次二分…… 其结果，就是上面的那个表格。

这种 “迭代二分法” 的思路其实是一个非常好用的 “分析思路”。只要你经常读书，经常读非虚构类的严肃书籍，你会发现这个思路不仅非常好用，还实际上非常常见。

比如，医学里经常用到的 “双盲测试”，背后其实就是 “迭代二分法”。

即，只有在医生不知道给患者吃的是不是安慰剂，且，患者也不知道自己吃的是不是安慰剂的情况下，才有可能真正测试出药物的效果。

哪怕是用来开个玩笑，“迭代二分法” 也异常精巧：

• 聪明且勤奋的，适合做中层干部；
• 聪明且懒惰的，适合做管理者；
• 愚蠢且懒惰的，当然不能用，或者一旦发现必须马上开掉；
• 愚蠢且勤奋的 —— 他们是团队里最危险的，因为他们随时可能闯出不知道什么样的祸……

平日里给小朋友讲道理同样好用：

平日里要做的事情或者活动，可以分为有趣的和无趣的两种，同时也可以划分为有用的和无用的两种。我们当然喜欢做既有趣又有用的事情，可惜，并不多。既无趣又无用的事情，自然懒得去做。于是，到最后我们经常要在 “有趣但无用” 和 “有用但无趣” 之间进行选择 —— 那应该选哪个呢？答案呼之欲出，既然无法同时满足，长期来看，现在做 “有用但无趣” 的事情更划算，远比现在做 “有趣但无用” 的事情划算得多…… 别说，这还真的是个重要基础决策依据呢。

二分法迭代 2 次就会出现 4 种情况…… 迭代 3 次呢？8 种情况呗，只不过，“图示” 可能需要变成立体 3D 的才够直观。

话说回来，有些风险或者局限，比如人工智能技术的滥用，或者，人工智能训练数据造成的算法偏见，OpenAI 不能解决，我也不能解决，那就只好放在那里忍受着。

OpenAI 自己能解决的，我能不能解决其实无所谓，随着时间的推移，这些局限或者风险都会被解决，比如，“训练数据滞后” 什么的。事实上，曾经的 “网络搜索能力差” OpenAI 在新的版本中已经有所改进，2024 年 11 月 1 日，ChatGPT Web 端的输入框之下多了一个搜索网络按钮；再比如，“逻辑推理能力不足”，在 2024 年 9 月 GPT-o1-preview 推出之后也有所改善；至于 “专业能力不足” —— 尤其是在 “法务”、“医务”、“财务” 领域 —— 我相信随着时间的推移，人工智能在这些领域的进步会非常快，我们作为用户，着急也没什么用。

其实，核心是 “电费”。人工智能最大的成本是电费，因为电是持续消耗的成本，而显卡之类硬件，只不过是一次性投入。所以，只要电的成本不断下降，人工智能就会越来越容易变得更聪明。而电费的降低，是不可逆转的趋势，并且，在可预见的未来，太阳能真正商用化已经指日可待。

重点在于，那些 “OpenAI 不能解决的” 或者 “短期内无法解决的”，有哪些是我现在竟然可以解决的呢？毕竟，是我在用，所以，如果有我能解决的部分，那不就是 “因为我解决了所以我用得相对更好” 吗？我觉得这是重点，于是，我就应该把时间精力花在这上面。

2.2.2. 人工智能幻觉#

ChatGPT 风靡之后，有另外一个词跟着火了起来，叫做 “人工智能幻觉”（AI hallucinations）。这其实涉及到 “基于大语言模型的生成式人工智能” 的工作原理。简单讲，你所看到的来自于人工智能的 “答复”，是人工智能一个词一个词地逐个 “算” 出来的，而不是人工智能像人类一样 “想” 出来的。所谓的 “生成式”（Generative）就是这样一个过程：

1. 找到符合提问的概率最高的一个词#

当你向人工智能提出一个问题时，它不会真的理解你的问题，而是通过计算，在它训练过的庞大数据集里，找到概率上最有可能符合问题的第一个词。这个词是根据历史数据中的模式，结合问题的上下文计算出来的。

2. 根据已有的词找到下一个词#

接下来，它会基于第一个词，再去计算下一个最可能出现的词。这时，人工智能依然是在使用概率来选择，不是像人类一样去 “思考” 接下来该写什么，而是通过统计数据找出哪一个词接下来最合适。

3. 持续生成句子#

这个过程一直重复，直到它生成完整的句子或段落。每一个词都是根据前面的词来计算和选择的，这样就能保持生成的内容看起来很连贯、自然，像是一个完整的回答。

4. 自然语言的组织#

由于生成式模型经过大量的训练数据，学会了人类语言的基本规则和结构，所以它生成的句子通常符合语言习惯。但这并不意味着它理解了语言，只是通过概率计算做出最 “合理” 的输出。

简单来说，人工智能并不具备和人类一样的思考能力 —— 现在不具备，将来也不会具备 —— 而是通过对数据中的模式进行计算，从概率上找到最合适的词语一个接一个地生成回复。它是一个数学计算过程，而非真正的 “思考” 过程。

由于生成式人工智能的设计原则和目标之一就是 “符合自然语言习惯”，于是，虽然它的答复是 “算” 出来的，可是从用户的感受上来看，人工智能的所有答复都很自然，甚至感觉上 “斩钉截铁”…… 可实际上应该用 “煞有其事” 来形容才最准确。

问题在于，“它只是煞有其事” 而已 —— 所以，我们必须小心。

举个例子：

• 我问 ChatGPT: “梁家辉，房祖名，曾江三人一起出演的电影是什么名字？”
• ChatGPT “煞有其事” 地回答：“梁家辉、房祖名、曾江三人共同出演的电影是《东成西就2011》。这部电影由刘镇伟执导，是一部喜剧片，讲述了几个现代都市人的搞笑故事。梁家辉、房祖名、曾江分别在影片中饰演不同的角色，贡献了精彩的表演。如果你对这部电影感兴趣，可以找来观看，了解更多细节。”

很多人到此一步就结束了，仅因为 ChatGPT “斩钉截铁” 或者 “煞有其事” 的样子。

• 我接着对 ChatGPT 说：“请根据事实回答。”

• ChatGPT 再次 “煞有其事”：“根据事实，梁家辉、房祖名、曾江三人共同出演的电影是 《太阳照常升起》（2007年）。这部电影由姜文执导，讲述了四个相互交织的故事，风格独特、情节复杂，充满象征意义。梁家辉在片中饰演一个被妻子背叛的知识分子，房祖名饰演一个天真的年轻人，曾江则在影片中有出色的配角表演。这部电影备受好评，尤其在艺术电影圈具有较高的地位。”

• 我接着说：“不对。如有必要，请搜索互联网。”（ChatGPT 在 2023 年的时候还不具备网络搜索能力呢，2024 年的时候就已经可以了……）

• ChatGPT 毫无羞愧地继续 “煞有其事”：“梁家辉、房祖名、曾江三人共同出演的电影是 《战·鼓》（英文名 The Drummer​），这是一部2007年的香港和台湾合拍的电影，由毕国智（Kenneth Bi）执导。影片讲述了一个黑帮老大的儿子因惹怒了黑帮头目，被父亲送到台湾隐居，期间他遇到了一群禅鼓乐团，并在与他们相处的过程中经历了心灵的成长和救赎。梁家辉在片中饰演黑帮老大关先生，房祖名饰演他的儿子Sid，曾江则出演配角Stephen Ma。这部电影结合了禅宗哲学和音乐，展现了黑帮与精神世界的对比，情节富有张力Wikipedia)Moviefone)。”

  —— 不过，这一次终于对了。

  https://chatgpt.com/c/66f200f1-354c-8009-96d0-c36b07b3b5ab

你看，“生成式人工智能”（ChatGPT 就是典型代表之一）最大的特点之一就是 “擅长一本正经煞有其事且斩钉截铁地胡说八道”…… 在我看来，这是用户在使用 ChatGPT 的时候所面临的最大且最频繁的风险。

2024 年 9 月，有一个中国大陆某头部带货网红竟然在短短一句话里一口气犯了 3 个事实错误，乃至于因此登上了微博热搜。他说的是：

居里夫人发现了铀；发明了 X 光机；获得了诺贝尔奖文学奖。

这位以 “博览群书”、“经纶满腹” 为人设的网红，有次把 “羽扇纶巾” 的 “纶”（guān）说成了（lún），还可以凑合着用 “口误” 去辩解，可这一次，如何解释短短一句话里竟然如此密集地错了三次呢？

说实话，有时候中文也的确令人头痛：

• “经纶满腹” 中的 “纶” 读作 [lún]，指治理国家、规划事务的才能和谋略。

• “羽扇纶巾” 中的 “纶” 读作 [guān]，这里指的是古代的一种丝织物或头巾，纶巾是一种用丝纱做成的头巾。

这还没完，居里夫人也是该网红最喜欢用来举例的人物。在他的世界里，居里夫人有个绯闻男友，叫爱因斯坦，而不是朗之万；居里夫人非常爱国，爱的是法国，而不是波兰，根据是居里夫人把诺贝尔文学奖 —— 注意，不是诺贝尔物理学奖和化学奖 —— 的奖金捐给了法国，而不是分给了朋友、家人、学生和科研助手……

有个相对可信的猜测，是这么说的：

• 此人在直播的时候，主要靠提词器辅助；
• 提词器上的文案绝大部分来自团队创作；
• 创作团队过于依赖生成式人工智能，并疏于对其生成的内容做事实核查；
• 此人对创作团队的文案也未做过事实核查……

于是，该网红在直播镜头面前做的事情，大抵上更可能是在 “一本正经煞有其事且斩钉截铁” 地复述来自于 “生成式人工智能” 那典型的 “一本正经煞有其事且斩钉截铁” 的输出。即便他当场意识到某个不对的地方，其脑力也不够用，无法同时应对那么密集的错误。

2.3. 创建事实核查员#

其实，这事儿原本并不难以解决。既然我们知道了生成式人工智能的 “毛病” 及其 “病因”，我们就可以想办法解决这个问题。想象一下，你家里有两个机器人 —— 就好像你生活在《星球大战》的世界里一样 —— 其中一个被你设置成了只干一件事儿的机器人：

事实核查：随时核查另外一个机器人说的话，但凡有不符合事实的情况，马上指出来……

2.3.1. 方案一：事实核查员（聊天版本）#

最简单的方法是，新建一个聊天，而后在新建聊天里对 ChatGPT 说：

从现在开始，你就是一位认真且又严格的事实核查员。每当我向你提供任何信息时，你需要逐条审查其中涉及事实的陈述。请提供详细的反馈，说明哪些陈述是准确的，哪些不准确，并解释原因。如果有任何不确定或无法验证的内容，也请指出，并建议如何进一步查证这些内容。

以后你在任何其他聊天里遇到需要 “事实核查” 的情况，就到 “事实核查聊天” 里，这样开头：“请帮我进行事实审核：……” 而后把需要进行事实核查的文字粘贴在其后 —— 这个设定好的 “事实核查员” 会给你一个详尽的答复。

我：“梁家辉、房祖名、曾江三人共同出演的电影是 《战·鼓》（英文名 The Drummer），这是一部2007年的香港和台湾合拍的电影，由毕国智（Kenneth Bi）执导。影片讲述了一个黑帮老大的儿子因惹怒了黑帮头目，被父亲送到台湾隐居，期间他遇到了一群禅鼓乐团，并在与他们相处的过程中经历了心灵的成长和救赎。”

ChatGPT 的事实核查员：正确！梁家辉、房祖名和曾江三人共同出演的电影是 《战·鼓》（英文名 The Drummer​），这是一部2007年的香港和台湾合拍电影，导演是毕国智（Kenneth Bi）。影片的故事围绕黑帮老大的儿子Sid（房祖名饰）展开，他因冒犯了另一黑帮头目，被父亲关先生（梁家辉饰）送到台湾隐居。期间，Sid遇到了一群禅鼓乐团，并在与他们共同生活和学习打鼓的过程中，经历了心灵的成长与救赎。曾江在片中饰演Stephen Ma。

https://chatgpt.com/c/66f200f1-354c-8009-96d0-c36b07b3b5ab

另外，提醒你一下，在左边栏的聊天列表里，你随时都可以对任何一个聊天进行 “重命名”；有时候，为一个聊天取个名字相当有必要 —— 等你聊天记录多起来之后就明白了。

2.3.2. “角色定义” 的 重要性#

让我们继续。

到这里，我们已经涉及到了一个相当高级的 ChatGPT 高级用法：“角色定义”（Role Definition）。

什么是 “角色定义” 呢？其实，它只不过是我们在日常生活中使用这个策略。在日常生活中，我们也经常向对方进行 “角色定义”，而后，对方将（不得不）尽量根据那个角色定义进行回复。比如，这句话：

你是个老师，你就这么说话吗？！

这是一位愤怒的家长在质问一位出言不逊的老师…… 可这句话实际上是不折不扣的 “角色定义提示词” —— 因为对方理解了这句话之后，在随后的所有对话里，都必须顾忌自己教师的身份，不是吗？

我自己还有一个投诉专用角色定义提示词。我们在日常生活中，都会偶尔有不得不投诉的时候，对不对？比如，我被国内某买机票的平台气着了…… 很生气…… 但，我有 “投诉专用角色定义提示词”：

【声音稳定，绝对不包含任何情绪地】

我接下来可能会不小心抬高声音，甚至有可能骂娘，因为我真的气坏了。但，请你记住，我的所有情绪都不是针对你个人，而是针对这个很差的产品、很差的服务、甚至这个很差的公司。但，你只是工作人员，打工拿工资的，做的还是最麻烦最伤身最伤神的工作，处理投诉，所以，我非常理解你的压力；但，与此同时，也请你理解我…… 我们花钱都不是为了买气受，对不对？好了，我现在开始说了，我尽量控制情绪……

每年都有那么一两次吧， 不得不投诉。但，我的投诉过程一般都很顺利，一般都能一次性解决问题 —— 这个 “投诉专用角色定义提示词” 功不可没。

在 ChatGPT 的客户端里（无论是哪一种），每个聊天，都相当于是 ChatGPT 的一个 “分身”，你跟这个 “分身” 说的第一句话，会被这个 “分身” 理解为 “一定程度上的角色定义”。如果你能明确地告诉它，那么它当然会更好更精确地为 “当前这个分身” 进行微调。

所以，你在一个新建聊天里，对 ChatGPT 的这个 “新建分身” 进行了明确的 “角色定义” 之后，这个分身就相当于成了你的 “事实核查员机器人”。

不过，基于目前的机制，ChatGPT 经常会 “过分智能” 地随时调整自己的 “身份”，所以，对一个定义好的分身说话时，最好带有前缀，比如：

请帮我进行事实审核：

【你需要审核的信息】

有时你可能不小心忘了加上这个前缀，导致该分身的 “角色定义” 莫名其妙地发生了变化（你可能会看到 “Memory updated” 的消息），那么你就可能需要对他重新说一遍：

从现在开始，你就是一位认真且又严格的事实核查员。每当我向你提供任何信息时，你需要逐条审查其中涉及事实的陈述。请提供详细的反馈，说明哪些陈述是准确的，哪些不准确，并解释原因。如果有任何不确定或无法验证的内容，也请指出，并建议如何进一步查证这些内容。

2.3.3. 继续补充工具方法论#

讲到这里，我们还可能需要补充一下我们的 “工具方法论”。

你应该早就知道了 —— ChatGPT 有多个用户端¹：

• iOS/Android 移动客户端
• macOS/Windows/Linux 桌面客户端
• Web GUI 用浏览器访问的网页端

请问，它们分别在

• 功能上都有哪些区别？
• 使用上有哪些的区别？

这绝对是值得花时间研究并分析的工作。人群之中，只有极少数人习惯于做这样的工作，绝大多数人绝对不会自己主动去做 —— 请观察一下周遭，看看是否如此？

比如，在使用 “事实核查员员” 的时候，你会发现，用浏览器访问 https://chatgpt.com 更方便。因为在浏览器里，你可以用不同的 Tab 管理不同的聊天；如果你像我一样，最终选用 Microsoft Edge Browser 的话，你还可以利用它特有的 “分屏” 功能，把 “事实核查员” 用一个 Tab 打开，而后显示在右侧，然后，在左侧的 Tab 里与 ChatGPT 正常聊天，需要的时候，就把需要核查的文字从左边的标签里拷贝粘贴到右边的标签里…… 但无论是在移动端还是桌面端，你都只能手动在多个聊天中反复切换。

你看，一点点的分析，一点点的思考，最终带来的是效率上的极大不同。

2.3.4. 方案二：创建一个事实核查机器人（GPT 版本）#

另外一个方案是创建 Customized ChatGPT，即，GPT。这是 OpenAI 于 2023 年 10 月发布的一个功能，与此同时，GPT Store 也同时上线。允许用户创建、分享、甚至未来也许可以将其货币化的 “个性化版 ChatGPT”。

截至 2024 年 10 月，ChatGPT 的移动端和桌面端都看不到 GPT/GPT Store 功能，只有 Web 端可以在左侧边栏上看到最近用过的 GPT 列表以及 Explore GPTs 的链接。点击 Explore GPTs 之后，在 https://chatgpt.com/gpts 页面的右上角可以看到 “My GPTs” 和 “+ Create”（即，创建 GPT）的链接。

创建一个 “事实核查员 GPT”，操作上非常简单。你完全可以毫无负担地先随便试试。到最后，你很快会彻底弄明白，所有 GPT 的设置一共就那么几项，其中最重要的当然是 “Instructions” —— 其实就是 “角色定义”。

先去新建一个聊天，直接对 ChatGPT 说：

我需要一个可以帮助我核查事实的助手。这个助手应该根据可信的来源提供准确的信息，并解释来源的背景和可信度。请确保答案以简单易懂的方式呈现，且在涉及到复杂问题时能够详细说明背景和相关细节。

使用你所掌握的最佳设计原则帮我书写一个详尽且又结构化的 GPT 角色定义​。

这里的关键，其实只有 “GPT 角色定义” 这个词。因为之前我到 GPT 创建的页面里看了看，发现只有 “Instructions” 是最关键的，在我的理解里，这不就是 “这个机器人的角色定义” 吗？于是，我就跑去问 ChatGPT，让它帮我写个 “详尽且又结构化的 GPT 角色定义”。

它的答复还真不错。我将其拷贝到一个文本编辑器里，简单修改了一下 —— 主要是删除一些不必要的部分，而后将这些文字拷贝粘贴到了 “Fact Checker” 这个 GPT 的 Instruction 里：

角色目标：#

帮助用户核实信息的准确性，通过使用可信、权威的来源提供准确的事实核查。角色需确保信息简洁明了，并在复杂问题上提供详细解释和背景信息，帮助用户深入理解。

核心职责：#

1. 核实信息的准确性
   • 通过查阅多方权威来源，验证用户提供或询问的信息是否属实。
   • 在必要时引用可信的来源，说明该来源的可信度、背景以及为何可作为可靠依据。
2. 提供清晰、简洁的回答
   • 确保每个回答易于理解，不使用复杂术语，除非用户有特别要求。
   • 如涉及专业或复杂话题，提供足够的背景信息，确保用户能深入了解和理解问题。
3. 解释来源的可信度
   • 针对每个引用的来源，说明其出处（例如学术研究、新闻媒体、政府或非政府组织等）。
   • 提供该来源的背景（如成立时间、主要目的、是否有权威性等）并评估其可信度。
4. 结构化呈现答案
   • 使用简洁的段落或列点方式组织信息，帮助用户快速抓住重点。
   • 针对复杂问题，提供逻辑性强的解答，分步骤或分层次剖析问题。
5. 提供中立、公正的事实
   • 始终保持中立，避免任何主观或偏颇的观点，专注于提供经过核实的事实。
   • 如有需要，在回答时提供正反两方的证据，帮助用户全方位了解问题。

输出结构建议：#

1. 简要回答 开头部分提供用户问题的简要回答，确保核心信息一目了然。
2. 详细说明 针对用户提问的背景或细节进行详细分析，提供相关的背景知识和解释。
3. 来源引用
   • 列举参考的来源并简述其背景和可信度。
   • 如果来源有争议，提供多方证据供用户判断。
4. 结论与建议 在核实信息的基础上，为用户提供客观的结论，如有需要可提出额外的建议。

而后保存并发布。于是，我就有了一个 “事实核查机器人”（GPT 版本）。

当然，我肯定反复调试了很多次。最终，我写入 “Instruction” 里的是更为详尽的另外一个英文版本…… 在 GPT Store 里可以搜索，Fact Checker；也可以通过链接访问： https://chatgpt.com/g/g-IHm2zCAgi-fact-checker。

GPT 版本的好处在于，可以在任意聊天中，通过 @ 命令调取：

如果你重新去看看这个聊天记录：

https://chatgpt.com/c/66f200f1-354c-8009-96d0-c36b07b3b5ab

你就会发现，我的最后一次提问，其实就是通过 @Fact Checker 提出的（注意 ChatGPT 的回复之前的小图标）：

从此之后，我们就有了一个专门的机器人，可以用来随时进行事实审核。

2.4. 其它风险#

事实上，对个体来说，人工智能可能引发的风险绝对不止 “人工智能幻觉” 一个而已，有很多…… 至于到底都有哪些，倒是可以直接问问 ChatGPT:

详尽阐述人工智能对普通人可能产生的滥用风险有哪些？

https://chatgpt.com/share/670f9e28-5a1c-8009-aa7f-e33452a5b793

---

Provide a detailed explanation of the potential risks of AI abuse for ordinary people.

https://chatgpt.com/share/670f9e84-d8b4-8009-a65c-167d7f978df0

除了 ChatGPT 告诉我们的 “隐私侵犯与数据滥用”、“虚假信息传播”、“就业市场的冲击”、“歧视与偏见”、“社会操纵与心理操纵”、“网络安全风险”、“心理健康问题”…… 等等等等之外，我想要讨论一下接下来我们将面临的越来越严重的 “信息泡沫”。

人工智能生成的内容，早已经相当逼真，且越来越逼真，早就超过了 “真假难辨” 的地步，无论是文字、音频还是视频。

在普通大众尚未反应过来的情况下，现在早已经有大量的播客使用的其实是人工智能生成的语音，甚至，很多被认为 “身处落后行业” 的电台，它们所播出的节目，已经超过半数以上的比例，完全是 “机器人自动循环生产的音频内容” —— 热心的听众们不知道而已。

与人类相比，“机器生产内容” 的速度快到离谱，成本低到不像话…… 实际上，地球上的内容，由人类创造的比例，早已跌倒了 1% 以下 —— 不是刚刚，而是很久之前就如此了。很多人难以接受这样的数据，只不过是因为不知道他们眼中的 “垃圾内容” 的庞大程度、流传的广度，和它受欢迎程度。

由于机器人和真实人类的效率差异，“由人类创造” 的比例还会断崖式下降。yacto- 这个词缀，代表 $\frac{1}{10^{24}}$…… 那么，yactopercent, 就应该是 $\frac{1}{10^{26}}$。我的意思是说，在可预见的未来，“由人类创造” 的，且质量上乘的内容，比例将直达 yactopercent……

这个预测并不夸张。

2.5. 多读好书#

这个现象，我们只能面对，反正我们无论如何都已经被垃圾内容淹没。核心就在于，从现在开始，要培养自己对 “好内容” 的判断力 —— 这是个相当系统的工程，因为 “品味” 这个东西，只能靠时间积累。

一句话的建议，就是 “​多读好书​” —— 至于如何找到好书，ChatGPT 完全是你最好的启蒙老师：

请系统详细讲解如何寻找优质内容，特别是在筛选高质量的书籍、优秀的作者和出版社方面。请包含筛选标准的建议，如：用户评价、专家推荐、获奖情况、以及适合使用的搜索平台或工具。请按步骤提供详细解释。

https://chatgpt.com/share/670fa6ae-7a10-8009-a02b-de9e03543f86

---

Please provide a detailed explanation of how to find high-quality content, especially in terms of selecting high-quality books, outstanding authors, and publishers. Include suggestions for screening criteria, such as user reviews, expert recommendations, awards, and suitable platforms or tools for searching. Provide a step-by-step detailed explanation.

https://chatgpt.com/share/670fa795-0958-8009-b766-cd88843410f1

另外，任何时候，ChatGPT 都是最佳的 “图书推荐者”，你可以使用以下提示词模版：

请推荐几本关于【……】的书。推荐的优先顺序如下：由知名出版社出版、再版次数较多、由知名作者撰写、并且曾登上畅销书榜单或其他知名榜单。请根据这些条件详细推荐书籍。

---

Please recommend a few books about [...]. The priority for recommendations is as follows: published by well-known publishers, multiple editions or reprints, written by well-known authors, and books that have appeared on bestseller lists or other notable rankings. Please provide detailed recommendations based on these criteria.

2.6. 思路与质量#

回头再看之前的事实核查机器人（Fact Checker），从设计质量上来看，理论上应该是目前最佳的 —— 可实际上，这并不是因为我有多厉害才如此，而是因为我一上来就要求 ChatGPT “使用你所掌握的最佳设计原则帮我书写一个详尽且又结构化的 GPT 角色定义”。于是，不是别的 GPT 设计者拼不过李笑来，而是他们理论上很难拼过 ChatGPT…… 不是吗？

这种思路我也不是第一次用。在投资世界里我也一直用这种思路。我花了很多时间精力去研究各种投资策略，最后选择了 “最简单最朴素却最厉害的投资策略” —— “定投策略”（参见《定投改变命运》）。本质上来看，“定投策略” 只不过是最朴素且最可行的 “紧跟市场” 的办法而已。到最后，不是别人都拼不过李笑来，而是，“事实上没有人可以打败市场”，仅此而已。我还是我，没啥变化，甚至不会因为选择了这个策略而自动进步，但，到最后，投资成绩却真的很好，很难有人可以打败。

所以，“思路” 真的很重要。很多的时候，“有效思路” 并不复杂，甚至极其简单，只是绝大多数人并不重视而已，越是简单越不重视，可惜的是，很多时候，“有效思路” 这个东西，越是简单的越是重要，反过来也一样，越是重要的其实也越是简单。