2025-04-10 129

过度自信:AI代和专业知识的幻想

如果您像我一样,您可能会在模因或滑板甲板上看到邓宁 – 克鲁格(Dunning-Kruger)曲线,并悄悄地吹出鼻子,思考:

然后,您度过了一天的一天,享受着智力谦卑的温暖光芒。

图1-我很聪明。 (图像源)

但是在深夜的维基百科兔子洞中,我偶然发现了原始纸,不熟练而不知道它:识别自己的无能导致自我评估的困难如何(Kruger&Dunning,1999)。

那是真正的恐怖片中的时候。

事实证明,熟悉的图被广泛误解。该论文根本不是关于智力的。它揭示了一个更清晰,更具体的认知偏见:

和实际图表?他们看起来更像这样:

真实的图1-等待片刻。 (Kruger&Dunning,1999)

它打了我。在误解邓宁 – 克鲁格效应时,我已经成为了它的海报孩子。

我高估了我对高估的概念的理解。我短暂地看一眼几个模因,这使我有足够的意识,让我感到了解,但不足以避免从根本上误解这个想法。

我很害怕。我脆弱的自我形象破碎了。

因此,自然而然地,这让我思考了生成的AI

AI将世代从最真实的意义上令人难以置信。 Chatgpt的深入研究从几个小时或几天减少了几乎所有领域的表面水平知识的障碍。在不到一个小时的时间内,诸如lovable.dev,bolt和v0之类的工具可以使您代码一个功能齐全的全栈,多租户SaaS应用程序,并配有数据库和身份验证。

但是,这种深刻的转变不仅意味着人们学习得更快 – 这意味着越来越多的人踏入陌生的领域,并拥有足够的信息,可以感觉到流利的,只有足够的工具来提供一些有效的东西,而不是足够的背景来进行批判性思考或质疑有缺陷的假设。

这正是Dunning-Kruger效应所开始的地方。

我想强调清楚:我并不是在建议Dunning-Kruger曲线正在改变形状。我没有对百分位数,感知和实际能力之间的三角洲或笨拙的人提出任何要求。但是,从零转移到某些能力的人数正在增加,随着他们的量,自信的想法也是如此。

这包括我们所有人。

在高增长公司,我们经常明确要求大胆地移动,并以行动偏见,这是一个固有的风险的重要指令。当放慢速度的成本比错误的成本高时,就很容易提前充电而不意识到我们正在建立摇摇欲坠的基础。

我参与了应该花几天时间延长几周的项目,因为两个人认为他们是对齐的,只是发现一个人的意思是W,要求X,另一个人听到Y,我们最终遇到了Z。

这些失败并非来自不良意图。他们来自基于缺陷的假设,在压力下不停地建立的信心。

虽然理想是失败,但我们通常会缓慢失败,燃烧时间,金钱和信任此过程。我们可以快速移动,但是当我们跌倒时,我们用力撞到人行道,只有太多的皮肤就可以失去。

这不是谨慎行动的呼吁。冒险对于长期成功至关重要。但是智能速度意味着在开始跑步之前暂停足够长的时间来检查我们的基础。

我们都将继续犯错。目的不是消除它们,而是要避免可预防的目标,而是制造智能的目标。聪明的错误是良好的决策,明确的权衡和周到的赌注来教会我们一些东西并推动我们前进的那种错误。

想想东京和纽约地铁系统:导体指的是信号,标志不是减慢事物的速度,而是引起注意。目的是中断足够长的自动行为以防止高影响错误。

火车指挥指着和通话。 (图像源)

我们需要类似的轻量级仪式,迫使我们停下来思考。我们感觉越有信心,停下来问:“我真的知道我知道我知道的吗?”

我没有所有的答案,但是这里有三种工具,我一直在尝试朝着第一原理进行思考:

低复杂性。容易记住。本能的幼儿逻辑。我在对话中或措手不及时倒下。

从经典上讲,这五个人是一种根本原因分析的方法,询问“为什么?”反复(通常是五次)以超越表面级别的推理并揭示实际发生的事情。

就是说,使用“为什么?”一词。可以迅速感到对抗性和指责,因此可以重新融入“如何?”中。或“什么?”问题可以使对话保持协作,并专注于真相。

如果您以可伪造事实的声明降落,那么您可能会遇到第一个原则。如果您登上类似的东西,“因为我们一直以这种方式做到这一点,”“因为我这么说”或“只是它”,那么您可能会发现一个植根于习惯的假设,值得分解。

这些对话不需要正式或强迫。当我们停止提出问题时,他们只是要放慢脚步,以便注意到。

(注意:您可能会更深入地开始质疑一切 – 您的生活,工作,职业,家庭 – 但实际上,您必须停在某个地方。

卡尔·萨根(Carl Sagan)

更高的复杂性。使用速度较慢。更全面。在审查文件,思考艰难的决策或刚刚感到沮丧时,我依靠这一点,但我无法解释原因。

它比五个人更广泛,更结构化。我从Shane Parrish的出色心理模型中汲取了一个版本,将过程分为六个步骤:

步骤1:澄清您的思维并解释您的想法的起源。

我为什么这么认为?我到底想什么?

步骤2:挑战您的假设。

我怎么知道这是真的?如果我想相反怎么办?

步骤3:寻找证据。

我该如何备份?什么是来源?

步骤4:考虑替代观点。

别人会怎么想?他们为什么会相信?我怎么知道我是正确的?

步骤5:检查后果和含义。

如果我错了怎么办?如果我错了,后果是什么?

步骤6:提问原始问题

我为什么这么认为?我正确吗?我可以从推理过程中得出什么结论?

感谢您实现这么远。 (图像源)

人们会要求您进行时间估计。这是正常的,您无法逃脱,这些估计会影响多个工作流的计划。

如果您不知道,那没关系。以仍然有用的诚实答案来确认这一点:

关键是要实际利用这段时间思考问题,问题假设,查看受影响的系统,并根据真实的东西而不是肠道的感觉进行估计,而不是按数量的数量级来进行估算。

奖金获胜:通过限制障碍,您可能已经知道不可避免的后续行动的答案:

这很重要。猜测“几天”变成“几周”,然后变成“几个月”的猜测不仅错过了任意的截止日期。它在团队,利益相关者和客户之间造成混乱和误解。

一开始停顿两个小时比错过一个项目要比错过几周的时间要好得多。

我们不需要放慢脚步,但是我们可以闭上眼睛停止冲刺。

这不是要谨慎。这是关于使用一些工具足以避免可预防的错误并犯明智的错误。

问问题。对您不知道的诚实。请记住,自信与正确的人不同。

Parrish,S。和Beaubien,R。(2024)。伟大的心理模型,第1卷:一般思维概念。企鹅。

Kruger J,Dunning D.非熟练和不知道它:承认自己的无能导致自我评估的困难如何。 J Pers Soc Psychol。 1999年12月; 77(6):1121–34。 doi:10.1037 // 0022–3514.77.6.1121。 PMID:10626367。

Join now ?

立即创建 账号,开始交易