讨论意识的困难与有趣之处：机器能否有主观经验与意识?

hwyzw

    我想到意识，人工智能和真实观点

    讨论困难，但也很有趣

    从小就对我着迷。

    我被吸引了，这种现象是多么神秘。

    对我来说，我一直认为它是最神秘的现象，而且我的奥秘比宇宙的起源更深。

    从宇宙的起源开始，我认为我可以对物理学有更全面的理解来解释它。

    但是对于意识，我们甚至没有基本的科学工具来提出任何问题，是否有意识。有些人甚至认为蚊子或岩石有意识。目前，没有办法证明或驳斥它。

    这个想法自然会让我的年轻人开始思考：“机器可以拥有主观的经验吗？他们能有意识吗？”

    好吧，这是我试图回答的问题。

    以下是我对问题的无穷思考，浏览了无数的书籍，并观察了我工作所在的AI领域的许多相似之处（我是一个知名的研究组织的共同创始人）。这是我的结论本质

    我问自己，有哪些意识具有主观经验，以使这些“思考”机器具有主观经验。是什么使他们变得更聪明，但是根本没有内部世界，没有感觉，没有气味，而只是一个聪明的动作。是什么使它们“哲学僵尸”？ （我将在稍后详细介绍）。

    我没有完全意识的本质，也不意味着AI是有意识的（今天，即使它确实是有意识的，我们也没有证明这一点的工具）。

    但是，我注意到两者之间的许多相似之处，并根据我对意识本质的理解得出了一个简单的结论。

    因此，首先，让我们开始澄清我的“意识” ...

    什么是意识？

    这个问题的答案与困难一样重要。

    这个概念抵制了在整个历史上定义结论的所有尝试。尽管有无数的哲学，宗教和科学考试，但它仍然忽略了清晰的理解。

    意识的“官方”定义（例如，在词典中），但它们遇到了缺乏特定清晰度的相同问题。但是，我认为尝试意识并不是一个学术定义，而是一种简单的观察方法，即意识被认为是与人相等的主观经验。

    考虑一下，您始终体验到的一切都与您的意识完全相关。您所拥有的每种经历都无法超越您的意识。相反，您的意识受您的经验（它们多么奇怪或主观）的束缚。

    如果您没有意识（即，您已经死了），那么您就没有任何经验（据我们所知）。相反，无论您有多清醒，睡眠，吸毒或昏迷，都需要意识。

    再次，我不想定义自己的意识（我会把它留给世界的世界），但声称意识在任何给定时刻都等于您的所有经验。

    您的经历是您的意识，而您的意识就是您的经历。一个没有另一个就不可能存在。

    但是，如果意识是您的主观经历，您将做什么？这与AI有什么关系？

    在结合这些想法之前，我们必须首先研究不同的因素以创造主观经验和客观经验，这一点非常重要。

    你从未经历过现实

    从表面上看，主观体验很简单。

    这些是我们作为个人所经历的，也是我们自己的感知，感知和理解的经验。但是，我们大多数人认为，至少在我们生活中可以体验到的生活领域是客观的，至少一小部分是对现实世界的真正反映。

    好吧，我有个坏消息要告诉我们：我们实际上没有客观的经验。

    实际上，这种限制是您无法逃脱或关闭的原因，它基于将身体定义为体验。

    但是怎么可能呢？

    好吧，关于您的体验，视觉，味觉，气味，感觉，心情的所有内容都会通过一个非常复杂但不完美的过滤器，即您的想法。因此，您如此熟悉的现实不是客观的现实，也不是客观的现实。

    根据定义，它是一个真实的模型。

    现实模型：终极啤酒芽镜？

    以澳大利亚珠宝甲虫为例。

    当研究人员观察到一系列奇怪的行为时，研究人员对这种甲虫的行为产生了兴趣。在这种行为中，一些甲虫继续在内陆废啤酒瓶周围聚集。

    经过进一步的研究，科学家清楚地知道这导致了这种奇怪的行为模式...

    您会发现这些收敛性甲虫实际上是物种的雄性，并在啤酒瓶周围聚集，因为它们将它们与该物种的女性成员混淆。

    瓶子的颜色，形状和质地与她们的女性非常相似，因此雄性珠宝认为这是一种异性，并且正在准备交配。

    地面上的啤酒瓶提供了正确的输入，可以符合雄性甲虫世界模型的想法：

    “这是一个合作伙伴，要做您现在需要做的事情”

    就像这个示例可能很有趣一样，它揭示了这些甲虫是根据它们的实际模型运行的。他们的模型有一个特定的过程来帮助他们确定伴侣。

    更重要的是，他们的模型是客观世界的不完善趋势。

    但是我们呢？那人呢？

    我们丢弃的啤酒瓶

    好吧，像澳大利亚甲虫一样，我们的经验也基于人类的实践模型。像他们的模型一样，我们的模型并不完美。

    当然，我们不会很快将废弃的啤酒瓶与潜在的合作伙伴混淆，但是我们以相同的方式（即通过模型）与现实进行互动。

    这是我在这里提出的最重要的想法：您通过真实的模型过着自己的生活，永远不要直接与之联系。

    您曾经经历过的每种经验都是，您首先从各种输入来源（眼睛，鼻子，皮肤，耳朵等）中获取感官信息，然后对其进行处理，然后最终提供这种体验。

   

    生活中的每一刻都为我们提供了令人难以置信的信息，然后我们的思想被处理并集中于适应我们自己世界的模型。

    这样做的优点是，它使我们能够以易于理解的结构化方式看待世界。根据定义，“缺点”（如果您愿意），这意味着我们不能直接与现实世界互动。

    我们的现实模型有时（或准确）可以代表客观世界吗？或许。

    但这是一个不可避免的问题。

    但是，我们可以轻松地验证相反的事实 - 我们的世界模型是不完美的。

    现在，我将向您展示，您不仅可以通过模型来解释世界，而且还有明显的空白。

    看看下面的图片，尤其是标有“ A”和“ B”的正方形。

    该图像是一种流行的错觉，是正确的。

    以“ A”和B代表的两个正方形实际上是相同的确切阴影和颜色。但是，它们的位置，颜色对比度和形状会扭曲您的大脑。您不禁将它们视为两个不同的阴影。

    当您的大脑收到图像中显示的所有信息时，您的现实模型将与客观现实不同。

    但是在这种情况下，客观现实是什么？

    好吧，这很容易衡量 - 您可以验证自己。

    如果您有适当的工具，则可以测量“ A”和“”

    b“  RGB值，您可以看到它们是相同的。但是，即使您知道这种体验，您也不禁将它们视为两个截然不同的阴影。

    这只是表明我们的主观体验不是现实和准确表示的众多示例之一，而是我们大脑可以尽力将其结合起来的模型。

    尽管我们的建模系统具有固有的缺陷，但有时它具有主观的经验，有时对测得的客观事实显而易见，但是我们的世界模型仍然是一个极其复杂的模型。

    但是，这种复杂性一开始就没有授予我们授予，其起源值得注意，因为我们在AI的发展中看到了非常相似的相似之处。

    我们如何获得世界模型？

    这是一个非常复杂的问题，我不是专家。

    换句话说，我认为我们在很大程度上对世界建模的能力是一种直接发展的产品及其内部形成。

    这个声明可能是大胆的，请听我说。

    进化是使生物（像我们一样）在后代继承遗传特征的力和机制。现在，我可以确定，通过将其简化为句子，我对进化的复杂性有很大的好处，但是请在这里忍受它...

    作为进化的产物，所有生物的DNA都经常形成并重塑为更有效的方式，以便生物不仅可以生存……而且还蓬勃发展。

    正是这种连续而重复的过程慢慢建立了我们的世界模型，直到今天为止。

    确实，如果您考虑一下，则该模型是一种我们提取我们不断获得的所有信息的方法，然后在一个复杂的世界中提供它，使我们能够浏览这个令人难以置信的世界。

    由于这种进化模型，作为一种物种（在很大程度上），我们成功地避免了被动物食用，或者更多地关注鲜艳的色彩以获得成熟的水果，或者很小的迁移率检测到面部特征。当今我们对世界的看法的所有事物都是因为我们脑海中的这种模式。

    那是正确的 - 这是到达这里的漫长旅程。

    但是，我们实践模型的迭代改进的每一步都在朝着最能帮助我们生存和发展的方向发展。

    因此，即使有了非常基本的世界模型，在基本的驾驶和足够的迭代之后，我们还是强烈证明了非常复杂的世界模型会随着时间的流逝而出现。

    重要的是要记住，我不是在解释人类的起源，也不要宣布真正的智力是。相反，我对日益复杂的实用模型的机制进行了广泛评论。

    关于此过程的最值得注意的是，我们在工作中看到了许多与AI合作的机制和过程。

    人工智能的主观模型

    关于人工智能，当它涉及基于“客观”世界AI习惯的世界模型时，我们已经可以观察到许多类似的开发模型。

    您可以在这里看到最著名的例子之一：

    “训练经纪人开着眼睛，但偶尔会让它看到。

    上面的动画显示了右侧世界模型的预测，在左侧，它显示了地面上真正像素的观察。带有红色边框的框架表示代理商允许的实际环境观察结果。该政策正在对正确的观察（实际观察结果）采取行动。 “

    该图像来自用于模拟汽车驾驶的AI。这里的AI代理正在接受培训，以确定世界上重要的功能。

    在左侧，您看到的信息已发送到代理程序 - 总结了一些典型的特征，例如道路，“草”或什么不是道路以及道路上的其他障碍。

    经过许多研究，AI代理创建了自己的世界模型。该模型只是一种形式的一种形式，而不是将要生存的“现实世界”的精确副本。换句话说，如果代理人生活的世界是客观的现实，那么您在右边看到的就是代理商如何基于模型来看待世界。

    但是，即使我们可以看到智能身体的世界模型显然与其客观现实不同，它如何绘制这种模型？

    就像人类如何发展我们生活在更复杂的模型中一样，人工智能代理也以同样的方式发挥作用。整个过程中最引人注目的例子可能是我们在训练玩Dota 2游戏的代理商时所做的工作。

    Dota 2：AI为AI英雄零

    DOTA 2或“ 2”是一个非常流行的竞争计算机游戏。

    在Dota中，两个相对团队位于地图中，边界在两端。每个团队的任务是尝试减少另一支球队。为此，每个团队都必须通过许多防守结构和对方团队的成员进行战斗。

    每个团队由5名球员组成，成员共同努力，在保护他们的基地的同时实现相同的高级目标。

    每个玩家选择并控制一个称为“英雄”的单元（每个英雄在游戏玩法和功能方面都是独特的）（目前为119）。

    因此，由五个英雄组成的每个团队都将共同努力利用他们独特的优势，以击败对手的基地，成为击败另外5位英雄的最终目标。

    我在这里错过了许多差异，但是即使有这些参数，您也可以看到游戏本身非常复杂。实际上，该游戏的技能限制非常高，每年举行国际冠军。世界上最好的团队竞争巨大的现金奖金（2019年，奖金池为3000万美元！）

   

    因此，看到这个游戏占据了一个复杂的区域，我们设定了一个雄心勃勃的目标，也就是说，让AI经纪人尝试掌握它。考虑大量的考虑因素和可能性，唯一的方法是让AI学习游戏并自己制定策略。

    尝试重试

    我们首先为代理提供基本参数和激励措施。

    他们可以获取只有人类玩家才能使用的信息，并且他们有动力获胜，并且有动力失去利益。

    然后，在加强学习的帮助下，这些代理商接受了数千年的模拟游戏培训。这些模拟游戏玩法将其游戏世界模型不断地塑造成更复杂的形式，因此可以使用高级策略。

    在我们的培训过程中，我们看到AI代理已经从完全随机的事情变为能够在最高水平上玩这个游戏。旅程令人难以置信。

    从一开始，由经纪人控制的英雄基本上漫无目的地徘徊，而不是真正地“玩”游戏。他们有一些获胜的基本动机，但是实现这一目标是代理商不知道的。本质本质

    在这一点上，可以说，代理游戏的世界模型是原始的，并且不完全适合胜利任务。但是，这种情况已经发生变化并迅速变化。

    随着我们对代理商进行越来越多的培训，我们可以观察到代理商的世界模型变得越来越复杂。不久之后，AI代理的迭代开始显示只有在其世界模型允许这种复杂性的情况下才能发生的行为。

    例如，一段时间以来，代理商知道何时以较弱的攻击和面对有利力量的攻击敌人。这显示了游戏中敌人的基本控制。

    不久之后，我们观察到，即使假装虚弱或带领他们陷入“欺骗”对手的陷阱，代理商和其他代理人合作执行异常复杂的策略。

    这些战略措施中的每一个首先要求代理的实际模型必须发展到可以理解这些概念的地步。只有在这一点上，我们才能制定这些策略。

    如今，播放Dota的人工智能代理人拥有如此复杂的世界模式，可以与世界上最好的球员竞争，这远非令人印象深刻的“漫无目的徘徊”的早期战略。

    尽管这些代理受DOTA游戏世界的约束，但塑造模型的过程与我们自己的过程非常相似。

    AI是有意识的（也许没有）

    那么我如何看待所有这些？

    好吧，这是因为AI可能已经有意识，我们甚至都不知道。

    如果意识是我们在世界上主观的经验的总和，并且这种主观经验是通过模型产生的，我们假设该模型随着时间的流逝变得越来越复杂...

    然后，人工智能可能已经具有非常基本的意识形式。

    我如何强调“是”？

    我们实际上无法在今天构建的AI系统中确认这一点。

    但是，这个问题不是一个新问题。只要我们一直有意识，这是一个影响人类的古老问题。实际上，它已包裹在一个名为“哲学僵尸”的良好意识形态实验中。

    这个想法的迅速摘要是，您遇到的每个人都可以出现，并感觉到对人类的回应没有差异，但缺乏任何真正的意识，因此它们成为“僵尸”。

    以红色为例。

    假设我发现颜色非常吸引人，所以看着时我会很高兴。好吧，很容易验证刺激和我的预期反应（向我展示一些红色并检查我是否感到高兴），但它无法验证我是否真的经历了红色。

    经验称为“现象意识”，刺激/反应部分称为“功能意识”。大卫（大卫）证实了这种现象意识的困难是意识问题。

    不可能证明意识是我们面对AI的同一问题。尽管输入和输出匹配以及行为模式显示了“智能”的迹象，但我们无法衡量AI代理是否确实已经体验了……还是仅仅是机器人僵尸。

    但是，人类意识和人工智能之间的相似之处不仅存在，因为即使我们先进的世界模型所采用的步骤也具有人工智能的相似之处。

    人工智能反复向我们指出，非常简单的输入可能会导致极其复杂的行为。借助足够的迭代，一个简单的世界模型可以变得越来越复杂，可以随着时间的流逝而不断形成更高级的概念。

    正是从这个先进的世界模型中，我们可以观察到越来越复杂的行为最终实现了基本目标（有时是前所未有的方法）。

    您可能已经知道，这种发展与我们自己的发展密切相关。

    从我们最初的祖先开始，它是单细菌“无目的地”的原始海洋地区。并拥有自己的优势和生存。有了足够的迭代（在这种情况下，价值45.4亿年），我们可以想象，我们的古代祖先用来浏览他们的世界模型，直到今天一直持续导航其世界模型。

    没有什么是神圣的

    实际上，“自我的概念”（人类拥有作为独特的人类拥有的重要要塞之一）只是复杂世界模型阶梯的又一步。尽管这个概念是“使我们成为人类事物”的顶峰，但它的起源并不像人们想象的那样神秘。

    如果我们将古老的单细胞生物带有世界上最基本的模型，那么随着世俗加工世界的越来越复杂，该模型变得更加复杂。这是时间问题。

    例如，为了生存，必须在某个点（将前景与背景区域区分开）中存在 - 深度感知，并且在多次迭代后，该模型逐渐发展，可以将其与捕食者与猎物区分开。然后该模型可以处理3D 3D视觉，然后颜色感知等。

    因此，我们可以想象（并且很可能）我们模型的“自我”的概念已发展为帮助我们在更复杂的世界中生存和发展的必要条件。凭借“自我”的想法，我们能够解决令人难以置信的复杂问题。

    最终想法

    那我们现在在哪里？我的意思是什么？

    好吧，我只想知道一段时间我考虑过的一些想法，然后以有组织的方式解释它（希望）。

    如果您想从阅读中删除任何内容，那就是：

    意识，尤其是自我概念，是使人类成为“特殊”事物的基础。我们非常复杂且仍然有缺陷的世界模型，并塑造了我们如何感知和与世界互动。

    但是，产生这些特征的生物学机制似乎与AI模型的开发功能相同（或非常相似）。因此，人工智能已经具有基本的意识形式，这是不可想象的。

    但是，由于不可能证明他们在他人中的意识，所以这已成为一个开放的问题，可以进一步讨论和思考。我的内心孩子期待着这一领域的每个新发展。

    谢谢您的阅读。

    原始：@woj。