你听说过ENIAC计算机吗?作为一台重达27吨、占地1800平方英尺的庞大硬件，ENIAC在1946年开启了计算机时代。这台设备在规模上真正令人震惊——拥有6000个手动开关和17468个真空管，使用200千瓦的电力——作为世界上第一台可编程的通用电子数字计算机，它改变了游戏规则。

当时ENIAC制造的轰动性新闻头条，对于任何关注当前AI领域发展的人来说，都会感到诡异地熟悉。

1946年4月，《流行科学月刊》大声疾呼：“借助闪电般快速的计算机处理多年来困扰人类的难题，今天的方程式可能成为明天的火箭。”

费城晚报报道称：“宾夕法尼亚大学30吨重的电子大脑思考速度比爱因斯坦还快。”

快进到75年后的今天，控制你智能冰箱的Cortex-M4芯片的速度比ENIAC快了10000倍——仅使用90微安每兆赫兹的电流和几英寸的空间。这是因为随着计算技术的成熟，设备经过专门优化，变得在特定的、有限的、经济高效的应用中更为有效和高效。

这也是AI发展的方向。

技术的专业化

就像ENIAC一样，AI目前正在引发巨大的兴奋和乐观情绪(以及一点点焦虑)——特别是随着GenAI在过去一年中的飞速发展。然而，如果我们想了解其长期轨迹，我们可以从计算硬件的历史中学到很多。事实上，这是大多数技术遵循的相同路径。事物从大、强大和集中开始，一旦发挥了作用，就开始专业化、本地化并变得更适用于高效的边缘案例。

从大型电话交换板到智能手机，从大型发电厂到家用太阳能电池板，从广播电视到流媒体服务，我们引入大型和昂贵的东西，然后开始一个漫长的精炼过程。AI也不例外。事实上，使AI成为可能的大型语言模型(LLM)已经如此庞大，以至于它们有变得难以管理的危险。解决方案将是AI技术的专业化、去中心化和民主化到特定的用例中——这就是我们所说的“边缘AI”。

LLM：巨大的承诺(和迫在眉睫的挑战)

像GPT(生成式预训练转换器)这样的LLM使AI时代成为可能。这些巨型模型接受大量数据的训练，具有前所未有的理解、生成和与人类语言互动的能力，这些模型模糊了机器与人类思维之间的界限。

LLM模型仍在不断进化，推动着可能性的极限——这是令人难以置信的。但这并不是一张空白支票。所需的大量数据量和处理这些数据所需的计算能力使得这些系统的运行成本极高，并将难以无限扩展。LLM对数据和计算能力的需求已经变得极其强烈——它们所需的成本和能源消耗很高，很快就会超过我们维持它们的资源。

按照我们当前的速度，LLM很快就会遇到一系列内在的限制：

可用于训练的高质量数据的可用性。

为如此庞大的模型供电的环境影响。

不断扩展的财务可行性。

维护如此大的实体的安全性。

鉴于AI采纳和扩展的惊人速度，这一转折点并不遥远。主机用了75年时间可能成为AI几个月的事情，因为局限性触发了向更高效、去中心化、易于获取的AI子集转变的需求：小众边缘AI模型。

边缘AI的兴起

边缘AI的兴起已经在进行中，我们看到AI在更小、更专业的模型中部署，特别是在物联网中，这种AI方法将处理任务从集中式数据中心转移到网络的“边缘”，更接近于数据实际生成和使用的地方。它包括一些你可能听说过的术语：

小型语言模型：这些是理解和生成类似人类文本的AI版本，但大小较小。可以将它们视为“迷你大脑”。它们较小使得使用起来更快且成本更低，特别是在不是很强大的设备上，如你的智能手机或田间设备的芯片。它们对自己的责任领域非常了解，但可能不像它们更大的LLM兄弟姐妹那样知识渊博或有创造力。这些模型得益于高度并行GPU的最新进展——支持具有通用机器学习(ML)的更成熟的神经网络。

边缘AI：这是一种说法，意思是AI在行动发生的地方运行，如你的手机、街上的摄像头或车内，而不是远在数据中心的大型计算机上。 “边缘”指的是网络的外边缘，靠近数据创建和使用的地方。这使得处理速度更快，因为数据不必走远路，同时也可以保护你的数据更加私密，因为不总是需要通过互联网发送。

专家混合：在人工智能中，“专家混合”就像一个专家团队，每个成员都擅长特定的任务。这是一个由许多较小的AI单元(专家)组成的系统，每个单元都专注于不同类型的工作或知识领域。面对一个任务时，系统会决定哪一个专家或哪些专家的组合最适合处理这个任务。通过这种方式，AI可以非常高效地处理各种任务，因为它总是使用最适合该任务的工具。

这些技术共同使得AI更加多才多艺和高效，易于训练、运行和部署——能够在许多不同的地方和方式中工作，从我们家中和口袋里的微型计算机到需要专家知识的专业任务。我们之前提到的智能冰箱就是一个例子，交通灯阵列是另一个例子——自动驾驶汽车、糖尿病管理、智能电网、面部识别，这个列表和人类的创造力一样无穷无尽。

边缘AI的风险和回报

与任何技术一样，边缘AI带来了固有的风险和回报。让我们快速浏览一下这个列表。

边缘AI的好处

增加创新：通过消除开发瓶颈，边缘AI为创造性的、利基的应用和微应用的激增打开了大门——任何有意愿和能力创建应用的人都可以利用这一点。

减少资源和增加容量：边缘AI减少了延迟并且具有较低的处理需求，这大大降低了成本和消耗。

增强的隐私和安全性：本地数据处理意味着敏感信息不需要通过互联网传送，从而减少了数据泄露的风险。

可定制和独立：边缘AI允许使用本地、特定数据训练的模型，提供更准确、更相关的解决方案，这些模型可以独立且可靠地运行。

边缘AI的挑战

质量控制：模型的增多增加了对严格的质量和验证过程的需求，并可能在质量控制环节产生新的瓶颈。

安全与治理：更多运行AI应用的设备确实扩大了安全漏洞的可能性，更多的创造者也可能使这些过程过载，并开启一个“狂野西部”环境。

范围有限和可扩展性：边缘AI模型设计用于特定任务，这可能限制了它们在不同场景中的扩展或泛化能力。

需要监督：需要领导者对所有开发活动进行监督，帮助创造者保持在创意的安全范围内。这包括控制冗余的潜力，因为解决方案可能会在真空中增殖和复制。这里的解决方案将是可以帮助跟踪、开发并从概念到开发阶段指导创意的软件。

从这份列表中可以看出，我们有一个重新设想AI应用开发和管理方式的绝佳机会。然而，尽管节省了成本并带来了创新红利，许多首席信息官和合规负责人可能还是会急于确保新的边缘AI技术是兼容的、受控的和经过验证的。将边缘AI作为一个强大的工具交到普通人手中，可访问性可能是一把双刃剑。

展望未来

我们正处在AI发展的新时代边缘，向边缘AI的转移可能会是一次范式变革，这种变革与从那些笨重的旧式主机到今天的个人计算机的巨大飞跃相呼应。这种转变承诺使AI更加可访问、高效并针对特定需求量身定制，从而以我们还未完全想象到的方式推动创新。

在这个未来，AI的潜力是无限的，仅受我们的想象力和我们对负责任地指导其发展的承诺的限制。