Llama 2 Everywhere：一个可在各种设备上运行的、独立的、二进制可携带、可引导的 AI 操作系统。

它具有非常高的兼容性，从被学校丢弃的二手 Chromebook到企业级硬件设备都可以部署，而且可以运行在各种操作系统上。在联网和离线的情况下都可运行。

模型通过多样化的文本来源进行训练，包括教科书、开放图书和全面的语料库如 SlimPajama。

GitHub：https://t.co/P7K9cbnjsx

L2E（Llama 2 Everywhere）主要特点：

1.硬件兼容性强：可在各种设备、操作系统上运行，从旧式学校电脑到企业级硬件，离线联网都可运行。它支持 ARM64 架构，并提供可移植性功能、易用性增强和性能优化。

2.小型、专门化的 AI 模型：使用小型局部线性模型（LLM），适应硬件资源有限的环境。该项目还提供预训练模型，并允许用户指定模型检查点、温度和采样的前 p 个值。

3.多样化的训练数据：模型通过多样化的文本来源进行训练，包括教科书、开放图书和全面的语料库如 SlimPajama。这有助于模型具有更广泛的应用性和更高的准确性。

https://t.co/u6Sm6zLIJo化和分布式：这些小型模型不是孤立运行的，而是通过网络连接，形成一个分布式的系统。这些模型还具有自我协调的能力，意味着它们可以相互沟通和协作，以完成更复杂的任务。

5.民主化 AI 访问：通过这种方式，项目希望能让更多人能够接触和利用 AI 技术，特别是在资源有限的环境中。

6.教育应用场景：这些小型模型特别适用于教育环境，尤其是在网络不稳定或不可用的地方。它们可以作为一个信息获取平台，帮助学生查询和学习。

7.集体智能：通过这种分布式和协调的方式，一群小型模型的集体智能有可能超过单一的大型模型。这意味着，即使单个模型的能力有限，但当它们作为一个整体工作时，其总体能力可能会显著提升。

8.事实准确性：L2E项目采用多重策略来减少AI模型输出的幻觉。这包括使用专门化和定期更新的模型，部署事实检查模型，以及通过神经网络和规则进行输出验证。还考虑了重写输入提示和允许社区标记不准确答案，以进一步提高输出的准确性。这些方法共同确保模型输出既准确又可靠。

9.研究方向：项目还探索了使用硬件遥测数据进行模型训练的可能性，这使得模型在自动化、太空、机器人技术和物联网等领域具有应用潜力。

缩小数字鸿沟：

这些特点共同构成了 L2E 项目的核心价值和愿景，即通过小型、专门化的 AI 模型来推动 AI 的普及和应用，特别是在资源有限或网络不可用的环境中。

其中一个引人注目的用例是在学校图书馆或课堂中运行小型模型，特别是在没有互联网连接的情况下。

在这种场景下，"获取信息"可能意味着学生可以通过这个系统查询各种教育资源或知识点。例如，学生可能会查询历史事件、科学概念、数学问题解答等。这些模型可能会被训练来理解和回答这类问题，从而作为一个离线的、即时的信息查询平台。

这样的部署场景在网络连接受限或不可用的地方尤为有价值，因为它可以减少对互联网的依赖，同时仍然提供一个信息获取的途径。这不仅有助于教育资源的普及，还能在一定程度上缩小数字鸿沟。

点击图片查看原图