AI 工具

llama.cpp

访问网站

使用 C++ 推理运行时在本地运行支持的语言模型权重。

免费额度AI 模型与开发工具需要设置

概览

你提供什么

  • 兼容模型权重、提示词与硬件配置

你将获得

  • 生成的 token 或本地模型服务响应

价格与使用

免费额度

软件或已发布权重可按 MIT 使用。模型推理、外部服务与自有算力另算;未核验托管套餐价格。

官方价格 ↗

价格核实日期:

使用流程

  1. 安装支持的发行版,并参考官方模型与服务端示例。
  2. 准备输入:兼容模型权重、提示词与硬件配置。
  3. 运行小型、可撤回示例,并检查输出:生成的 token 或本地模型服务响应。
  4. 测试内存使用,并检查代表性提示词的输出。
环境要求与安装
  • 尝试此工作流前,配置文档中的运行时与获授权的服务访问。
套餐与计费详情

估算使用成本

  • 审查范围为许可与文档中的免费使用边界,不包括具体价格或当前托管套餐额度。

价格为核实时的快照。请向服务商确认计费周期、税费与当前额度。

限制与复核

  • MIT 运行时不授予所有可加载模型的许可,也不免除硬件成本。
  • 仅审查来源证据:本次抓取未安装或实测产品。

你的部分

  • 测试内存使用,并检查代表性提示词的输出。
何时考虑其他产品

未经审查的生产决策、不受限制的账户访问,或保证正确的事实结果。

常见问题

llama.cpp 是什么?

llama.cpp 是 C++ 推理工具,用于在本地硬件上运行受支持的语言模型权重。

llama.cpp 能做什么?

记录中的产出包括:生成的 token 或本地模型服务响应。

llama.cpp 适合谁?

它适合需要完成以下工作的人:使用 C++ 推理运行时在本地运行支持的语言模型权重。

llama.cpp 的费用是多少?

软件或已发布权重可按 MIT 使用。模型推理、外部服务与自有算力另算;未核验托管套餐价格。

使用 llama.cpp 前应检查什么?

尝试此工作流前,配置文档中的运行时与获授权的服务访问。请留意这一限制:MIT 运行时不授予所有可加载模型的许可,也不免除硬件成本。

什么时候应该考虑其他选择?

它不适合:未经审查的生产决策、不受限制的账户访问,或保证正确的事实结果。

网站流量

llama.app

估算月访问量271,726

2026-09

上月访问量: 357,950

快照采集日期:

Google 月度自然搜索流量估算5,818

全部可用地区与语言

月度付费搜索流量估算:0

快照采集日期:

搜索流量根据关键词排名、搜索量和点击率估算,不包含直接访问和引荐访问,不等于网站总流量。

最近 13 个月的 Google 搜索流量
2025-102026-10
逐月数值
月份估算访问次数
2025-108
2025-118
2025-1210
2026-0111
2026-0212
2026-033
2026-042
2026-0537
2026-0652
2026-07610
2026-087,165
2026-0915,342
2026-105,698

缺少估算的月份留空,不按零计算。

整个域名的估算值,包含该域名其他产品及页面;不能代表已核验的使用量、收入或产品质量。

流量增长榜 →

来源与核验3

本页依据官方资料整理,尚非产品实测。

厂商描述与演示说明其宣称的功能,本页的选择建议依据这些资料整理。

发现来源: OpenFree.Tools.

  • llama.cpp — 官方 READMEraw.githubusercontent.com

    维护者 README 支持此功能范围:使用 C++ 推理运行时在本地运行支持的语言模型权重。

  • llama.cpp — 产品入口llama.app

    已获取公开产品入口。本记录中的功能范围与设置步骤以链接的维护者 README 为依据。

  • llama.cpp — 许可条款raw.githubusercontent.com

    获取的许可材料支持此边界:MIT。应按使用场景审查完整条款。

产品信息

产品类型
AI 工具
入门
需要设置
类别
AI 模型与开发工具
证据
官方资料审阅
建议更正已收录?获取徽章