配置一台适合AI的个人电脑
开发人工智能应用对个人电脑是有基本要求的,即使不涉及任何模型的训练。就拿Macbook 8G内存的来说,最多只能运行一个8B的大模型,根本无法训练这个模型。
对于个人来说,基本不用考虑如何训练大模型,算力的成本通常是无法承受的,但我们可以做一些AI的应用。具体有哪些应用可参考Nvidia的应用,同时也看下应用的硬件要求。以Nvidia Issac机器人应用为例,可在开发者文档中看到具体的硬件的要求。
显示(Graphics Cards)
可以从Nvidia官网看到官网主推“在售主力产品”。主力产品只需要关注TOPS = Tera Operations Per Second这个参数,意思是每秒万亿次操作。TOPS值越高,去处速率越快。对于运行Nvidia Issac应用,GeForce RTX 5070就有较好的性能了。
GeForce RTX 5070名称部分 |
含义 | ||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|
GeForce |
NVIDIA 面向消费级用户的显卡品牌(游戏、创作等) | ||||||||||
RTX |
表示该显卡支持 Ray Tracing(光线追踪)和 AI Tensor Core 加速 | ||||||||||
50 |
表示第 5 代 RTX 架构系列(Ada Lovelace 的继任者,可能叫 Blackwell) | ||||||||||
70 |
表示性能定位等级,“70” 表示高性能主流级别,适合 2K 高帧率游戏 | ||||||||||
无后缀 |
标准版本,若后续有 “Ti”、“SUPER” 表示增强版 中央处理器CPUAMD锐龙处理器(Ryzen 系列)按照等级可进一步分为:
AMD 锐龙 7 9700X的性价比会高一些。
决定了CPU与GPU便可以在电商平台组装电脑了。 Read more![]() 如何用Ollama调用工具Ollama在2025年5月的官方文档中发布目前最新版本的软件可支持tools工具调用,而且列出了目前支持tools的模型。 ![]() 怎么用Ollama本地模型目前来看,Ollama是我遇到的最简单的开源的本地大模型运行框架。当前最流行的Python语言与Ollama可以做出怎样的运用呢? 如何用Docker容器部署应用自从用了Docker之后,部署应用真的是简单很多,再也不用单独安装很多依赖。 适合创业企业的ERP产品小型公司一般不会采用ERP系统,大部分工作都是由Office办公软件处理。办公软件虽然有门槛低的特点,但运行的效率肯定是比较低的。如果小公司想用ERP系统,在没有资金实力的情况下,可以用哪些性价比较高的项目? |