有手就会,不花一分钱!用绿联DXP4800 Plus+Docker打造属于自己的ChatGPT!    

NAS存储 09-24 10:03:17 96 0

一、 AI大模型+Docker+NAS

AI技术其实在很多年前就已经有了,但一直没有找到好的应用场景,所以一直不瘟不火,近些年随着ChatGPT的一夜爆火,各种AI大模型就如雨后春笋般涌现,让人目不暇接。文字、图片、视频、音频一切都可以通过AI来进行创作,未来谁掌握了AI谁就能遥遥领先!

NAS(网络附加存储)作为集中存储的优质解决方案,以强大的数据存储与安全备份能力深受广大消费者喜爱,随着技术的不断发展,NAS配置越来越强、性能越来越好,已经慢慢成为家庭或企业不可或缺的数据中心,办公、娱乐轻松拿捏。Docker作为一个开源容器引擎,可以屏蔽复杂的软件安装过程,只要有镜像就可以几秒钟内完成复杂应用的安装。作为划时代的部署技术,目前主流NAS都支持Docker进行应用部署,成千上万的各种镜像大大增加了NAS的可玩性。今天就让我们一起使用Docker不花一分钱在NAS上部署自己的AI大模型!

二、 绿联DXP4800系列

绿联作为全球科技消费电子领域的知名品牌,其产品从最初的电脑周边慢慢扩展到充电、音频、存储等领域,旗下产品以创新设计、高品质、简单易用、性价比而著称,今年绿联发布了全新的DXP4800系列,硬件方面搭载性能强劲的Intel处理器与DDR5超高频内存,容量最高支持96TB,除4盘位普通硬盘外还支持双NVMe M.2高速固态硬盘,接口方面常见的HDMI、USB3.2、Type-C、双有线网口通通标配。

软件方面更是搭载了自研的新一代UGOS Pro系统,虽然在系统初期存在不少问题,但随着绿联的不断努力,很多初期的问题都得到了一一解决,在广大用户与绿联一起共建下,UGOS Pro会越来越完善。

DXP4800系列总共有两款产品,一款是DXP4800、一款是DXP4800 Plus,DXP4800采用4核4线程,睿频3.4GHz的Intel N100处理器,搭载8G DDR5单通道内存,最高支持16GB内存,拥有两个2.5GbE有线网络接口。DXP4800 Plus则配备了性能更强劲的5核6线程,睿频4.4GHz的Intel 8505处理器,搭载8G DDR5内存,最高容量支持64G,并且支持双通道。另外,有线网络接口一个为2.5GbE,一个为10GbE,散热方面增加了CPU散热风扇,价格方面比DXP4800贵700元。如果预算有限追求性价比可以选择DXP4800,追求更好的性能就选择DXP4800 Plus。

三、 绿联DXP4800 Plus使用体验

因为我比较喜欢折腾,所以选择了性能更强的DXP4800 Plus。DXP4800 Plus采用长方形外观设计,做工非常扎实的黑灰色航空铝加厚机身安全感满满,外壳表面进行了磨砂处理,金属质感直接拉满,论颜值绿联DXP4800 Plus确实比老牌NAS要好看不少。

NAS正面四个硬盘位依次排开,上面还有01、02、03、04的数字标注,每个硬盘仓底部还配置了儿童锁,锁上后硬盘仓就不能被拉出。硬盘仓下面从左到右依次为电源按键、网络指示灯、4个硬盘指示灯、SD卡槽、USB Type-C Gen2接口、USB-A 3.2 Gen2接口。绿联的布局设计非常合理,常用的接口都在前面,使用更加方便快捷,SD卡槽的加入让我们从单反相机拷贝相片、视频更加简单。

背面一如既往的配备了磁吸防尘网罩,拿下防尘网罩即可看到风扇出风孔,绿联DXP4800 Plus采用空气动力学散热设计,14cm大尺寸风扇可以快速带走热量,时刻保持硬盘全速稳定运行。底部为接口区域,从左到右依次为HDMI接口、USB3.2 Gen1接口、两个USB2.0接口、2.5GbE有线网口、10GbE有线网口、复位按键、电源接口,接口配置十分丰富。

将NAS底部面板的螺丝拧下来,拿下面板即可看到两个M.2插槽和两条DDR5内存条插槽,刚好我手头有来自金百达的两根16GB DDR5-5600内存和一块来自希捷的酷鱼530固态硬盘,赶紧给绿联DXP4800 Plus安装上,这样32GB高速DDR5内存搭配2TB高速固态硬盘,加上性能强劲的Intel 8505处理器,性能完全是桌面级了,无论是存储数据还是影音娱乐它都能轻松应对,运行AI本地大模型更加轻松。

绿联DXP4800 Plus安装配置是一如既往的简单,只需几步就可以轻松完成初始化。自研的UGOS Pro系统界面十分清新,左上角为快捷菜单,可以快速打开APP并且支持快速搜索,右上角为CPU、内存、网络使用情况监控、任务中心、通知、搜索、账号管理,桌面左侧为已安装软件列表,界面跟我们常用的Windows类似,即使是新手也能轻松驾驭。

NAS支持Web、PC、手机、电视等多种访问方式,可以非常方便的进行数据集中存储以及读取,同时还提供了专业的客户端管理软件,绿联云APP功能非常全面,只需一个APP就可以搞定所有需求。

除了本地访问以外,绿联DXP4800 Plus还支持通过UGREENlink服务来实现外网直接访问,不需要给NAS配置公网IP更加省事省心,无论你在何地只要能登陆就可以访问NAS的资源,简直是出差人的福音,身在外地也可以随时欣赏NAS中存储的宝宝照片了。

在权限方面绿联DXP4800 Plus提供了个性化权限管理,可以通过角色与用户组来进行灵活的用户授权,而且支持细粒度的读写权限控制,对于共享的文件夹还可以设置使用限额,避免空间被随意占用。

新增用户还新增了邀请注册方式,通过分享链接或二维码图片邀请家人进行注册,家人填写资料后经过管理员审批即可成功注册新用户。

存储方面绿联DXP4800 Plus支持多种RAID模式,比如灵活适配的JBOD、利用率高的Basic、多盘加速RAID0、安全稳定的RAID1、性能均衡的RAID5、安全性高的RAID6以及性能安全兼备的RAID10,大家可以按需进行选择,由于我只使用了两块硬盘所以我选择了安全稳定的RAID1模式。

数据安全方面绿联也考虑得十分周到,除了使用自研的加密技术以外,还内置安全管家可以实现实时防护、定时查杀等功能,安全管家就像一个称职的保镖,24小时保护NAS的安全。为此NAS也通过了美国TRUSTe、南德ETSI EN 303 645认证,并且通过了网络安全等级保护二级测评、360软件安全漏洞测试,大家可以放心使用。

通过NAS内置的应用中心我们可以下载各种软件,轻松搞定NAS管理、同步备份、AI相册、影音娱乐、下载等功能,另外NAS还支持虚拟机与Docker技术,大大增加了可玩性。据可靠消息后续绿联还会支持第三方应用,进一步丰富应用生态。

四、 AI大模型Docker部署

UGOS Pro系统现在支持Docker项目Compose,通过利用别人现成的或自己编写的yaml文件,可以快速创建多个相关联的容器项目,相比以前一个接一个的创建容器、配置容器,部署效率大幅提升。

接下来我们使用Docker进行本地AI大模型部署,首先我们先下载部署工具ollama、openwebui的Docker镜像。

下载完成后进行容器启动配置,选择镜像-》本地镜像-》ollama镜像,点击+号创建容器。

其它参数都不变,只需把网络模式改成Host模式,让容器使用NAS的网络。

容器启动后我们可以查看容器的资源消耗以及日志情况,如果没有报错则新建一个终端。

进入终端,输入ollama run qwen2:0.5b安装千问大模型。

安装完毕后可以直接与千问大模型进行文字对话,由于绿联DXP4800 Plus性能强劲,千问大模型问答相当流畅,没有出现任何卡顿或延迟现象。

接着我们试试更复杂的llama3.1大模型,先运行ollama run llama3.1:8b命令进行安装。

安装完毕后,让AI给我写篇游记大纲也是手到擒来,llama3.1:8b模型比qwen2:0.5b运行要稍微慢一点,但完全能接受。

大家肯定不喜欢一直用命令行来与AI大模型进行交流,这个时候我们就再启动一个openwebui容器,步骤与ollama类似,在配置里面将网络改为host,另外还需要配置一个ollama的访问地址,IP就是NAS的IP,端口是固定的。

容器启动后我们可以通过NAS IP加8080端口进行访问,打开界面我们可以发现它与ChatGPT的页面非常像,在左上角我们可以选择前面安装的两个AI大模型,选择大模型后在底部输入框输入问题即可愉快的与AI进行文字交流了。

绿联DXP4800 Plus得益于Intel 8505处理器+DDR5高频内存的强大硬件配置,除了可以自己部署AI大模型外,绿联还内置了不少基于本地化算力的AI模型,通过这些AI模型可以轻松实现AI智能搜索、图片主体识别、重复照片识别、隐私保护、人脸识别等功能,让相册管理更加轻松快捷。

另外,NAS还支持先进的本地AI自学习识图模型训练,我们可以选择一堆图片进行训练,同时还可以将训练好的模型保存下来,这一切都在NAS本地进行,不需要将图片发往服务器,有效避免隐私泄露。

娱乐方面,UGOS Pro系统集下载、整理、播放、分享全链路于一体,支持常见的下载协议,比如:HTTP、FTP、BT、PT、百度网盘、微软OneDrive网盘等等。整理方面影视中心内置智能算法,可以自动准确的匹配NAS中存储的各种影视信息,打造只属于自己的专属精美影视海报墙,个人感觉绿联的影视中心比第三方的APP更好用。播放方面支持HDR、蓝光、4K、杜比视界,通过电视机连接NAS就可以轻松享受影院级视听体验。分享方面,支持HDMI、DLNA投屏、绿联TV APP、网络挂载访问,另外还支持权限控制,比如:小朋友就只能看适合他们的影片,后续还会上线家长控制模式,可以有效约束孩子的使用行为。

五、 总结

绿联DXP4800 Plus颜值在线、硬件配置强劲、接口丰富,不但可以满足家庭的数据安全存储需求还能为家人带去不一样的娱乐体验,基于AI智能学习的相册、简单易用的影视中心都非常不错。支持虚拟机与Docker大幅提升了NAS的可玩性,绿联DXP4800 Plus既是家庭数据中心又是家庭娱乐中心,装上AI大模型后立马化身为生产力神器。UGOS Pro系统简单易用、安全可靠,每一次更新都有惊喜,未来可期!

有手就会,不花一分钱!用绿联DXP4800 Plus+Docker打造属于自己的ChatGPT!   
广告声明:文中若存在对外跳转的链接(涵盖商品链接、超链接、二维码等各类形式),其目的在于为您呈上更多与内容相关的产品信息,助您迅速甄别。但我们不对其做任何明示或暗示的保证,烦请您谨慎参考,依据自身的需求与判断来做出决策。

网友评论