上一篇总结了SONiC Switch Telemetry的方法：Sonic Telemetry Deployment，由于测试RDMA时不仅需要监控交换机，还要监控服务器，因此此篇就是在原有架构基础之上融入Server测的相关监控。Server测主要通过node exporter采集本地信息，然后吐给Prometheus，本地信息主要包含如下信息：

• 支持RDMA相关的各种硬件Counter信息（CNP/ECN、重传、QP 状态等），专有计数
• 支持Ethtools中Per-Priority相关的counter，这个是通用计数

另外更新之前自动生成配置的shell脚本，覆盖服务器这边的配置。

之前在老东家做TME时，整理过IOS XR相关的Telemetry，比如：Telemetry Solution Demo with IOS XR，也研究过 Telemetry Receiver by UDP+KV-GPB。但对Sonic Switch一直没搞过，一是Sonic是基于redis数据库的，对openconfig支持的不好，另外之前用的思科开源的pipeline很久没更新了，应该是被废弃了。2024年整理过Sonic + Telemetry，那时用的是Telegraf作为中间件，而且为了灵活，在SONiC上安装Telegraf的container，但这个方案真正实施起来有些繁琐，不如直接在服务器上部署Telegraf，当时很忙，也没时间整理，时间长了，细节就忘记了。

这次正好又面临可视化需求，因此重新梳理了架构，这次不再使用Telegraf+influxdata，而是采用gnmic + prometheus的方案，gnmic是openconfig开发的，而且在github上更新频繁。代码内容，可以查看：https://github.com/yongpro/sonic-telemetry

另外更新了Server Telemetry，具体看这篇总结：Server Telemetry Deployment，是在现有架构基础之上扩充的。

注意：整个方案会不断迭代和优化，因此文章原始内容我可能不一定会跟着优化而修正，我只是给自己作总结。如果需要参考，请过完整个文档。另外部署Telemetry平台，建议在本地局域网，避免数据传输延迟导致数据不正确。

本机跑Ollma很容易，分开跑同样很容易 ~ 也就是如下Topology：

MacBook pro（web） ——– （openwebui）synology 918+ ——–（ollama）MacStudio

为什么这么繁琐，主要是不想在Mac上安装docker，另外也不想把openwebui直接安装到host上，正好利用这种方式测试下交互，所以才有了这篇文章

Ollama设置 – Mac Studio

创建 launchd 配置文件

在下面文件夹中增加一个配置文件，默认应该没有这个文件夹，我是安装过NAS的drive应用，所以就不用新建了。确保ollama路径是正确的，通过which命令验证，以及打开局域网访问OLLAMA_HOST 0.0.0.0：

yong@yongdeMac-Studio ~ % more ~/Library/LaunchAgents/com.ollama.ollama.plist
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE plist PUBLIC "-//Apple//DTD PLIST 1.0//EN" "http://www.apple.com/DTDs/PropertyList-1.0.dtd">
<plist version="1.0">
<dict>
    <key>Label</key>
    <string>com.ollama.ollama</string>
    <key>ProgramArguments</key>
    <array>
        <string>/usr/local/bin/ollama</string>
        <string>serve</string>
    </array>
    <key>RunAtLoad</key>
    <true/>
    <key>KeepAlive</key>
    <true/>
    <key>EnvironmentVariables</key>
    <dict>
        <key>OLLAMA_HOST</key>
        <string>0.0.0.0</string>
    </dict>
    <key>StandardOutPath</key>
    <string>/tmp/ollama.log</string>
    <key>StandardErrorPath</key>
    <string>/tmp/ollama.err</string>
</dict>
</plist>
yong@yongdeMac-Studio ~ % which ollama
/usr/local/bin/ollama

加载并启用服务

修改WEB访问的端口

默认https的端口是443，某些情况下，443有可能被禁了，所以想用其他端口，此时可以直接在下面文件中修改端口，重启即可：

[root@localhost:~] more /etc/vmware/rhttpproxy/config.xml | grep 443
      <httpsPort>443</httpsPort>

通过命令行启动虚机

重启ESXI主机后，如果发现重要的虚拟机忘记放入开启自启动了，此时还无法通过web页面访问ESXI，但SSH可以访问，此时就需要通过命令行来启动虚拟机，方法如下：

Some applications only working in same broadcast, so vpn feature is must have when access personal resource (e.g: NAS) from Internet. The artical only cover Wireguard, but not include theory.

Install APP

Follow up by the Github for synology-wireguard, not summarized again. Just put the spk that base on DSM7.0:

Follow base on DSM7.2: