当前位置: 首页 > news >正文

如何居家远程调试在公司内网的 Kafka 集群!内网穿透让内网集群秒变公网可访问

前言

作为常年和分布式系统打交道的开发者,我猜你一定遇到过这种糟心事:想在家调试公司内网的 Kafka 集群,却被防火墙、无公网 IP 这些问题卡得死死的 —— 要么只能等运维开端口,要么被迫跑回公司,原本 10 分钟能搞定的调试,硬生生耗上大半天。

最近我摸索出一个超实用的方法,不用改 Kafka 任何配置,也不用走繁琐的权限审批,靠内网穿透就能把内网的 Kafka 端口暴露到公网,居家远程调试 Kafka 直接丝滑拉满,今天就把这套实操方案分享给大家。


文章目录

    • 前言
    • 1.安装前准备
      • 1.1 操作系统要求
      • 1.2 java环境要求
      • 1.3 安装JDK
    • 2.安装 Kafka
      • 2.1 下载 Kafka
      • 2.2 创建数据日志目录
      • 2.3 配置Kafka配置文件
      • 2.4 配置zookeeper配置文件
    • 3.启动与停止Kafka
      • 3.1开启ZooKeeper
      • 3.2启动Kafka:
      • 3.3停止zookeeper
      • 3.4停止kafkfa
    • 4.创建生产者topic和消费者topic简单示例
    • 5.安装cpolar内网穿透工具
    • 6.配置公网地址
    • 7.保留固定TCP公网地址
    • 总结
    • 总结

1.安装前准备

1.1 操作系统要求

Kafka可以在多种 Linux 发行版 发行版&上运行,本文以CentOS 7为例,其他发行版步骤类似,只需调整包管理命令。

1.2 java环境要求

Kafka基于Java开发,需安装JDK 8 或以上版本

java-version

1.3 安装JDK

下载 JDK

  • Oracle 官网或 OpenJDK 官网下载 Linux 版本
  • 示例(OpenJDK 8):
wgethttps://download.java.net/openjdk/jdk8u41/ri/openjdk-8u41-b04-linux-x64-14_jan_2020.tar.gz

解压安装包

mkdir-p/usr/local/javatar-zxvfopenjdk-8u41-b04-linux-x64-14_jan_2020.tar.gz-C/usr/local/java

配置环境变量
在 /etc/profile 末尾追加:

exportJAVA_HOME=/usr/local/java/jdk1.8.0_41exportPATH=$PATH:$JAVA_HOME/bin

使配置生效:

source/etc/profile

验证安装

java-version

2.安装 Kafka

2.1 下载 Kafka

  • 官网下载
  • 示例版本:3.6.2

linux系统可以直接命令一键安装:

wgethttps://downloads.apache.org/kafka/3.9.1/kafka_2.13-3.9.1.tgztar-xzfkafka_2.13-3.9.1.tgzmvkafka_2.13-3.9.1 kafka

2.2 创建数据日志目录

在kafka解压目录同一路径下:创建一个kafka_data,用于装kafka和zookeeper的log和数据等:

mkdir-p/opt/kafka_datamkdir-p/opt/kafka_data/zookeepermkdir-p/opt/kafka_data/logmkdir-p/opt/kafka_data/log/kafkamkdir-p/opt/kafka_data/log/zookeeper

2.3 配置Kafka配置文件

编辑这个文件:

broker.id=0port=9092host.name=iplog.dirs=/opt/kafka_data/log/kafkazookeeper.connect=localhost:2181

2.4 配置zookeeper配置文件

dataDir=/opt/kafka_data/zookeeperdataLogDir=/opt/kafka_data/log/zookeeperclientPort=2181maxClientCnxns=100tickTimes=2000initLimit=10syncLimit=5

3.启动与停止Kafka

3.1开启ZooKeeper

开启ZooKeeper:

./zookeeper-server-start.sh../config/zookeeper.properties&

3.2启动Kafka:

./kafka-server-start.sh../config/server.properties&

验证是否启动成功:

jps

输出应包含:

QuorumPeerMain Kafka

3.3停止zookeeper

./zookeeper-server-stop.sh../config/zookeeper.properties&

3.4停止kafkfa

./kafka-server-stop.sh../config/server.properties&

4.创建生产者topic和消费者topic简单示例

在一个终端执行创建生产者: (推消息到shan)

cd/opt/bin/#进入kafka目录./kafka-console-producer.sh --broker-list192.168.42.140:9092--topicwd_test#wd_test你要建立的topic名

在一个终端执行创建消费者: (从shan上消费消息)

cd/opt/bin/#进入kafka目录./kafka-console-producer.sh --broker-list192.168.42.140:9092--topicwd_test#消费shan中topic消息

查看效果: 一个终端不断输入推送的消息,另一个终端则消费这个消息

查看当前主题:

./kafka-topics.sh--zookeeperlocalhost:2181--list

你正在家里远程办公,突然接到任务:需要验证一个新业务模块的消息生产与消费逻辑。

但Kafka集群部署在公司内网测试环境,没有公网IP,防火墙也不开放9099/9092端口——你既无法连接Broker创建Topic,也无法从本地启动生产者或消费者进行调试。

传统的做法是:

  • 提交代码到CI/CD触发部署(慢)
  • 求运维临时开防火墙(麻烦)
  • 或干脆去公司(不现实)

有没有更敏捷的方式?

有!借助内网穿透工具,我们可以将内网Kafka的9092端口安全暴露到公网。

只需一条隧道命令,你的本地开发机就能像在内网一样:

  • 通过 kafka-topics.sh 创建测试 Topic
  • 用 kafka-console-producer.sh 发送消息
  • 用 kafka-console-consumer.sh 实时消费验证

整个过程无需改动 Kafka 配置、无需网络权限审批,5 分钟打通内外网,让开发调试回归高效。

跟我一起来操作吧~

5.安装cpolar内网穿透工具

cpolar 可以将你本地电脑中的服务(如 SSH、Web、数据库)映射到公网。即使你在家里或外出时,也可以通过公网地址连接回本地运行的开发环境。

❤️以下是安装cpolar步骤:

使用一键脚本安装命令:

sudocurlhttps://get.cpolar.sh|sh

安装完成后,执行下方命令查看cpolar服务状态:(如图所示即为正常启动)

sudosystemctl status cpolar

Cpolar安装和成功启动服务后,在浏览器上输入虚拟机主机IP加9200端口即:【ip:9200】访问Cpolar管理界面,使用Cpolar官网注册的账号登录,登录后即可看到cpolar web 配置界面,接下来在web 界面配置即可:

打开浏览器访问本地9200端口,使用cpolar账户密码登录即可,登录后即可对隧道进行管理。

6.配置公网地址

通过配置,你可以在本地 WSL 或 Linux 系统上运行 SSH 服务,并通过 Cpolar 将其映射到公网,从而实现从任意设备远程连接开发环境的目的。

  • 隧道名称:可自定义,本例使用了:zookeeper,注意不要与已有的隧道名称重复
  • 协议:tcp
  • 本地地址:2181
  • 端口类型:随机临时TCP端口
  • 地区:China Top

创建成功后,打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了公网地址,接下来就可以在其他电脑或者移动端设备(异地)上,使用任意一个地址在终端中访问即可。

  • tcp 表示使用的协议类型

  • 2.tcp.cpolar.top是 Cpolar 提供的域名

  • 13917是随机分配的公网端口号

通过Cpolar提供的公网地址和端口,Kafka就能从本地启动生产者或消费者进行调试啦!

生产:

./kafka-console-producer.sh --broker-list2.tcp.cpolar.top:13917--topicshan

消费:

./kafka-console-consumer.sh --bootstrap-server2.tcp.cpolar.top:13917--topicshan

7.保留固定TCP公网地址

使用cpolar为其配置TCP地址,该地址为固定地址,不会随机变化。

选择区域和描述:有一个下拉菜单,当前选择的是“China Top”。
右侧输入框,用于填写描述信息。
保留按钮:在右侧有一个橙色的“保留”按钮,点击该按钮可以保留所选的TCP地址。
列表中显示了一条已保留的TCP地址记录。

  • 地区:显示为“China Top”。

  • 地址:显示为“26.tcp.cpolar.top:13166”。

登录cpolar web UI管理界面,点击左侧仪表盘的隧道管理——隧道列表,找到所要配置的隧道Kafka,点击右侧的编辑

修改隧道信息,将保留成功的TCP端口配置到隧道中。

  • 端口类型:选择固定TCP端口
  • 预留的TCP地址:填写保留成功的TCP地址

点击更新

创建完成后,打开在线隧道列表,此时可以看到随机的公网地址已经发生变化,地址名称也变成了保留和固定的TCP地址。

最后就可以使用命令测试啦!

总结

其实不止 Kafka,像 Zookeeper、Redis 这类部署在内网的服务,都能靠这种内网穿透的思路解决远程访问问题。作为开发者,咱们追求的就是高效解决问题,不用被环境和网络限制住手脚。

置到隧道中。

  • 端口类型:选择固定TCP端口
  • 预留的TCP地址:填写保留成功的TCP地址

点击更新

创建完成后,打开在线隧道列表,此时可以看到随机的公网地址已经发生变化,地址名称也变成了保留和固定的TCP地址。

最后就可以使用命令测试啦!

总结

其实不止 Kafka,像 Zookeeper、Redis 这类部署在内网的服务,都能靠这种内网穿透的思路解决远程访问问题。作为开发者,咱们追求的就是高效解决问题,不用被环境和网络限制住手脚。

希望今天这个小技巧能帮到经常和内网服务打交道的你,少走点弯路,多省点时间在真正的开发调试上。如果有其他好用的远程调试小妙招,也欢迎在评论区聊聊~

http://www.jsqmd.com/news/577208/

相关文章:

  • 如何用JD-GUI快速破解Java反编译难题:5个技巧让代码分析效率翻倍
  • 3个步骤让你的Windows右键菜单告别杂乱,工作效率提升80%
  • OpenAI API请求超时?别急着换魔法,先检查你的Python代理设置(附127.0.0.1:2802配置示例)
  • Kafka消费者故障恢复与容错设计:构建永不宕机的数据管道
  • 【优化求解】基于matlab粒子群算法面向弹性提升的多种应急资源参与配电网抢修恢复【含Matlab源码 15275期】
  • 考研、备考夜间需要什么零食提神?美团松鼠便利一站式囤货,解锁高效备考新方式 - 资讯焦点
  • SecGPT-14B完整指南:从镜像拉取、服务启动、参数调优到故障排查
  • 5分钟搞定Windows运行库缺失:VisualCppRedist AIO一站式解决方案
  • MyBatis-Plus拦截器进阶:除了动态表名,还能做这7件事
  • 告别繁琐配置:用快马ai一键生成anaconda环境搭建脚本
  • 开发一个小程序需要多少钱 - 码云数智
  • 音乐节一整天要喝很多水,外卖能提前备好送到附近吗?实测有效,美团松鼠便利更省心 - 资讯焦点
  • Libsvm 编译mex不同平台兼容性问题 Application not supported on glnxa64 due to platform dependencies. Intended pl
  • 普通程序员有必要深入学习JVM底层原理吗?
  • PTA Python编程题库解析与核心知识点精讲(实战篇)
  • 01-HMC7044输出时钟给高速DA后相位噪声较差问题
  • Attu:Milvus可视化管理工具 向量数据库高效运维解决方案
  • Windows缩略图预加载革命:告别文件夹加载卡顿的终极解决方案
  • 2026/4/1
  • Qwen2.5-7B-Instruct实战教程:用Chainlit构建交互式AI对话应用
  • League Akari:英雄联盟玩家的智能游戏伴侣,如何用开源工具提升你的竞技体验
  • 2026高考美术集训机构推荐:美术培训机构/美术培训画室/美术联考培训/美术集训推荐画室/美术集训费用/选择指南 - 优质品牌商家
  • 2026年sabic厂家推荐:塑料pc/abs工程塑料/pc+abs塑料/pc/abs/pc塑料/选择指南 - 优质品牌商家
  • 如何突破设计开发协作的效率瓶颈:Figma与JSON双向转换实战指南
  • 如何轻松通过B站硬核会员试炼?bili-hardcore让AI为你自动答题
  • 【金蝶云星空】有发票模块非暂估模式下,期初应付录入
  • intv_ai_mk11快速上手:5类高频Prompt模板(解释/对比/润色/生成/总结)即拿即用
  • 如何在5分钟内构建你的专业在线演示文稿:PPTist完全指南
  • python-langchain框架(1-8-1 缓存机制——让 AI 应用“记住”高频问题)
  • UE:如何解决渲染时UMG大小不变的问题