centos:go-mysql-elasticsearch实现mysql 与elasticsearch实时同步

缺点:删除数据-同步不支持

步骤1:安装go

yum install go

步骤2:安装godep

go get github.com/tools/godep

centos下载不下来,我采取了另一种方法

  1. 先从 https://github.com/tools/godep 下载下来
    放到
    /root/go/src/github.com/tools 下面
cd godep
go install ./    #该命令会将 godep 生成到go 文件夹里面的bin目录下

2.设置环境变量
vi /etc/profile

export GOPATH=/root/go
export GOBIN=/root/go/bin
export PATH=$PATH:$GOPATH/bin

source /etc/profile //生效文件

然后运行 godep 发现可以输出一些命令,成功

还有一种就是gomod 现在都是gomod 我也没试过 可以试试

下载地址 https://github.com/siddontang/go-mysql-elasticsearch

或者通过git

git clone https://github.com/siddontang/go-mysql-elasticsearch

cd go-mysql-elasticsearch
 make

make 报错

go: github.com/BurntSushi/toml@v0.3.1: reading github.com/BurntSushi/toml/go.mod at revision v0.3.1: unknown revision v0.3.1
make: *** [build-elasticsearch] Error 1

直接执行代理:

go env -w GO111MODULE=on
go env -w GOPROXY=[https://goproxy.io,direct](https://links.jianshu.com/go?to=https%3A%2F%2Fgoproxy.io%2Cdirect)

vi etc/river.toml

# MySQL address, user and password
 # user must have replication privilege in MySQL.
 my_addr = "127.0.0.1:3306"     //需要同步的mysql基本设置
 my_user = "root"
  my_pass = "root"
  
  # Elasticsearch address
  es_addr = "127.0.0.1:9200"     //本地elasticsearch配置
  
 # Path to store data, like master.info, and dump MySQL data 
 data_dir = "./var"             //数据存储的url
  //以下配置保存默认不变
 # Inner Http status address
 stat_addr = "127.0.0.1:12800"
 
 # pseudo server id like a slave 
 server_id = 1001
 
 # mysql or mariadb
 flavor = "mysql"
 # mysqldump execution path
 mysqldump = "mysqldump"
 
 # MySQL data source
 [[source]]
 schema = "hoojjack"             //elasticsearch 与 mysql 同步时对应的数据库名称
 
 # Only below tables will be synced into Elasticsearch.
 # "test_river_[0-9]{4}" is a wildcard table format, you can use it if you have many sub tables, like table_0000 - table_1023
 # I don't think it is necessary to sync all tables in a database.
 tables = ["test_river", "test_river_[0-9]{4}"]    //支持通配符,可以指定只复制hoojjack数据库中指定的表数据
 
 # Below is for special rule mapping
 [[rule]]
 schema = "hoojjack"    //数据库名称
 table = "test_river"   //表名称
 index = "river"        //对应的索引名称
 # title is MySQL test_river field name, es_title is the customized name in Elasticsearch
   [rule.field]
 # This will map column title to elastic search my_title
   title="es_title"     //将可以将mysql的某个属性对应指向elasticsearch的某个field, 如test_river的titile属性对应es_title
 # This will map column tags to elastic search my_tags and use array type
   tags="my_tags,list"
 # This will map column keywords to elastic search keywords and use array type
   keywords=",list"
 
 # wildcard table rule, the wildcard table must be in source tables 
   [[rule]]
   schema = "hoojjack"
   table = "test_river_[0-9]{4}"
   index = "river"
   type = "river"
 
 # title is MySQL test_river field name, es_title is the customized name in Elasticsearch
   [[rule.fields]]
   mysql = "title"
   elastic = "es_title"

执行go-mysql-elasticsearch同步,首先进入 go-mysql-elasticsearch 路径,
cd /root/go/src/github.com/tools/go-mysql-elasticsearch

然后执行  ./bin/go-mysql-elasticsearch -config=./etc/river.toml

后台启用

nohup ./bin/go-mysql-elasticsearch ./etc/river.toml 1>info.log 2>&1 &

报错:canal dump mysql err:
CentOS7开启MySQL binlog日志
vim /etc/my.cnf

#添加
log-bin=mysql-bin
server-id=1

重启mysql

service mysqld restart

验证

mysql -uroot -p
然后输入 password
show variables like '%log_bin%';
![image.png](https://upload-images.jianshu.io/upload_images/19694511-bea6177920758a59.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容