weigeonlyyou

2
获赞数
0
关注数
0
粉丝数
IP 属地吉林
2023-01-10 加入
浏览 3.3k

大数据,物联网,微服务,前后端架构,go语言,微信小程序,vx:weigeonlyyou

7 声望
时序数据库
3
clickhouse
3
prometheus
3
etl
3
influxdb
3
黄金勋章
暂未获得该勋章
如何获得
白银勋章
暂未获得该勋章
如何获得
1 青铜勋章
个人动态
  • 发布了文章2025-03-09
    迎接deepseek,助力企业AI整合
    deepseek为什么会成功出圈中国在软件开源方向真正做出贡献,以前一直是获取。将英伟达股市打下来,降低算力成本,成为新的市场杠杆。无法回避风口雷布斯曾经说过,猪站在风口上都会飞起来,顺势而为之。1、为toB/toG提供私有化部署AI大模型 {代码...} ​2、定制化开发...
  • 发布了文章2024-12-30
    部署 及 使用 etl crontab 和 etl engine
    conf.cron 该文件配置了etl-engine引擎文件位置,每个etl任务在什么时刻执行,及日志输出级别,http服务端口号等信息, 各参数可根据实际情况进行修改,具体参数可参看etl_engine.pdf文件或其它资料。 如:下面两个配置要根据实际情况进行修改。 {代码...}
  • 发布了文章2024-08-14
    etl 读写 elastic 同步数据
    Elasticsearch是用Java语言开发的,并作为Apache许可条款下的开放源码发布,是一种流行的企业级搜索引擎。Elasticsearch用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。说的直白一点,你可以用Elasticsearch在企业内部搭建出类似百度、谷歌之类的...
  • 发布了文章2024-07-16
    etl 常用数据类型转换 元数据配置说明
    在实施etl过程中,经常会遇到不同类型之间的转换,方式有很多种,下面是项目中使用etl-engine进行数据类型转换的收集整理,方便日后工作中查阅。etl-engine转换的方式有多种,一种是通过sql语句直接转换(比较方便),另一种是通过在输出节点的beforeout 标签中嵌入g...
  • 发布了文章2024-06-28
    etl engine 实现 redis与mysql之间的数据同步
    Redis是一个开源的使用C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,因其读取速度快、也可用于消息队列使用等场景,已经成为项目中不可缺少的一部分。本案例是通过etl engine实现redis与mysql之间的数据同步。
  • 发布了文章2023-09-12
    etl-engine cdc 模式有哪些应用场景
    CDC是Change Data Capture(数据变更捕获)的缩写,是一种数据同步技术.常用于大量数据的备份工作,分为入侵式的和非入侵式的备份方法,入侵式的有基于触发器备份、基于时间戳备份、基于快照备份,非入侵式的备份方法是基于日志的备份,etl-engine是基于日志方式进行捕获...
  • 发布了文章2023-08-09
    国产 etl-engine 监控面板 为管理者掌握平台运行情况,决策执行方案提供即时数据支撑
    etl-engine 监控面板 实现动态监控“任务执行成功率分析”、“API接口调用分析”、“调度运行时长”、“服务心跳分析”等功能,为管理者掌握平台运行情况,决策执行方案提供即时数据支撑。
  • 发布了文章2023-08-02
    etl engine 监控面板 为管理者掌握平台运行情况,决策执行方案提供即时数据支撑
    etl-engine 监控面板国产 etl 产品,go 语言开发 ,跨平台,轻量级,开箱即用易集成etl engine 监控面板 为管理者掌握平台运行情况,决策执行方案提供即时数据支撑敬请关注最新动态参考资料免费下载 etl-engine使用手册 etl-crontab使用手册 嵌入脚本开发 etl-engine...
  • 发布了文章2023-06-04
    流批一体数据交换 etl-engine 融合查询语法
    etl-engine引擎中的融合查询提供将多源数据在内存中重组关联查询并输出查询结果的能力。融合查询语法遵循ANSI SQL标准,与常规MySQL查询语法很相似。
  • 发布了文章2023-05-11
    流批一体数据交换引擎解决方案
    流式处理方式目前已经备受关注,代表性的产品有Flink,用JAVA开发,但产品实施复杂,开发门槛要求高,维护成本较高,属于国外产品,敏感领域使用需要慎重考虑。
  • 发布了文章2023-04-22
    dbtemplate 是什么
    可嵌入到设备上,充当访问设备端数据库的中间件,也可以是小型WEB服务端的选择(当然要看你业务的复杂程度,基本上数据表的操作都能满足,适合快速交付使用)。
  • 发布了文章2023-04-08
    流批一体数据交换引擎 etl-engine
    随着大数据领域不断发展,企业对于业务场景的诉求也从离线的满足转到高实时性的要求,数栈产品也在这一过程中进行着不断的迭代升级,随之诞生了kafka+flink组合 ,同时kafka + etl-engine(融合计算的加持)组合也实现了轻量级的流式计算引擎。
  • 发布了文章2023-03-15
    etl 增量对比解决方案 etl-engine 如何实现增量对比
    增量对比实现的逻辑是将原表与目标表的数据通过算法进行对比,然后只将差异数据(增加、删除、修改)同步到目标表,在最小化操作目标表的同时还保证了目标表数据的完整性。
  • 发布了文章2023-02-27
    hive etl 通过 ETL 导出 Hive 中的数据
    什么是Hive?Hive是在Hadoop分布式文件系统上运行的开源分布式数据仓库数据库,用于查询和分析大数据。数据以表格的形式存储(与关系型数据库十分相似)。数据操作可以使用名为HiveQL的SQL接口来执行。HiveQL默认情况下会转换成MapReduce进行计算(降低了开发难度),...
  • 发布了文章2023-01-30
    ETL工具如何实现高可用?ETL工具高可用解决方案
    为解决高可用场景,etl-crontab提供向consul进行服务注册,第三方系统可通过从consul进行服务发现来获取etl-crontab所提供的服务地址。
  • 发布了文章2023-01-27
    国产 ETL工具 ETL产品 数据交换系统 ETL工具选型 需要考虑哪些因素
    多数软件又为什么逐渐国产化? 长期以来,国内数据技术都由海外厂商主导。然而随着国际竞争环境日益激烈,争端所引发的技术卡脖子事件频发,面对特殊的大环境,全球化带来的科技创新共同体背后,国家IT产业实现自主可控的重要性不言而喻。为确保国家信息安全,政府部...
  • 发布了文章2023-01-15
    ETL 引擎 engine 适配 elasticsearch
    etl-engine 已经提供 读elasticsearch节点、写elasticsearch节点(测试环境elastic V8.5.2、elastic V7.17.6)通过etl-engine 可方便实现对关系型数据库、NoSQL之间相互数据交换能力及数据分发能力。========= 分割线 ==========
  • 发布了文章2023-01-12
    ETL 是什么 ETL 工具有哪些 ETL 数据交换系统
    ETL简介ETL是英文Extract-Transform-Load的缩写。用来描述将数据从源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程。它能够对各种分布的、异构的源数据(如关系数据)进行抽取。按照预先设计的规则将不完整数据、重复数据以及错误数据等“脏"数据内...
  • 发布了文章2023-01-10
    国产 ETL 工具 etl-engine 流批一体数据交换系统 轻量级 跨平台 引擎
    产品概述我们不仅仅是数据的搬运工,还是数据搬运过程中加工处理的工厂。我们不仅仅适用关系型数据库中,还适配当下流行的时序数据库、消息中间件、Hadoop生态中,支持多种类型数据库之间的融合查询及流式计算。etl-engine的核心思想是为用户快速搭建ETL产品提供解决...